GPT한테 다른 AI 뇌를 뜯어보라고 시켰더니 벌어진 일

출처: Sparks of Weight-Space Programming: LLMs can natively read & write neural network weights

 

 

 

 

요즘 AI는 똑똑하게 만들려면 데이터를 존나 많이 먹이고 수억 번 학습시켜야 함.

그런데 MIT 연구진이 갑자기 이상한 생각을 함.

"굳이 학습시켜야 하나? AI가 다른 AI의 뇌를 직접 고치면 안 됨?"

그래서 실제로 해봄.

 

 

 

 

 

AI의 뇌는 수많은 숫자(가중치)로 이루어져 있음.

연구진이 벽돌깨기, 팩맨 등 게임을 학습한 AI 네 개를 준비하고, GPT한테 숫자만 보여줌.

"이게 무슨 게임 하는 AI인지 맞혀봐."

그러자 숫자를 분석하더니

"이거 벽돌깨기네?"

4개 전부 정답 

게임 화면은 보여주지도 않았는데 맞힌 거임.

 

 

 

 

 

이번엔 자동차가 경사로를 넘어야 하는 게임임.

그런데 AI가 멍청해서 자꾸 앞으로만 달리다가 경사로에 박힘.

10억 스텝을 학습시켜도 해결을 못 함.

연구진이 다른 AI한테 물어봄.

"얘 왜 이러는지 보고 고쳐봐."

그러자 가중치 일부를 수정해서 자동차가 먼저 후진한 다음 가속하게 만듦.

결과는?

기존 AI 성공률 0% → 수정 후 100%

10억 번 학습해도 못하던 걸 숫자 몇 개 고쳐서 해결한 거임.

 

 

 

이번엔 약 8억 개 가중치를 가진 언어모델을 가져옴.

얘는 수학 문제를 풀다가 같은 생각을 무한 반복하는 문제가 있었음.

GPT가 내부를 살펴보더니 전체 가중치의 0.016%만 수정함.

그랬더니 수학 문제 정답률이 7.9%에서 48.1%로 올라감.

물론 수학 지식을 새로 가르친 건 아니고, 원래 풀 수 있던 문제에서 무한 반복하던 버릇을 고친 것에 가까움.

 

 

 

 

 

지금까지 AI 개발은 대충 이런 방식이었음.

"일단 수억 번 연습시켜. 그러면 알아서 똑똑해지겠지."

그런데 이번 연구는 다름.

"너 여기 잘못됐네? 내가 직접 고쳐줄게."

AI가 다른 AI의 내부 숫자를 읽고, 문제가 있는 부분을 찾아 직접 수정할 수 있다는 가능성을 보여준 거임.

물론 모든 AI를 이렇게 고칠 수 있는 건 아니고, 실패한 실험도 있음.

하지만 이 방식이 발전하면 앞으로는 AI를 처음부터 다시 학습시키지 않고 필요한 능력만 수정하는 시대가 올 수도 있음.