재학습은 잊어라 - 이제 AI가 다른 AI의 가중치를 조정할 수 있다

무슨 일이 있었나

MIT CSAIL 연구자들은 OpenAI의 GPT-6 Astra 같은 최첨단 AI 모델이 다른 모델의 가중치를 직접 다시 써서 그 모델의 행동을 바꿀 수 있다고 발표했습니다. 보통은 학습을 여러 번 반복해서 바꾸지만, 이번에는 AI가 가중치를 '읽고, 이해하고, 고치는' 방식을 썼습니다. 연구팀은 이 기법을 '가중치 공간 프로그래밍(Weight-Space Programming)'이라고 부릅니다.

핵심 수치

• Astra는 Qwen3.5-0.8B 모델의 가중치 중 0.016%만 바꾸었습니다.
• 수학 벤치마크 MATH-500 점수가 최대 6배 올랐습니다.
• 지시 따르기 벤치마크 IFEval 점수는 약 3배 올랐습니다.
• 학습 과정(경사 하강법)은 전혀 쓰지 않았습니다.

가중치란 무엇인가

AI 모델은 '뉴런'과 '가중치'라는 수많은 숫자로 이루어져 있습니다. 가중치는 AI가 무엇을 얼마나 중요하게 여길지 정하는 설정값이라고 생각하면 쉽습니다. 지금까지는 이 값을 바꾸려면 데이터로 다시 학습시켜야 했습니다. 이번 연구는 AI가 이 값을 코드처럼 읽고 고칠 수 있다는 가능성을 보여줍니다.

왜 중요한가

이 방법이 잘 되면 모델을 고칠 때 새 지식을 넣으면서 기존 능력을 잊어버리는 '재앙적 망각' 문제를 줄일 수 있습니다. 또 AI가 스스로를 개선하는 길, 그리고 AI의 판단 과정을 이해하고 안전하게 맞추는 연구에도 도움이 될 수 있습니다. 다만 이것은 초기 단계의 발견입니다.

앞으로 지켜볼 점

• 연구팀이 이 작업을 평가할 수 있는 표준 벤치마크와 실행 도구를 만들 계획입니다.
• 다른 연구자들이 같은 결과를 재현할 수 있는지 지켜봐야 합니다.
• AI가 스스로 가중치를 고치는 기술이 안전하게 통제될 수 있는지도 중요한 질문입니다.