UK — The Register
再学習はもう不要 - AIが別のAIの重みを調整できるように
AI2分で読めます
MIT(マサチューセッツ工科大学)の研究者は、AIが別のAIの「重み」を直接書き換えて、その動きを変えられることを示しました。学習をやり直さずに性能を上げられる可能性があります。
何が起きたのか
MIT CSAILの研究チームは、OpenAIの「GPT-6 Astra」というAIが、別のAIモデル(Qwen3.5-0.8B)の重みを直接編集し、数学の性能を高めたと報告しました。通常の学習(トレーニング)を使わず、重みの数値を書き換えただけです。研究チームはこの方法を「Weight-Space Programming(重み空間プログラミング)」と呼んでいます。
主な数字と事実
- Astraが変えた重みは全体の0.016%だけ。
- 数学のベンチマーク「MATH-500」で、性能が最大6倍になった。
- 指示に従う力を測る「IFEval」では、およそ3倍になった。
- 学習での勾配降下法(gradient descent)は使っていない。
- ゲーム「Breakout」を遊ぶ方策ネットワークの重みも、ゼロから書かせることに成功した。
ちょっとした背景
AIモデルは、ニューロンと呼ばれる多くの計算部品と、それをつなぐ数値「重み」でできています。通常は、大量のデータで学習させて重みを少しずつ調整します。今回の研究は、その重みをAIが読んで理解し、直接直せるかを調べたものです。
なぜ重要なのか
学習をやり直すと、新しい知識を入れたときに、前に覚えたことを忘れてしまうことがあります。研究者は、この方法ならその問題を避けられるかもしれないと考えています。また、AIの動きを理解したり、こびへつらい(sycophancy)を減らしたりすることにも役立つかもしれません。ただし、これはまだ初期の成果です。
これから注目すべき点
- 研究チームは、この作業を標準的に評価するためのベンチマークと実行の仕組み(ハーネス)を作る予定。
- 他のモデルや別の課題でも同じ結果が出るかどうか。
- AIが自分自身を改良する「再帰的な自己改善」につながるかどうか。
用語解説
- MIT CSAIL
- マサチューセッツ工科大学のコンピュータ科学・人工知能研究所。
- GPT-6 Astra
- OpenAIのAIモデル。この研究では、別のモデルの重みを書き換える役目を担った。
- ベンチマーク
- AIの性能を同じ条件で比べるための共通のテスト。
- Qwen3.5-0.8B
- 研究で重みを書き換えられた、小さめのAIモデル。