OpenAI、AIの行動指針「Model Spec」を改定 “記憶”の使い方や人間による監督を明記

何が起きたのか

OpenAIは10月29日（現地時間）、AIの行動指針「Model Spec」の新しい版を公開しました。指針全体を5つの価値観で組み直し、過去の会話やメモリの扱い方、人間による監督への協力などのルールを加えました。一方で、ChatGPTの性格設定や話し方に関する細かいガイドラインは、ほとんど削除しました。

押さえておきたい数字と事実

• Model Specは2024年5月に最初の版が公開されました。
• 今回の改定は8月18日以来の改定です。
• 新版の柱は5つの価値観です。「人間の意図への忠実さ」「害の最小化」「誠実さと透明性」「人間の主体性」「配慮」です。
• 最も優先度の高い「Root」レベルのルールとして、正当な人間による監督や修正、停止の指示に協力することが明記されました。
• モデルの呼び名は「the assistant」から「GPT」に変わりました。

Model Specとは

Model Specは、ChatGPTやAPIで使えるGPTモデルが、どんな振る舞いをするのが望ましいかを示す文書です。OpenAI、開発者、ユーザーの指示が食い違ったときにどれを優先するかや、作ってはいけないコンテンツの範囲なども定めています。

なぜ大切なのか

AIが過去の会話や記憶をどう使うかは、利用者のプライバシーに直結します。例えば、同僚に妊娠を伝えていない人の頼みで同僚宛てのメールを作る場合、その事実を書き込まないなどの例が示されています。また、AIが勝手に別の作業を進めたり、人間の停止指示を避けたりしないよう、ルールを明確にした点も重要です。ただし、OpenAIは「この指針は目指す姿であり、現在のモデルはまだ完全には反映していない」としています。

今後注目したいこと

• 新しい指針が、実際のChatGPTの振る舞いにどれだけ反映されるか。
• 記憶の扱いで、ユーザーが情報を確認して直せる仕組みが広がるか。
• AIエージェントが人間の監督に従い続けるかどうか。