アーカイブ — US — techcrunch
OpenAI、ChatGPTのパーソナリティに関する研究チームを再編成
オープンエーアイ（OpenAI）は、「モデル・ビヘイビア」チームを再編成し、その機能をより大きな「ポストトレーニング」チームに統合する方針です。この変更は、ユーザーの受け答えに関する問題、特にアイの過剰なほめ言葉と最近の悲劇的な出来事に関連するケースに対処するために行われます。かつてのリーダーであったジョアン・ジャンは、新たなAIコラボレーションインターフェースを探求するOAI Labsを立ち上げる予定です。
要点
- OpenAIのModel Behaviorチームは、AIモデルとユーザー間の相互作用を向上させるためにPost Trainingチームに統合される。
- Model Behaviorチームは約14人の研究者で構成され、AIの人格形成と諂いを減らすことを目指している。
- Model Behaviorチームの元リーダーであるJoanne Jangは、OpenAI内にOAI Labsを立ち上げて新しいAIコラボレーションインターフェイスを開発する。
- GPT-5に関するユーザーフィードバックを受けて、OpenAIはAIの人格をよりフレンドリーに調整しつつ諂いを最小限に抑えるようにしている。
- OpenAIに対する訴訟がAIの相互作用の潜在的なリスクを示し、責任あるAI対応の管理の必要性を強調している。
なぜ重要か
- AIモデルに対する注目が高まっています。ある悲劇に関連するAIの反応が問題視され、AIの責任についての議論が続いています。
- AIのトレンドは、2025年に向けてのAI開発における重要な課題であるユーザーエンゲージメントの向上と倫理的考慮のバランスに焦点を当てています。
- AIユーザーインターフェースの発展は拡大傾向にあり、OpenAIなどの企業がより良い協力のための革新的な方法を模索しています。
- AI企業における構造変化は、AI倫理と効果に関する世界的な懸念が高まる中で、テック企業全体の大きな変化を反映しています。
OpenAIは、ユーザーからのフィードバックや倫理的な懸念に対応する戦略として、Model Behaviorチームの再編成を行いました。これは、よりバランスの取れたAIとの相互作用体験を促進することを目的としています。Joanne JangによるOAI Labsの設立は、AIの協力と革新に対する先見の明を示しています。