アーカイブ — US — techcrunch
OpenAI、ChatGPTに新たなティーン安全ルールを追加 法令制定者が未成年者向けAI基準を検討中
OpenAIは、ChatGPTの安全ガイドラインを更新し、10代以下のユーザーをよりよく保護する取り組みを強化しました。AIが思春期の若者に与える影響に関する懸念が高まっており、特に自殺に関連した悲劇が発生したことを受けて、これらの動きが行われました。更新されたモデルは不適切なコンテンツを制限し、安全性を促進すると同時に、AIの使用において親の関与を推進しています。これらの対策は、未成年者とのAIの相互作用のための基準を確立しようとする政策立案者による規制の検証を受ける中で行われています。
要点
- OpenAIは、安全上の懸念に対応して、18歳未満のユーザー向けのAI行動ガイドラインを更新しました。
- 法律家、教育者、および提唱者からの監視が強まっており、若者とAIのやり取りに関わる悲劇的な事件がこれに触発されています。
- ガイドラインでは、ChatGPTにロマンチックなあるいはリスキーな役割演技をさせないよう禁止し、ユーザーに安全性を優先するようアドバイスしています。
- 全米各州の検事総長42名が、未成年者とAIとのやり取りに対する保護策の実施をテクノロジー企業に求めています。
- OpenAIの新しいシステムには、未成年者を識別してより厳格なガイドラインを適用するための年齢予測モデルが含まれています。
- 新しいガイドラインにも関わらず、AIによる実際の実施と準拠については疑問が残っています。
- Josh Hawley議員を含む政策立案者たちは、未成年者とAIチャットボットとのやり取りを完全に制限するための立法措置を検討しています。
なぜ重要か
- 多くのテック企業が過去に十分な子供保護策がないことで批判を受け、未成年者とのやり取り方針が検討されてきました。
- 現在のAI規制のトレンドは、特に弱者層に関連する透明性と安全対策の強化を求めるものです。
- カリフォルニア州のSB 243は、未成年者のデジタル環境における安全確保に向けた立法的動きの拡大を反映し、OpenAIの新ガイドラインと一致しています。
OpenAIのChatGPTの更新された安全対策は、規制当局の監視が強まる中、積極的なアプローチを反映しています。しかし、これらの方針の効果は、現実世界の相互作用における遵守の具体的な証拠がない限り、疑問が残ります。