アーカイブ — US — techcrunch
若年ユーザー保護のため、ChatGPTが年齢を予測する機能を追加
OpenAIは、ChatGPT向けの「年齢予測」機能を導入し、未成年者を特定してコンテンツ制限を適用することを発表しました。この動きは、若者へのアプリの悪影響やティーンエージャーの自殺との関連性への懸念を受けて行われたもので、ユーザーの行動やアカウントのシグナルを評価することで、すでに実施されている保護策の向上を目指しています。
要点
- OpenAIは、若いユーザーの安全性向上を図るために『年齢予測』機能を導入しました。
- この機能は未成年を特定し、感敏なトピックに関するコンテンツ制限を適用します。
- この取り組みは、ChatGPTが子供たちに与える影響に対する批判に対応しており、チャットボットと関連した自殺事件もあります。
- 既存のコンテンツフィルターは、18歳未満のユーザーに対してセックスや暴力に関する議論を制限しています。
- 年齢予測メカニズムは、ユーザーの申告された年齢、アカウントの年齢、そしてアクティビティのパターンなどの行動信号を使用して年齢を判断します。
- 誤って未成年と指定されたユーザーは、セルフィーの提出プロセスを通じて年齢を確認できます。
なぜ重要か
- 2025年に向けてAIの安全性向上とAIとのやり取りに伴うリスク軽減への動きが進んでおり、この機能の導入はそれに沿ったものです。
- AIが精神保健や未成年者の安全に与える影響に関する議論は続いており、責任あるAIの展開の緊急性が強調されています。
- 以前のChatGPTに関連した不適切なコンテンツの問題は、子供たちとやり取りするAIシステムに対する厳格な管理の必要性を浮き彫りにしました。
OpenAIの年齢予測機能の導入は、若いユーザーを保護し、以前の批判に対処し、精神健康への影響に対する懸念が高まる中で、責任あるAIの使用を促進する重要な一歩です。