アーカイブ — US — techcrunch
OpenAI、18歳未満のChatGPT利用者に新たな制限を導入
OpenAIは、ChatGPTの安全性向上のための新しい方針を発表しました。18歳未満のユーザーの保護を重視し、プライバシーよりも保護を優先します。変更点には、いたずらっぽいやりとりの停止や自傷行為についての議論への介入が含まれます。新たな対策は、ChatGPTに関連する自殺事件のあった未成年者の親が起こした訴訟に続いて発表されました。この発表は、人工知能チャットボットのリスクに焦点を当てた上院公聴会と同時に行われました。
要点
- OpenAIのCEOであるSam Altmanは、18歳未満の利用者の安全性の必要性を強調しました。
- 新しい方針では、ChatGPTが浮気したり自殺について議論することを制限します。
- 深刻な場合、未成年者が自殺について話すと、システムは保護者や当局に通知します。
- これらの変更は、未成年者の自殺に関連した過失死訴訟に対応しています。
- OpenAIは未成年アカウントの利用を制限するために「ブラックアウト時間」を導入しました。
- これらのポリシーは、AIチャットボットの害について協議中の上院公聴会と同時に発表されました。
- ユーザーの年齢を正確に検証するための技術的な課題が存在し、開発中の提案されたシステムがあります。
なぜ重要か
- 未成年者に対するAIやチャットボットの心理的影響に対する懸念が高まっています。
- 子供たちを保護することを目的としたソーシャルメディア規制などの歴史的な先例。
- 特に精神的健康に関するAI技術と倫理的な影響に対する益々厳格な検査。
- 関連する出来事が、若い視聴者向けのテック製品に対するより厳しい規制を促しています。
OpenAIの新しい対策は、ChatGPTを利用する未成年者の安全を優先する方向に大きくシフトしています。これらの変更が進展するにつれ、業界は特に脆弱な人々に対するAI技術の影響について、より厳しい監視を受けるかもしれません。