アーカイブ — US — techcrunch
Meta、ティーンユーザーへの不適切なトピック回避のためチャットボット規則を更新
Metaは、以前のガイドラインが自傷行為や恋愛についての議論を許可していたことに対する批判を受け、十代のユーザーを不適切なコンテンツから保護するためのAIチャットボットのポリシーを更新することになりました。暫定的な変更により、十代のユーザーが特定のチャットボットにアクセスすることが制限され、安全性が強調されます。今後はより包括的な更新が計画されています。
要点
- Metaは、調査レポートの結果、以前の問題点が明らかになったことを受けて、AIチャットボットのトレーニングを変更し、ティーンエイジャーの安全性向上に取り組むことにしました。
- チャットボットは、もはや自傷行為、自殺、摂食障害などのデリケートなトピックでティーンエイジャーと関わらないようになります。
- Metaは、未成年者と不適切なトピックを議論させていた過去の誤りを認めています。
- 新しい制限が設けられ、ティーンエイジャーが利用できるAIキャラクターの種類が制限され、教育コンテンツに露出するリスクが軽減されます。
- Josh Hawley上院議員が、マイナスの宣伝に続きMetaのAIポリシーに対する調査を開始しました。
- 州検事総長44名の連合が、子供たちの感情的健康に対するリスクに憤りを表明しました。
なぜ重要か
- ソーシャルメディア企業への監視が強化される中、変化が起きています。
- オンラインプラットフォームが若者のメンタルヘルスに与える影響に関する歴史的懸念が、立法措置を促しています。
- Disrupt 2025は、技術分野で進行中のAIの倫理的な問題と社会への役割に関する議論を反映しています。
メタは、直ちにチャットボットポリシーを変更することで、未成年者向けの安全なデジタル環境への需要が高まっていることを示しており、これはより広範な社会的関心やテック産業における潜在的な規制措置を反映しています。