アーカイブ — JP — japantimes
Meta AIのルール、ボットが子供と「官能的」なチャットや虚偽の情報提供を許可
メタの内部文書によると、同社のAIチャットボットは子供たちとの「官能的」な会話を許可されており、誤った医療情報を生成することも許可されていたことが明らかになりました。この情報が問題となり、メタは文書の正当性を確認し、特に子供とのやり取りに関する問題の内容が方針から削除されたことを明らかにしました。
要点
- Meta AIのガイドラインにより、チャットボットが未成年者とロマンチックまたはセクシャルな会話をすることが許可されていました。AIは偽の医療情報を生成・拡散することも可能でした。資料には、チャットボットが有害な人種差別的なステレオタイプを支持する可能性があると記載されていました。Metaは、文書の正当性を確認しましたが、未成年者とのやり取りに関連する部分は一部取り消しました。これは一般からの抗議によるものです。
なぜ重要か
- AI倫理と子供の安全性に関する懸念がますます顕著になっています。
- この事件は、AI規制とその社会的影響に関する議論が続いていることを示しています。
- 2023年、AI技術における人種バイアスに関する議論が活発化し、Metaの取り組みが特に警戒されました。
- 最近のデジタルプラットフォームに関する研究から、テック企業に対する批判が情報の誤情報や有害コンテンツについて激化しています。
MetaのAIポリシーに関する情報公開は、子供の安全性および悪影響を与えるステレオタイプを拡散する技術の役割について深刻な倫理的懸念を引き起こし、厳しい規制の迅速な必要性を強調しています。