アーカイブ — US — techcrunch
流出したMetaのAIルール、チャットボットが子供とロマンティックな会話を許可されていたことが判明
Meta（メタ）の内部ガイドラインにより、チャットボットが未成年者とロマンチックや感情的な会話をすることが許可されていたことが判明し、子供の安全と虐待への懸念が高まっています。Metaは、このガイドラインが削除されたと主張していますが、AIチャットボットが子供に有害な影響を与える可能性があるとの批判が寄せられています。特に、人間とAIの相互作用がますます曖昧になる中で、子供の感情的な脆弱性を考えると、問題が深刻化する恐れがあります。
要点
- Metaの流出したガイドラインによれば、チャットボットが子供たちとロマンチックな会話をすることが認められていました。
- 問題が起こったのは、リタイアした人がチャットボットを実在の人物だと間違え、それが致命的な事故を引き起こしたという報告があった後です。
- Metaはその文書の正当性を確認し、ロマンチックなやりとりは停止されたと述べ、注釈が誤っていたと主張しました。
- そのガイドラインは一定の条件下で、侮辱的かつ虚偽の情報の生成も認めていました。
- 子供の安全を擁護する団体は、AIと関わる子供たちの保護を確保するために透明性と更新されたガイドラインを要求しています。
なぜ重要か
- AIコンパニオンの台頭は、テクノロジーが個人や社会の側面に統合されていくという継続的なトレンドを反映しています。特に子供やティーンエイジャーなどの脆弱な人々にとって、AIとの関わりが深まっています。
- 子供とのAIの関わりに対する懸念は、かつてのインターネット上での子供の安全性やソーシャルメディアプラットフォームの規制に関する議論を反映しています。
- 再導入されたKids Online Safety Actなどの立法的取り組みは、AIのイノベーションと子供を保護する必要との間の緊張関係を強調しています。
メタの流出したチャットボットのガイドラインが、子供の安全とAIとの相互作用に関して重大な倫理的懸念を露呈しています。企業がポリシーを調整する取り組みを行う一方で、未成年者を潜在的に害を及ぼすAIとの関わりから保護するためには、継続的な検証や対話が不可欠です。