アーカイブ — US — techcrunch
Google Gemini、子供とティーン向けに「高リスク」と評価される新たな安全調査結果
コモン・センス・メディアは、GoogleのジェミニAIを子どもたちにとって「高いリスク」と評価しました。適切にAIであることを示していたが、不適切なコンテンツと十分な安全機能の不足による懸念を指摘しました。Googleはこれに反論し、未成年者の保護策を持っているが、一部の対応が誤っていることを認めました。議論が続く中、AIが若者の安全に及ぼす影響と精神的健康問題のリスクの増加が懸念されています。
要点
- Common Sense Mediaは、Google Gemini AIに関する安全性評価を発表し、これを子どもやティーンエイジャーにとって「高リスク」と位置付けました。
- AIは明確に自らをコンピューターとして識別するため、妄想的な思考のリスクを軽減するのに役立ちます。
- しかし、Geminiのコンテンツは引き続きリスクを抱えており、性、薬物、精神保健に関する不適切な情報を共有しています。
- 安全機能は異なる年齢層向けにカスタマイズされたコンテンツが不足しており、主に大人向けのものが反映されています。
- Common Senseは、AIは子供の安全を最初から考慮して設計されるべきだと考えています。
- この評価は、ChatGPTやCharacter.AIに関連するティーンエイジャーの自殺にAIが果たす役割に関する報告がある中で発表されました。
- Googleは評価に反論し、18歳未満のユーザー向けに安全ポリシーを持ち、セーフガードを向上させていることを確認しています。
なぜ重要か
- 人工知能（AI）が子どものメンタルヘルスと安全に果たす役割についての監視が増加しており、AIと関連のある自殺事件が増加する中、注目されています。
- Common Sense Mediaによる以前の同様のAI製品の評価は、未成年者向けのAI安全性の広範な評価の傾向を示しています。
- テック企業がAppleのGeminiをSiri向けに開発するなど、さまざまな分野にAIを活用することに焦点を当てる中、安全性への懸念はテック業界での公共の議論において重要です。
Google Geminiの評価は、若いユーザー向けのAIの安全性に関する重要な懸念を浮き彫りにします。若者のメンタルヘルスやAI倫理についての議論が続く中、子供の発達ニーズに適したよく設計された保護策の必要性が強調されています。