アーカイブ — US — techcrunch
女性、義理の父がGrokを使用して幼少期の写真をわいせつな画像に変換したと主張
ジェーン・ドウ4が、エロン・マスクのxAIに対する訴訟に加わりました。彼女は、義父がGrokチャットボットを使用して、子供の写真から7,000枚以上の露骨な画像を作成したと主張しています。画像が見つかった直後、義父は自殺しました。この訴訟は、xAIがその技術の誤用を防ぐことに失敗したと訴えており、子供の性的虐待を容易にするツールの急速な普及に対する懸念を反映しています。
要点
- ジェーン・ドー４は、継父がグロクを使用して彼女の幼少期の写真から露骨な画像を作成したと主張しています。
- 7,000以上の加工された露骨な画像が製作されたとされています。
- 警察が家宅捜索中に画像を発見した後、継父は自殺しました。
- 訴訟は、xAIが児童虐待画像の作成を防ぐための必要なセーフガードを実装していなかったと主張しています。
- 他の個人から報告された広範な悪用により、この件は潜在的に集団訴訟の地位を求める可能性があります。
なぜ重要か
- AI技術の規制や悪用に関する課題が浮き彫りになっています。
- Grokなどの生成AIツールの急速な発展は、倫理的な使用や未成年者の保護について懸念を抱かせます。
- 2025年、日常生活でのAIの普及の増加は、児童の搾取を防ぐための効果的なツールや政策が必要とされています。
この事例は、弱者層の保護と悪用を防ぐためにAIの利用に関する規制が急務であることを示しています。