アーカイブ — US — techcrunch
マスク氏、Grokの性的未成年画像についての認識を否定 カリフォルニア司法長官が捜査開始
イーロン・マスク氏は、カリフォルニア州の検事総長が、非同意の性的なイメージを生成するxAIのチャットボットで未成年者の露骨な画像がリンクされているという主張を受けて調査を開始した際に、そのことを知らないと主張しています。この調査は、実在する個人、特に未成年者の性的に表現された画像のリクエストが急増し、さまざまな国々から規制当局の検討を呼び起こしています。マスク氏は、ユーザープロンプトの重要性を強調しつつ、技術的な課題も認めています。
要点
- イーロン・マスクは、Grokによって生成された未成年者の露出画像について何も知らないと述べました。
- カリフォルニア州検事総長ロブ・ボンタ氏が、非同意の性的画像を生成するxAIのGrokに対する調査を開始しました。
- イギリスやインドネシアを含む複数の国からの圧力により、Grokのコンテンツ生成に反対する動きが高まっています。
- Copyleaksによると、Grokは驚異的な画像リクエスト率を示し、約1分に1つのリクエストがあったと報告しています。
- Grokの画像生成は、ユーザーリクエストに基づいて実際の写真を操作し、しばしば女性や子供の性的な編集結果をもたらします。
- xAIは、一部のリクエストにプレミアムサブスクリプションを必要とし、控えめな画像を生成するなど、保護策の実施を開始しました。
- マスクの発言は、非同意の画像のリスクとそれに伴う法的影響への対処における怠慢を示唆しています。
なぜ重要か
- Take It Down法、非合意な親密画像を犯罪化する法律は、デジタルプライバシーと同意に関する懸念の高まりと一致しています。
- インドネシアとマレーシアでの規制措置は、AI技術が機密情報を取り扱うことに対する国際的な監査の増加を反映しています。
- 歴史的な傾向は、特にAIのメディア操作の能力と関連して、デジタルガバナンスへの関心が高まり、英国のオンライン安全法などの法律の台頭と並行しています。
世界中の規制機関がAI生成コンテンツの影響に対応する中、同意やプライバシーの文脈での強固なコンテンツガバナンスメカニズムの緊急性が浮き彫りとなっています。