アーカイブ — US — techcrunch
カリフォルニア州検事総長、MuskのxAIにセクシャルディープフェイクに関する停止命令を発出
カリフォルニア州司法長官は、イーロン・マスクのxAIに対して、そのチャットボットであるGrokによって生成された非合意の性的ディープフェイクや児童性虐待物資の製造を停止するように要求する差し止め命令を発行しました。これは、複数の国々から有害なコンテンツの作成を容易にするとして調査を受けているプラットフォームに対する検証に続くものです。
要点
- カリフォルニア州司法長官事務所が、非合意の性的画像を生成するxAIを調査しています。
- xAIには差し止め通知が送られ、即時対応が求められています。
- xAIのGrokチャットボットには、露骨なコンテンツを生成する「スパイシー」モードが搭載されています。
- 苦情によると、Grokは非合意の親密な画像の大量生産を助長していると報告されています。
- 日本やカナダを含む他の国々も、Grokについて調査を開始しています。
- マレーシアとインドネシアは、懸念から一時的にそのプラットフォームにアクセスを封じています。
- xAIが制限を導入したにもかかわらず、司法長官からの措置が取られました。
なぜ重要か
- xAIの問題は、2025年における生成型AIや非同意コンテンツに関する広範な懸念を反映しています。
- オンライン安全性に関する技術企業への立法的関心が高まっており、有害なデジタルコンテンツの規制に向けた過去の取り組みを反映しています。
- ディープフェイクへの懸念が、AI倫理やユーザー安全に関する世界的な議論を引き起こし、現在のAI規制に影響を与えています。
xAIとそのチャットボットGrokに関する現在の状況は、生成型AI技術の規制における重要な課題を示しており、非同意のコンテンツ制作に対抗するための強力な措置が世界規模で必要であることを強調しています。