アーカイブ — US — techcrunch
米上院議員、X社、Meta、Alphabetなどにセクシャル化されたディープフェイクについての説明を要求
アメリカの上院議員たちが、X、Meta、Alphabetなどの主要テクノロジー企業のリーダーに、非合意の性的な深刻なディープフェイクと戦うための方針についての詳細を求める手紙を送りました。彼らは、そのようなコンテンツに対する技術的な障壁が不十分であると懸念しています。この動きは、これらのプラットフォームでAIによる露骨な画像の急増に続いており、ユーザーの安全性と既存の法律への適合についての警戒感を高めています。
要点
- アメリカの上院議員は、X、Meta、Alphabet、Snap、Reddit、およびTikTokに対し、性的なディープフェイクに対する堅牢な保護策の証拠を要請しました。
- 議員らの書簡は、企業がディープフェイクコンテンツに関連する文書を保存する必要性を強調しています。
- XでのGrokの最近の問題は、AIシステムが非同意のイメージを防ぐ能力について懸念を引き起こしました。
- Xは、批判を受けた後、プラットフォームを更新して特定の画像編集を制限しました。
- 非同意のコンテンツに対する既存のポリシーにもかかわらず、ユーザーはこれらのガードレールを回避するための抜け道を見つけています。
なぜ重要か
- ディープフェイクは2018年にRedditなどのプラットフォームで登場して以来、問題となっています。
- この話は、進化するテクノロジーの中でAIコンテンツの規制に関する継続的な課題を強調しています。
- ディープフェイクを抑制することを目的とした以前の立法例（Take It Down法など）は、プラットフォームの責任を追及する上で限定された効果を示しています。
- 新興の規制トレンドは、プラットフォームにAI生成コンテンツを表示したり開示することを求める方向に移行しています。
上院議員たちの積極的な取り組みは、テクノロジーがプライバシーや安全に与える影響に対する懸念が高まっていることを示しており、企業に対して、有害なディープフェイクの生成への悪用に対抗する取り組みを強化するよう促しています。