アーカイブ — US — techcrunch
X、Grokの画像生成機能を有料会員のみに制限 世界の反発を受けて
イーロン・マスクのAI企業、Grokは、非同意の性的画像の作成を可能にする物議を醸すAIイメージ生成機能を制限し、有料サブスクリプションのXユーザーに限定した。この機能はXでは制限されているが、無料のGrokアプリでは引き続き利用可能である。英国、EU、インドなどの政府はこの悪用を非難し、規制調査を促している。
要点
- GrokのAI画像生成機能は、最初は制限付きで全ユーザーに利用可能であり、これにより非同意の性的な画像が作成される事態となった。
- 政府や擁護団体からの強い批判を受けて、この機能を購読者向けに制限する決定がなされた。
- Grokアプリは引き続き画像生成への無料アクセスを許可しており、その点については責任の問題が浮上している。
- マスク氏とX社は、ツールの違法な使用について公然と非難し、違反者は違法コンテンツの直接のアップロードと同様の結果に直面すると述べた。
- イギリス、EU、インドは、Grokの実態調査に着手し、文書提出を求め、また、インドの安全保障規定を脅かす事態となっている。
なぜ重要か
- テック業界でAI倫理と規制への懸念が高まっている
- ネット上に広がる非同意の画像操作問題に関する歴史的背景と、より厳格な規制の要請
- ユーザー生成コンテンツに対するテック企業の監視が増え、デジタルプラットフォームへの責任が高まる傾向
Grokの画像生成機能に課せられた制限は、AI開発における倫理的基準の必要性を強調しており、デジタルコンテンツの作成における同意と責任に関する幅広い社会的懸念を反映しています。