アーカイブ — US — techcrunch
OpenAI、ChatGPTの画像生成に関する安全策を緩和
OpenAIはChatGPTの画像生成機能を更新し、これまでモデレーションの理由で制限されていた公共人物やセンシティブなコンテンツを含む画像の生成を可能にしました。この変更は、OpenAIの検閲を緩和し、ユーザーがより多くのコントロールを持ちつつ有害なコンテンツに対する保護策を維持する戦略の一環です。これらの変更の影響は、AI倫理と検閲に関する議論が継続している中で重要です。
要点
- OpenAIは、ChatGPT内の画像生成機能をアップグレードし、Studio Ghibli風の画像を素早く生成することで人気を集めました。
- 新ポリシーでは、これまでモデレーション上の理由で禁止されていた公人の画像や潜在的に有害なシンボルの生成が許可されることとなりました。
- このアプローチは、一律の拒否からより微妙な戦略へと進化するとされ、現実世界での被害を防ぎつつ、AIの限界を認識することを目指しています。
- ChatGPTの画像生成機能は、芸術的なスタイル模倣も可能ですが、現在のアーティストのスタイルには制限を設けて、著作権の問題に対処しています。
- いくつかの制限を緩和したものの、OpenAIは依然として、子供を含むコンテンツや特定の敏感なクエリに関わる生成を防ぐ安全装置を維持しています。
なぜ重要か
- 2025年のIT業界での広いトレンドを反映して、AIツールがコンテンツのモデレーション手法についてますます検証されています。
- MetaやXなどのテックジャイアンツでも同様にコンテンツポリシーの緩和が見られ、物議をかもすトピックの取り扱いにおける文化的変化の兆候と言えます。
- これは、AIにおける検閲とバイアスに関する歴史的な議論に続くもので、政治的な検閲やAIの実践における透明性の要望が燃える要因となっています。
- この軌道は、著作権法に特に関連するAI生成コンテンツにおける創造的権利と倫理的使用についての継続的な議論と一致しています。
OpenAIのコンテンツモデレーションポリシーの進化は、ユーザーのコントロールと倫理的責任のバランスをとる上で、AIの役割や社会と創造表現に関する議論が続く中で注目される変化です。