EXPLORINEER
ja

アーカイブ — US — techcrunch

OpenAI、EUでChatGPTのテキストに透かしを導入へ

OpenAIはChatGPTとCodexで生成されたテキストに透明なウォーターマークを実装します。これは、EUのAI法に準拠するためであり、透明性とコンテンツの識別を確保します。このウォーターマークは、微妙に単語の選択を変え、近々EUのユーザーに提供されます。世界中の開発者は特定のモデルにオプトインすることができますが、この機能はデフォルトでオフになっています。検出の制限があるため、ユーザーの匿名性を損なわずに注意深く監視される必要があります。

要点

  • OpenAIは、ChatGPTとCodexで透明な透かしを導入し、EUのAI法に準拠すると発表しました。
  • 透かしは透明性を保ちつつ、特定のシステムによる検出を許可するよう設計されており、コンテンツの識別を可能にします。
  • 対象となるEUのユーザーには今後数週間で提供され、グローバルのAPI開発者は一部のモデルに対して有効化できますが、デフォルトではオフになっています。
  • 透かしは微妙に単語の選択を変更し、人間には読めないパターンを作り出しますが、検出可能です。
  • 透かしを削除することは可能ですが、大幅な編集が必要で、検出の信頼性についての議論が起きています。
  • 最初の検出器へのアクセスは、透かしの信頼性を評価するために承認された研究者に限られています。
  • OpenAIは、透かしの欠如は人間の著者を確認するものではなく、多くの要因が検出に影響すると強調しています。

なぜ重要か

  • EUのAI規制に合致したテキストウォーターマーキングは、責任あるAIの利用に焦点を当てています。
  • AnthropicやGoogleなどのテック企業の間で増加傾向にあるAI透明性のメカニズムの開発を反映しています。
  • EU AI法は、AIによるコンテンツに関する明確なガイドラインを確立し、世界基準を形作る可能性があります。
  • OpenAIの取り組みは、ユーザーがウォーターマーキングポリシーを考慮する中で、AIツールの競争力に影響を与えるかもしれません。

OpenAIがEUでAIによって生成されたテキストに透かしを入れることを導入したことは、コンプライアンスとユーザーエクスペリエンスのバランスを示しており、AIの責任を設定する前例となり、透明性や著作権に関する議論を引き起こしています。