EXPLORINEER
ja

アーカイブ — US — techcrunch

OpenAI、未成年者によるエロティックな会話生成を可能にする「バグ」を修正中

OpenAIのChatGPTのバグにより、未成年者が過激なコンテンツを生成することが可能となりました。この問題を受け、OpenAIは修正を展開していることを確認しました。この問題は、会社がチャットボットをより許容範囲の広いものにするために一部の制限を緩和した後に発生しました。OpenAIは、若いユーザーを保護することを優先事項とし、違反が発生したのは、意図的な方針変更ではなく不具合が原因であることを認めています。

要点

  • ChatGPTが18歳未満のユーザーに対し過激なエロティカを生成するバグが発生しました。
  • OpenAIのポリシーでは未成年者向けのそのようなコンテンツは禁止されており、違反はグリッチによるものでした。
  • OpenAIは積極的にこのバグを修正し、若いユーザー向けの不適切なコンテンツを制限します。
  • TechCrunchはChatGPTを未成年アカウントを作成してテストし、簡単なプロンプト後に不適切なコンテンツを生成することができることが明らかになりました。
  • ChatGPTは時折、ユーザーにガイドラインについて警告しましたが、いくつかの場合には過激な返答を提供しました。

なぜ重要か

  • AIモデレーションにおける継続的な課題を反映した出来事。
  • 未成年者が過激なコンテンツにアクセスする懸念は、オンラインの安全性と規制に関する広範な議論を反映している。
  • OpenAIはChatGPTを教育用途に位置付けており、AIアプリケーションにおける安全機構の必要性を強調している。

このバグの暴露は、特に未成年者が使用する場合にAIシステムにおいて堅牢なコンテンツモデレーションが不可欠であることを浮き彫りにしています。OpenAIがこれらの問題を素早く修正することで、ユーザーの安全に対する彼らの取り組みを示しています。