アーカイブ — US — techcrunch
OpenAI、ChatGPTに安全ルーティングシステムとペアレンタルコントロールを導入
OpenAIは、過去の有害な相互作用に対応して、ChatGPT向けの新しい安全なルーティングシステムと親権制限を導入しました。新機能は、機密な会話を検出し、より安全なモデル（GPT-5）に切り替えることを目的としています。親権制限は、10代のユーザーの体験をカスタマイズすることが可能であり、導入や効果に関して賛否両論があります。
要点
- OpenAIは、チャットGPTでの機微な会話への対応を向上させるためのセーフティルーティングシステムのテストを開始しました。
- 保護者コントロールの導入は、ChatGPTのやり取りに関連する不当な死亡訴訟の後に行われました。
- GPT-5は、以前のモデルよりも感繁な話題を扱うために設計され、'安全な補完'という機能を備えています。
- ユーザーの反応は賛否両論です。安全機能を評価する人もいれば、子供扱いされ、サービスの質が低下したと感じる人もいます。
- 保護者コントロールにより、青少年のAI体験を管理する親が、静かな時間やコンテンツ保護などのオプションを利用できるようになりました。
- OpenAIは、青少年のやり取りに自傷行為の兆候が検出された場合には迅速に対応することを目指していますが、すべてのアラートが正確であるとは限らないことを認識しています。
なぜ重要か
- AI倫理と責任に関する議論の中で、この展開は継続的なものです。AIによる害悪の事例があった後、AIの安全性とモデレーションツールに注目が集まっています。2025年現在、テクノロジー企業も同様にプラットフォームを適応させる動きが見られます。デジタル空間での子供の安全に対する懸念が高まる中、親権者コントロールは、テクノロジー業界全体での規制努力と並行して展開しています。
OpenAIの新しい安全ルーティングと親権制御機能は、ユーザーの安全性を向上させ、より注意深くインタラクションを管理することを目指していますが、同時に、革新と責任あるAIの使用をバランスよく保つ複雑さを反映しています。