アーカイブ — US — techcrunch
OpenAI、機密対話をGPT-5に転送し、親向けコントロールを導入へ
OpenAIは、GPT-5に機密性の高い会話を導入し、1か月以内に親権制御を導入することで安全性を強化する計画を立てています。この取り組みは、ChatGPTがユーザーの精神的苦痛に適切に対処できなかった悲劇的な事件に続くものです。OpenAIは、より良い対応を提供し、親を巻き込んで思春期の若者とAIとのやり取りを監視することを目指しています。
要点
- OpenAIは、機密性の高いディスカッションを深い推論に対応するために設計されたGPT-5に導く計画を立てています。
- この決定は、最近のChatGPTの安全面の失敗に起因しており、Adam Raineさんの自殺やStein-Erik Soelbergさんの殺人自殺などの事例が関連しています。
- 新しい親権制御機能により、親はChatGPTの使用を監視し制限することができるようになり、適切な年齢に合わせたインタラクションを実現します。
- 通知機能により、親は自分の十代の子供の会話で悲しみが検出された場合に警告を受けることができます。
- このイニシアチブは、OpenAIの120日間の改善計画の一環であり、精神保健の専門家とガイドラインの策定に協力しています。
なぜ重要か
- AIの精神保健分野への統合は、倫理的責任を考慮に入れつつ意識を高め、現在行われているAIの社会的な役割に関する議論と平行しています。
- 過去、AIに関する懸念は誤情報を中心にしていましたが、現在は精神保健やユーザーの安全を重視した方向に移行しています。
- 2025年までのトレンドでは、ユーザーの心理や感情の安全を重視したAIシステムへの需要が高まることが示唆されています。
OpenAIの改良は、利用者の安全性とメンタルヘルスサポートを向上させるために、高度なAI機能と保護者の関与を反映しています。これは、メンタルウェルネスに関する懸念が高まる中、AIの展開の中で重要な進化を示しています。