アーカイブ — US — techcrunch
OpenAIが自己傷害の可能性に対応する新たな「信頼できる連絡先」保護機能を導入
OpenAIは、「Trusted Contact」という機能を開始しました。この機能は、ChatGPTユーザーが自傷行為の意図を会話中に表明した場合、指定された相手に通知するものです。この措置は、チャットボットとのやり取りの後に被害を受けた個人の家族からの訴訟を受けて、ユーザーの安全性を向上させることを目的としています。この機能は、プライバシーを保護しつつ、指定された相手にユーザーの確認を依頼します。
要点
- OpenAIは、自己傷害について話すユーザーの安全性向上を目的として、「Trusted Contact（信頼できる連絡先）」機能を導入しました。
- ユーザーは、自己傷害に言及した場合に警告を受け取るために、信頼できる第三者（家族や友人）を指定できます。
- この機能は、有害事象を自動化と人間の監視によって審査するOpenAIの既存の安全プロトコルと連動しています。
- 緊急の状況では、信頼できる連絡先に短い警告が送られ、会話の詳細は開示されず、連絡が取られるように促されます。
- この取り組みは、昨年9月に導入されたティーンエージャーのアカウントを監視するための以前の安全対策に続くものです。
なぜ重要か
- OpenAIに対する精査と訴訟が増加していることに対応するため、この機能が導入されました。
- AI駆動のプラットフォームにおいては、精神健康に関する議論や介入ツールが重要です。特に自傷行為に関連する会話が現代社会で増加している中でのことです。
- OpenAIの取り組みは、2025年までにユーザーの幸福を優先する倫理的なAIシステムを作成するIT業界全体のトレンドと一致しています。
オープンエーアイの「信頼できるコンタクト」機能は、AIとのインタラクションに関連する精神健康の問題に対処する取り組みを反映しており、責任あるAI開発と積極的なユーザー保護の必要性を強調しています。