EXPLORINEER
ja

アーカイブ — US — techcrunch

Meta、ティーンがAIチャットボットと自殺や自傷について話した際に親に通知するシステムを導入

メタは今、AIチャットボットを通じて自殺や自傷行為について話すティーンエイジャーの親に警告を出すようになりました。これは、危機時のAI応答に対する検証の厳しい状況の中で安全性を高めることを目的としています。会話の内容に基づいて緊急サービスに連絡される場合もあります。この機能は4つの国で利用可能であり、年内に世界中に展開される予定で、InstagramやメタAI上でのティーンエイジャー向けの以前の安全対策を強化しています。

要点

  • メタは、十代の若者が自傷行為や自殺についてAIチャットボットと話す際に、親に新しいアラートシステムを発表しました。
  • これらのアラートは、危機状況にあるユーザーに対するテック企業の責任についてますます厳しい検証が行われていることに起因しています。
  • AIによってフラグが立てられた会話は手動で確認され、誤報を避けるため、親への通知には慎重さが優先されます。
  • この機能は、現在、米国、英国、オーストラリア、カナダのユーザー向けに利用可能であり、年末までにグローバル展開する予定です。
  • メタのアップデートには、Instagramでの自傷行為に関連する繰り返しの検索に関する警告や、拡張された親権制限設定も含まれています。

なぜ重要か

  • IT業界におけるユーザー安全性とAIの倫理的側面に焦点を当てた成長トレンドを反映しています。
  • 他のテクノロジー企業による同様の行動は、AIの設計と展開におけるメンタルヘルス配慮の重要性を強調しています。
  • このアップデートは、テクノロジー企業に対する規制機関の監査が強化され、責任あるAIの実践が確保されることに合致しています。

Metaは、親にアラートを送る積極的な取り組みは、ティーンエイジャーのオンライン安全性向上において重要な一歩であり、AIの進歩と倫理的責任を調和させる点で、継続的な監視の中で重要な意義を持つ。