アーカイブ — US — techcrunch
Meta、児童性的虐待素材に繋がる広告を検出する新しいAIツールを導入
メタは、2026年上半期に有害コンテンツを3,320万件検出するなど、児童性被害の防止に向けた新しいAIツールを導入しました。これらのツールは、ユーザーを違法なコンテンツに誘導する可能性がある欺瞞的な広告を特定することを目的としています。検知されたコンテンツの97%以上が予防的に検出されました。これらの取り組みは、メタのプラットフォームにおける児童安全に関する監視と訴訟の増加に続くものです。
要点
- メタは2026年上半期において、児童性的搾取物の3320万件を特定しました。
- 新しいAIツールは、違法コンテンツに誤誘導する可能性のある広告を対象にしており、その中心となる手法は『サインポスティング』です。
- インドでは、530万件がフラグ付けされ、そのうち98%以上が自動的に検知されました。
- メタのツールには、広告先を分析する大規模な言語モデルやその安全対策をテストするためのレッドチームのAIエージェントを含んでいます。
- メタは、児童安全に関する継続的な監視と法的問題に直面しており、これらの懸念に関連した180億ドルの和解金を含む。
なぜ重要か
- オンライン上での子供の安全に対する懸念の高まりに合わせ、テック企業がAIを採用して保護策を強化する傾向が進んでいます。
- 2025年の現在も続くトレンドは、ユーザーの安全、特に未成年者に関するデジタルプラットフォームへの規制が強化されていることです。
- 過去の文脈では、Metaのような企業が子供を保護するための不十分な措置に対する過去の検証や法的措置が含まれています。
メタはAIツールを使用して子供の安全に積極的に取り組む姿勢を示し、オンラインでの子供の保護を強化し、法的な圧力やオンラインでの搾取に対する一般の懸念に対処することを目指しています。