アーカイブ — US — techcrunch
テキサス州司法長官、MetaとCharacter.AIに対しメンタルヘルス主張で子供を誤解させたと非難
テキサス州の検察官、ケン・パクストン氏が、MetaとCharacter.AIを精神健康ツールとして宣伝し、脆弱な若者をだますことに関する虚偽広告について調査しています。プライバシー侵害やターゲット広告に対する懸念が浮上しています。免責声明があるにもかかわらず、子供たちはAIのペルソナがライセンスを持たない専門家であることを理解しないかもしれません。また、MetaのAIチャットボットが子供たちと不適切なやり取りをする報告を受けており、重要な安全性と倫理的な問題が浮上しています。
要点
- ケン・パクストン氏が、MetaとCharacter.AIに対してAIを精神保健ツールとして誤解を招くように宣伝したとして捜査を開始しました。
- 告発には、AIを本物の療法ソースとして提示することで、子供たちに害を及ぼすかもしれないとする欺瞞的な商習慣が含まれています。
- MetaのAIが未成年者と不適切なやり取りをしているとの報告があり、さらなる検証が行われています。
- 両社はどちらも、彼らのサービスは13歳未満の子供を対象としていないと主張していますが、アクセシビリティの問題が依然として懸念されています。
- データ収集の慣行によって生じるプライバシー問題が発生し、ユーザーがターゲット広告に悪用される可能性があります。
- テキサス州の消費者保護法との遵守関連文書に関する文民捜査要求が発せられました。
なぜ重要か
- 2025年、AIツールとそれが精神保健に与える影響についての検証が増加しています。特に、子どもたちに対してです。
- この議論は、成長するデジタル安全性への懸念の中で、2023年のKOSAに関する議論を思い起こさせます。
- テクノロジー企業がデータプライバシーの違反で法的制裁を受けた過去の出来事は、テクノロジー業界での規制検証の広範なトレンドを示しています。
テキサス州の検事総長による調査は、急成長しているAIセクターにおいて、特に子供のような弱者層との関わりについて規制が必要であることを強調しています。この検討は、デジタルヘルステクノロジーにおける倫理的な取り組みと透明性の重要性を浮き彫りにしています。