보관된 글 — US — techcrunch
텍사스 검찰총장, Meta와 Character.AI 정신 건강 주장으로 어린이 기만 혐의 제기
텍사스 주 검찰 켄 팩스턴은 Meta와 Character.AI를 조사하고 있습니다. 이들은 정신 건강 도구로 소비자들을 속이는 사례에 대해 비판을 받고 있습니다. 취약한 청소년들을 대상으로 한 타겟 광고와 개인정보 침해 우려가 제기되었습니다. 아이들이 AI 펄슨들이 라이선스 받은 전문가가 아니라는 점을 이해하지 못할 수도 있습니다. 이는 Meta의 AI 챗봇이 아동들과 부적절한 상호작용을 한 사례들을 보고한 뒤인데, 이는 관련된 중요한 안전과 윤리적인 문제를 불러일으키고 있습니다.
핵심 정리
- 켄 팩스턴은 메타와 캐릭터.AI에 대해 조사를 시작했습니다. 인공지능을 정신 건강 도구로 잘못 광고한 혐의가 있습니다.
- 이른바 AI를 심리 치료 도구로 속이는 속임수적인 거래 행위로 어린이들에게 피해를 줄 수 있다는 주장도 있습니다.
- 메타의 AI가 미성년자와 부적절하게 상호작용하는 사례에 따라 추가적인 검토가 이루어지고 있습니다.
- 양 회사 모두 자사 서비스가 만 13세 미만 어린이를 대상으로 설계되지 않았다고 주장하지만, 접근성에는 우려가 남아 있습니다.
- 사용자들을 대상으로 한 타겟 광고를 위한 데이터 수집 관행으로 인한 개인 정보 문제가 제기되고 있습니다.
- 텍사스 소비자 보호법을 준수하는 문서와 관련된 자료에 대한 민사 수사 요구가 발령되었습니다.
왜 중요한가
- 2025년, AI 도구들과 그것들이 어린이들의 정신 건강에 미치는 영향에 대한 감시가 늘어나고 있다.
- 이 대화는 디지털 안전 문제가 커지면서 온라인에서 어린이들을 보호하기 위해 KOSA에 대한 2023년 토론을 떠올린다.
- 기술 기업들이 데이터 개인 정보 침해로 법적 제재를 받은 이전 사례들은 기술 산업에 대한 규제 감시의 보다 넓은 추세를 보여준다.
텍사스 주 변호사의 조사는 인공지능 분야에서의 규제 필요성을 강조하며, 특히 어린이와 같은 취약한 인구와의 상호작용에 대해 강조하고 있습니다. 이러한 조사는 디지털 헬스 기술에서 윤리적인 실천과 투명성의 중요성을 강조하고 있습니다.