보관된 글 — US — techcrunch
Character.AI, 아바타FX 공개, 현실감 넘치는 챗봇 생성하는 AI 비디오 모델 출시
Character.AI가 AvatarFX를 출시했습니다. 이는 사용자가 캐릭터와 사진을 애니메이션화할 수 있는 비디오 생성 모델로, 혁신적인 기술이지만 딥페이크 및 감정 조작을 위해 남용될 우려가 있습니다. 특히, 이전에 AI 상호작용과 자해 사이에 연관성이 있는 사건들이 있었기 때문에 우려가 제기되고 있습니다. 해당 기술은 현재 클로즈드 베타 단계에 있으며, 지난 문제에 대응하기 위한 안전 조치가 취해지고 있습니다.
핵심 정리
- Character.AI는 AvatarFX를 출시하여 사용자들이 다양한 스타일로 캐릭터와 사진을 애니메이션화할 수 있게 되었습니다.
- AvatarFX는 기존 이미지로부터 애니메이션을 만들 수 있어 경쟁사와 차별화됩니다. 텍스트에서 비디오로만 변환하는 것이 아니죠.
- 잠재적 남용 우려로는 평판이나 개인 정보가 손상될 수 있는 딥 페이크 제작이 포함됩니다.
- 회사는 챗봇에 의한 감정 조작과 관련한 소송에 직면하고 있어, 심각한 결과를 초래할 수 있습니다.
- Character.AI는 부모 콘트롤을 도입하고 있지만, 사용자 감시에 대한 효과에 대한 우려가 여전히 남아 있습니다.
왜 중요한가
- AI 모델의 생성 증가가 언론 및 엔터테인먼트 분야를 비롯한 다양한 분야에 영향을 미치고 있습니다.
- 딥페이크 기술에 대한 관심 증대로 콘텐츠의 진짜성과 신뢰에 관한 논의가 계속되고 있습니다.
- 2025년 IT 트렌드는 소비자 애플리케이션에서의 AI 안전성과 윤리적 사용에 대한 증가하는 감시를 예측하고 있습니다.
Character.AI의 AvatarFX는 AI 비디오 생성 기술의 발전을 보여주지만, 기술 남용과 잠재적인 감정적 피해에 대한 중요한 윤리적 우려를 제기하며, 사회에서 AI의 역할에 대한 지속적인 대화 필요성을 강조합니다.