보관된 글 — US — techcrunch
Tumblr, AI 탓하며 게시물 잘못 분류 "성인 콘텐츠"로 신고하니
텀블러 사용자들은 최근 안드로이드 앱 업데이트와 관련된 문제로, 성인 콘텐츠가 아닌 게시물을 '성인'으로 오해하고 있어 가시성이 낮아지는 데에 불만을 터뜨렸습니다. 이 문제는 다른 소셜 미디어 플랫폼이 겪은 것과 유사한 인공지능 오류로 의심을 제기했습니다. 텀블러는 문제를 인정하고 개선 작업과 업데이트된 항소 절차에 대해 노력하고 있다고 밝혔습니다.
핵심 정리
- 티아뮤질러(Tumblr) 사용자들 중 많은 사람들이 자신의 게시물이 '성인'으로 잘못 표시된다고 보고하고 있습니다. 이는 GIF, 팬덤 아이템 및 예술 작품 등 다양한 콘텐츠에 영향을 미칩니다.
- 인공지능 기반의 모니터링이 여러 소셜 미디어 플랫폼 전반에 문제를 일으키고 있다는 의혹이 제기되고 있습니다.
- Tumblr은 안드로이드 앱 업데이트로 인한 콘텐츠 필터링 개선을 목적으로 한 문제라고 밝혔습니다.
- 회사는 사용자 피드백을 바탕으로 필터링 시스템을 개선하고, 더 많은 사례를 처리하기 위해 항소 절차를 업데이트할 계획입니다.
- Automattic에 의한 인수 이후의 직원 감축이 모니터링 역량에도 영향을 미칠 수 있다는 지적도 있습니다.
왜 중요한가
- 사건은 소셜 미디어에서의 자동화된 모니터링 실패의 증가하는 추세를 반영하며, AI 신뢰성에 대한 논의를 촉발하고 있습니다.
- Pinterest가 최근 내부 오류로 인한 사용자 차단 사실을 인정하면서, Tumblr의 상황과 유사성을 띄었다고 언급되고 있습니다.
- 소셜 미디어 플랫폼들은 AI 사용 및 사용자의 불만을 통해 콘텐츠 모니터링 관행에 대해 증가하는 검토를 받고 있습니다.
텀블러의 허위 신고 문제는 소셜 미디어 전반에 걸친 자동 모니터링의 어려움과 더 나은 AI 감시 및 사용자 지원이 필요함을 강조하며, 회사는 감원된 직원 수준에서 시스템을 개선하려 노력하고 있습니다.