페이스북, AI 시대를 위한 콘텐츠 조정 시스템 구축 중

전 애플 임원인 브렛 레빈슨은 '정책을 코드로' 사용하여 AI에서 콘텐츠 모더레이션을 향상시키는 Moonbounce를 이끌고 있습니다. 전통적인 인간 모더레이션의 실패를 해결하기 위해, 그의 시스템은 실시간 AI 평가와 응답을 제공하여 사용자 콘텐츠를 생성하는 플랫폼의 정확도와 안전성을 향상시킵니다. Moonbounce는 1,200만 달러의 펀딩을 확보했으며, AI 기업들이 효과적으로 안전을 통합할 수 있도록 지원하고 있습니다.

Key Points

• 브렛 레빈슨은 2019년 애플에서 페이스북으로 전직하여 콘텐츠 모니터링 문제에 도전하였습니다.
• 인간 리뷰어들은 방대한 정책 문서로 인한 어려움에 직면하여 결정에서 50% 이상의 정확도를 달성하는 데 어려움을 겪었습니다.
• AI 챗봇의 등장으로 모니터링 실패가 악화되어, 유해 콘텐츠가 청소년들에게 홍보되는 사례들이 발생했습니다.
• 레빈슨은 정책을 실시간 시행하기 위해 정책을 운영로직으로 전환하는 '정책으로서의 코드'를 제안했습니다.
• 그의 회사 Moonbounce는 1200만 달러를 조달하여 AI를 활용하여 콘텐츠 안전성을 강화할 계획입니다.
• Moonbounce는 데이팅 앱 및 AI 캐릭터 업체 등 다양한 산업에 서비스를 제공하며, 하루에 4천만 건 이상의 리뷰를 처리하고 있습니다.
• 해당 회사는 안전을 경쟁 우위로 편입시키고, 사후 조치 수단이 아닌 사전 예방 수단으로 통합하는 것을 목표로 하고 있습니다.

Relevance

• 캠브리지 애널리티카 이후 콘텐츠 조정은 오랜 문제였습니다.
• 인공지능 사용이 증가함에 따라, AI 기업들은 사용자 안전을 보장하기 위해 압력을 받고 있습니다.
• 2025년까지의 트렌드는 AI 애플리케이션에서 실시간 가드레일이 필요하다는 점을 보여주며, Moonbounce의 미션과 일치합니다.

문바운스는 AI를 활용하여 긴급한 콘텐츠 모니터링 과제를 해결함으로써 안전한 온라인 환경을 조성하려는 것으로, 기업들이 안전을 제공의 중요한 요소로 강조함에 따라 분야에서 중대한 발전을 대변하고 있습니다.