핵심 정리
- 1
브렛 레빈슨은 2019년 애플에서 페이스북으로 전직하여 콘텐츠 모니터링 문제에 도전하였습니다.
- 2
인간 리뷰어들은 방대한 정책 문서로 인한 어려움에 직면하여 결정에서 50% 이상의 정확도를 달성하는 데 어려움을 겪었습니다.
- 3
AI 챗봇의 등장으로 모니터링 실패가 악화되어, 유해 콘텐츠가 청소년들에게 홍보되는 사례들이 발생했습니다.
- 4
레빈슨은 정책을 실시간 시행하기 위해 정책을 운영로직으로 전환하는 '정책으로서의 코드'를 제안했습니다.
- 5
그의 회사 Moonbounce는 1200만 달러를 조달하여 AI를 활용하여 콘텐츠 안전성을 강화할 계획입니다.
- 6
Moonbounce는 데이팅 앱 및 AI 캐릭터 업체 등 다양한 산업에 서비스를 제공하며, 하루에 4천만 건 이상의 리뷰를 처리하고 있습니다.
- 7
해당 회사는 안전을 경쟁 우위로 편입시키고, 사후 조치 수단이 아닌 사전 예방 수단으로 통합하는 것을 목표로 하고 있습니다.
관련 태그
캠브리지 애널리티카 이후 콘텐츠 조정은 오랜 문제였습니다.인공지능 사용이 증가함에 따라, AI 기업들은 사용자 안전을 보장하기 위해 압력을 받고 있습니다.2025년까지의 트렌드는 AI 애플리케이션에서 실시간 가드레일이 필요하다는 점을 보여주며, Moonbounce의 미션과 일치합니다.
