Người nội bộ của Facebook phát triển công cụ kiểm soát nội dung cho kỷ nguyên AI

Brett Levenson, cựu quản lý của Apple, đang dẫn đầu công ty Moonbounce để nâng cao việc kiểm duyệt nội dung trong trí tuệ nhân tạo bằng cách sử dụng 'chính sách như mã code'. Đối mặt với những thất bại trong việc kiểm duyệt bằng con người truyền thống, hệ thống của ông cung cấp đánh giá và phản hồi trí tuệ nhân tạo trong thời gian thực, nâng cao độ chính xác và an toàn cho các nền tảng tạo nội dung người dùng. Moonbounce đã thu về 12 triệu đô la vốn đầu tư, phục vụ các công ty trí tuệ nhân tạo để tích hợp an toàn vào khung công việc của họ một cách hiệu quả.

Key Points

• Brett Levenson đã chuyển từ Apple sang Facebook vào năm 2019 để giải quyết vấn đề kiểm duyệt nội dung. Những người xem xét tưởng đương đối mắc vấn đề với một tài liệu chính sách dài, chỉ đạt được kết quả cao hơn hơi 50% trong các quyết định. Sự bùng nổ của chatbot AI khiến cho những sự cố của kiểm duyệt trở nên trầm trọng hơn, gây ra các trường hợp như quảng cáo nội dung có hại tới các vị thành niên. Levenson đã đề xuất 'chính sách như mã code' để chuyển đổi chính sách thành logic vận hành để thực thi theo thời gian thực. Công ty của ông, Moonbounce, đã huy động được 12 triệu đô la để cải thiện an toàn nội dung bằng cách đánh giá nội dung bằng AI. Moonbounce phục vụ các ngành như ứng dụng hẹn hò và các công ty tạo nhân vật AI, xử lý hơn 40 triệu đánh giá hàng ngày. Công ty đặt mục tiêu tích hợp an toàn như một lợi thế cạnh tranh thay vì một biện pháp hậu quả.

Relevance

• Lịch sử cho thấy việc kiểm duyệt nội dung đã từng là một vấn đề dai dẳng sau scandal Cambridge Analytica.
• Với việc sử dụng trí tuệ nhân tạo ngày càng nhiều trong các ứng dụng, các công ty công nghệ đang phải đối mặt áp lực đảm bảo an toàn cho người dùng.
• Đến năm 2025, xu hướng cho thấy cần phải có các biện pháp kiểm soát thời gian thực trong các ứng dụng trí tuệ nhân tạo, điều này khớp với sứ mệnh của Moonbounce.

Moonbounce giải quyết các thách thức quản lý nội dung bằng cách sử dụng trí tuệ nhân tạo, nhằm tạo ra môi trường trực tuyến an toàn hơn, đồng thời đại diện cho một bước tiến quan trọng trong lĩnh vực này khi các công ty ngày càng ưu tiên sự an toàn như một phần không thể thiếu của dịch vụ của họ.