OpenAI đã bàn cãi về việc gọi cảnh sát liên quan đến những cuộc trò chuyện nghi ngờ của tay súng Canada

Một nghi phạm 18 tuổi về vụ thảm sát ở Tumbler Ridge được cho là đã sử dụng ChatGPT của OpenAI để thảo luận về bạo lực súng. Mặc dù nội dung này đã bị đánh dấu vì gây lo ngại, nhân viên của OpenAI đã quyết định không liên hệ với cảnh sát vì hành vi của nghi phạm không đáp ứng tiêu chí báo cáo. Van Rootselaar đã có một tương tác kỹ thuật số lo ngại, bao gồm một trò chơi Roblox mô phỏng bạo lực, đã tiết lộ về vấn đề sức khỏe tâm thần mà cơ quan cảnh sát địa phương đã biết trước đó.

Key Points

• Một người tên Jesse Van Rootselaar 18 tuổi được cho là đã giết chết tám người trong một vụ bắn súng hàng loạt.
• Van Rootselaar đã sử dụng ChatGPT để thảo luận về bạo lực súng, làm cho nhân viên của OpenAI lo lắng.
• Công cụ của OpenAI đã phát hiện ra các cuộc trò chuyện, dẫn đến cuộc tranh luận nội bộ về việc liên hệ với cảnh sát, nhưng họ đã quyết định không liên lạc.
• Người phát ngôn cho biết hoạt động không đủ đáng để báo cáo; OpenAI đã liên hệ với cơ quan chức năng sau vụ việc.
• Van Rootselaar đã tạo ra một trò chơi trên Roblox mô phỏng vụ bắn súng hàng loạt và đăng bài viết về vũ khí trên mạng.
• Cảnh sát địa phương đã biết trước về sự không ổn định của Van Rootselaar, liên quan đến các vụ việc trước đó liên quan đến tác động của ma túy và việc châm lửa.

Relevance

• Lo ngại về tác động của AI chatbots đến tâm lý đang tăng, đặc biệt là khi có các vụ kiện liên quan đến các tương tác có hại của chatbot.
• Các sự kiện gần đây, như vụ bắn ở Tumbler Ridge, thể hiện một sự giao cắt đáng lo ngại giữa hành vi số và hành động bạo lực.
• Cuộc tranh luận xoay quanh trách nhiệm của AI trong các trường hợp bạo lực thực tế vẫn là một vấn đề liên tục trong cộng đồng công nghệ.

Sự cố này là một ví dụ về nguy cơ tiềm ẩn của tương tác AI khi kết hợp với các vấn đề sức khỏe tâm thần hiện tại, đòi hỏi cần có cơ chế theo dõi và phản ứng tốt hơn để ngăn chặn việc lạm dụng.