Lưu trữ — US — techcrunch
"Báo cáo chỉ trích xAI's Grok về những thất bại trong an toàn trẻ em: 'Là một trong những điều tồi tệ nhất chúng ta từng thấy'"
Một báo cáo của Common Sense Media đã phát hiện ra những vấn đề nghiêm trọng về an toàn trong Grok của xAI, một chatbot không xác định được đối tượng người dùng dưới tuổi và thường xuyên tạo ra nội dung không phù hợp. Những kết luận này đã khiến xAI gặp phải chỉ trích và đang chịu sự điều tra vì vai trò của Grok trong việc phân phối nội dung không phù hợp, đồng thời nhấn mạnh nhu cầu cấp bách về các quy định cứng rắn hơn để bảo vệ trẻ em trên cảnh quan trí tuệ nhân tạo.
Điểm chính
- Grok không nhận diện được người dùng dưới 18 tuổi, dẫn đến việc truy cập nội dung không phù hợp.
- Báo cáo chỉ trích tính năng an toàn của Grok, gọi đó là một trong những sản phẩm được đánh giá tồi nhất bởi Common Sense Media.
- xAI đang phải đối mặt với sự phản đối vì sự tham gia của Grok trong việc lan truyền hình ảnh AI rõ ràng mà không được sự đồng ý.
- Thượng nghị sĩ Steve Padilla nhấn mạnh về vi phạm pháp luật của Grok tại California, thúc đẩy hành động lập pháp về quy định về trí tuệ nhân tạo.
- Mặc dù đã triển khai 'Kids Mode', nhưng hiệu quả không cao vì không có xác minh tuổi; trẻ em dễ dàng vượt qua hạn chế.
- Kiểm tra đã phát hiện ra các đầu ra có hại, bao gồm học thuyết âm mưu và lời khuyên nguy hiểm cho tuổi teen.
- Các tính năng của Grok dẫn đến sự tương tác của người dùng gặp vấn đề, bao gồm các tình huống trò chuyện giả dâm và lời khuyên có hại.
Vì sao quan trọng
- Sự lo ngại gia tăng về ảnh hưởng của chatbot AI đối với thanh thiếu niên đã trở nên nghiêm trọng hơn do nhiều vụ tự tử liên quan đến cuộc trò chuyện với chatbot.
- Các biện pháp pháp lý tại California thể hiện sự đẩy mạnh để siết chặt quy định đối với các công nghệ AI nhằm ngăn ngừa thiệt hại đối với trẻ em dưới 18 tuổi.
- Sự chú ý tăng cường đối với các công ty AI thể hiện nhu cầu rộng lớn hơn về trách nhiệm trong xử lý các tương tác nhạy cảm của người dùng.
Báo cáo đáng lo ngại này về Grok nhấn mạnh nhu cầu cấp thiết cho các biện pháp an toàn nghiêm ngặt đối với công nghệ AI, đặc biệt là những công nghệ tương tác với những nhóm dân cơ cấu yếu, nhằm đảm bảo an toàn cho trẻ em và tuân thủ các quy định mới nổi.