Lưu trữ — US — techcrunch
Google Gemini được đánh giá là 'rủi ro cao' cho trẻ em và thanh thiếu niên trong đánh giá an toàn mới
Đánh giá từ Common Sense Media về Google's Gemini AI đánh giá nó là 'rủi ro cao' dành cho trẻ em, đặt vấn đề về nội dung không phù hợp và thiếu tính năng an toàn đủ. Mặc dù chính xác nhận định AI, nhưng nó không tạo ra hướng dẫn phù hợp cho các nhóm tuổi khác nhau. Google phủ nhận những cáo buộc, cho rằng họ có các biện pháp bảo vệ cho trẻ em nhưng nhận ra một số phản hồi không chính xác. Cuộc tranh luận tiếp tục nâng cao lo ngại về tác động của AI đối với an toàn của trẻ em giữa nguy cơ tăng về các vấn đề sức khỏe tinh thần.
Điểm chính
- Common Sense Media đã phát hành một đánh giá về sự an toàn trên Google Gemini AI, xếp loại nó là 'rủi ro cao' đối với trẻ em và thanh thiếu niên. AI đã rõ ràng xác định bản thân mình là một máy tính, giúp giảm thiểu nguy cơ tư duy ảo tưởng. Tuy nhiên, nội dung của Gemini vẫn mang theo rủi ro, chia sẻ thông tin không phù hợp về tình dục, ma túy và sức khỏe tâm thần. Các tính năng an toàn thiếu nội dung được tùy chỉnh cho các nhóm tuổi khác nhau, chủ yếu phản ánh phiên bản dành cho người lớn. Common Sense tin rằng công nghệ AI nên được thiết kế với sự an toàn của trẻ em từ đầu. Đánh giá này đến trong bối cảnh các báo cáo về vai trò của AI trong tự tử của thanh thiếu niên, đặc biệt liên quan đến ChatGPT và Character.AI. Google đã đáp trả lại đánh giá này, khẳng định họ có chính sách an toàn cho người dùng dưới 18 tuổi và đang cải thiện các biện pháp bảo vệ của mình.
Vì sao quan trọng
- Có sự chú ý ngày càng tăng về vai trò của trí tuệ nhân tạo (AI) trong sức khỏe tinh thần và an toàn của trẻ em, đặc biệt là khi số vụ tự tử liên quan đến tương tác với AI tăng lên.
- Các đánh giá trước đó về các sản phẩm AI tương tự từ Common Sense Media cho thấy một xu hướng rộng hơn về đánh giá an toàn AI cho người dưới 18 tuổi.
- Với các công ty công nghệ tập trung vào việc phát triển AI cho nhiều ứng dụng, bao gồm sự quan tâm của Apple đối với Gemini cho Siri, các vấn đề liên quan đến an toàn trở nên quan trọng trong cuộc thảo luận công khai trong ngành công nghệ.
Đánh giá của Google Gemini nêu bật những vấn đề quan trọng về an toàn của trí tuệ nhân tạo đối với người dùng trẻ. Trong bối cảnh thảo luận về sức khỏe tinh thần của trẻ em và đạo đức trong trí tuệ nhân tạo tiếp tục diễn ra, điều này nhấn mạnh sự cần thiết của các biện pháp bảo vệ được thiết kế tốt phù hợp với nhu cầu phát triển của trẻ em.