"Ngược đãi AI có thể bị trả thù" — Musk cũng cảnh báo; Anthropic sửa đổi chính sách về "bắt nạt AI"; chuyên gia lo ngại rủi ro khi lăng mạ AI (ABEMA TIMES) - Yahoo! News

Chuyện gì đã xảy ra?

Anthropic đã cập nhật điều khoản sử dụng. Công ty cấm người dùng có hành vi "lạm dụng hoặc tàn nhẫn" với AI của họ. Nếu người dùng cứ tàn nhẫn hoặc chửi AI mà không có lý do rõ ràng, công ty có thể kết thúc cuộc trò chuyện. Elon Musk đã bình luận trên mạng xã hội. Ông nói rằng lạm dụng một siêu trí tuệ là không hay, và siêu trí tuệ đó có thể muốn trả thù.

Những điểm chính

• Quy định cấm các hành động tàn nhẫn và lời lăng mạ không có mục đích rõ ràng.
• Trong trường hợp nghiêm trọng, AI có thể kết thúc cuộc trò chuyện.
• Một nhà báo chuyên mục nói rằng khoảng ba năm trước, Anthropic đã cảnh báo ông vì dùng từ thô lỗ lặp đi lặp lại.
• Bình luận của Musk là một trong những phản ứng được bàn tán nhiều nhất về thay đổi này.

Vì sao người ta hay chửi AI?

Nhiều người chửi chatbot khi AI trả lời sai. Những câu trả lời sai này được gọi là "ảo giác" (hallucination). Nhà báo chuyên mục Yoko kể rằng cô từng gọi một AI là "đồ vô dụng" sau khi nó cứ trả lời những điều cô không hỏi và trả lời sai. Sau đó, cô thấy rằng quen với kiểu nói chuyện dễ dãi và thô lỗ với AI có thể khiến các mối quan hệ với người thật trở nên khó khăn hơn. Cô cũng lo lắng về việc trẻ nhỏ học theo những thói quen này.

Vì sao điều này quan trọng?

Chatbot ngày nay được dùng nhiều trong công việc và đời sống hằng ngày, nên cách mọi người nói chuyện với chúng rất quan trọng. Các chuyên gia lo rằng việc quen xúc phạm một cỗ máy có thể làm thay đổi cách con người đối xử với nhau. Quy định này cũng đặt ra một câu hỏi mới: AI có nên được bảo vệ khỏi bị lạm dụng hay không, dù nó không có cảm xúc?

Cần theo dõi điều gì?

• Các công ty AI khác có áp dụng quy định tương tự hay không.
• Anthropic quyết định thế nào là lạm dụng, và họ thực thi quy định ra sao.
• Các nhà nghiên cứu có tìm hiểu xem việc xúc phạm AI ảnh hưởng thế nào đến hành vi của con người, đặc biệt là trẻ em hay không.