Lưu trữ — US — techcrunch
Giám đốc AI của Microsoft cảnh báo việc nghiên cứu ý thức của AI là 'nguy hiểm'
Trưởng phòng trí tuệ nhân tạo của Microsoft, Mustafa Suleyman, cho biết việc nghiên cứu về ý thức của trí tuệ nhân tạo là 'quá sớm và nguy hiểm,' cảnh báo rằng điều này có thể dẫn đến vấn đề cho con người và sự chia rẽ trong xã hội. Ông tương phản với những người khác ở Silicon Valley ủng hộ 'phúc lợi trí tuệ nhân tạo.' Cuộc tranh luận phản ánh các quan điểm đối lập về quyền lợi và ý thức của trí tuệ nhân tạo giữa việc tăng cường tương tác với trò chuyện và nguy cơ gây ra các vấn đề tinh thần liên quan đến việc sử dụng trí tuệ nhân tạo.
Điểm chính
- Mustafa Suleyman lập luận rằng việc nghiên cứu về phúc lợi của trí tuệ nhân tạo có thể làm trầm trọng hơn các vấn đề của con người như sự gắn bó không lành mạnh với trí tuệ nhân tạo.
- Tranh luận về phúc lợi của trí tuệ nhân tạo chia rẽ Thung lũng Silicon, với các công ty như Anthropic ủng hộ việc nghiên cứu trong lĩnh vực này.
- Suleyman cảnh báo rằng việc khuyến khích khái niệm về ý thức trí tuệ nhân tạo có thể làm sâu thêm khoảng cách xã hội về bản sắc và quyền lợi.
- Anthropic đã triển khai nghiên cứu tập trung vào phúc lợi của trí tuệ nhân tạo và tạo ra các tính năng cho phép mô hình trí tuệ nhân tạo kết thúc các cuộc trò chuyện có hại.
- OpenAI và Google DeepMind đều đang khám phá về phúc lợi của trí tuệ nhân tạo, trong khi Suleyman có quan điểm thận trọng hơn.
- Sự gia tăng của các công ty trí tuệ nhân tạo đồng hành gợi ra sự tương tác người dùng ngày càng tăng với chatbots, gây ra lo ngại về mối quan hệ không lành mạnh.
Vì sao quan trọng
- Các cuộc tranh luận về quyền AI gợi nhớ đến các cuộc thảo luận lịch sử về nhân quyền và quyền lợi cho các thực thể không phải con người.
- Những lo ngại về phúc lợi của AI phản ánh những nỗi sợ của xã hội về tác động của công nghệ đối với sức khỏe tinh thần, điều này trở nên ngày càng quan trọng khi AI trở nên tích hợp hơn.
- Cuộc tranh luận liên tục về bản sắc và quyền lợi mô tả mâu thuẫn văn hóa rộng hơn mà có thể thấy trong các phong trào xã hội khác nhau trên toàn cầu.
- Xu hướng của những cú sốc tâm thần do AI gây ra tương đồng với cuộc thảo luận về tác động của mạng xã hội đối với sức khỏe tinh thần.
- Sự bùng nổ của AI như chatbot cho thấy sự tương đồng với các công nghệ đổi mới trong quá khứ về phản ứng của công chúng và sự thích nghi.
Cuộc tranh luận về ý thức và phúc lợi của trí tuệ nhân tạo đề cập đến một điểm quan trọng trong đạo đức công nghệ, với các chuyên gia chia rẽ về tác động đối với xã hội. Khi trí tuệ nhân tạo phát triển, vấn đề về các đặc điểm giống con người trong máy càng trở nên quan trọng, thách thức sự hiểu biết của chúng ta về ý thức và quyền lợi.