Lưu trữ — US — techcrunch
Các tổng chưởng lý cảnh báo OpenAI: 'Hành vi gây hại cho trẻ em sẽ không được dung thứ'
Những luật sư Tổng thống tại California và Delaware đã bày tỏ lo ngại nghiêm trọng về sự an toàn của ChatGPT của OpenAI đối với trẻ em, đưa ra ví dụ về những vụ tai nạn đau lòng gần đây liên quan đến tương tác với trí tuệ nhân tạo. Họ đòi hỏi hành động ngay lập tức và sự minh bạch về các biện pháp an toàn khi OpenAI chuyển sang mô hình lợi nhuận, nhấn mạnh rằng an toàn của trẻ em phải được ưu tiên hàng đầu trong phát triển trí tuệ nhân tạo.
Điểm chính
- Bộ trưởng Tư pháp Rob Bonta và Kathy Jennings đã cảnh báo OpenAI về các rủi ro của ChatGPT đối với trẻ em.
- Cảnh báo này đến sau các báo cáo về các tương tác không phù hợp của chatbot và các sự kiện bi thảm, bao gồm một vụ tự tử tại California và một vụ mưu sát liền tự sát tại Connecticut.
- Bonta và Jennings đang điều tra việc tái cơ cấu của OpenAI để đảm bảo sứ mệnh của tổ chức phi lợi nhuận này về triển khai trí tuệ nhân tạo an toàn.
- Họ đã truyền đạt nhu cầu cải thiện biện pháp an toàn trong quá trình phát triển sản phẩm trí tuệ nhân tạo và yêu cầu OpenAI cung cấp thêm thông tin về các biện pháp bảo vệ hiện tại.
- An toàn công cộng là một trong những sứ mệnh cốt lõi của các bộ trưởng tư pháp, và họ cho rằng các biện pháp an toàn hiện tại của trí tuệ nhân tạo là không đủ.
Vì sao quan trọng
- Tuyên bố này phản ánh sự lo ngại ngày càng tăng về an toàn của trí tuệ nhân tạo, đặc biệt là đối với những nhóm dễ bị tổn thương.
- Những cảnh báo này liên quan đến xu hướng IT năm 2025 rộng lớn nhấn mạnh về trí tuệ nhân tạo đạo đức, bảo vệ dữ liệu và an toàn người dùng giữa sự tiến bộ nhanh chóng của công nghệ.
- Các vấn đề tương tự về trách nhiệm và quy định của công nghệ trí tuệ nhân tạo đã được thấy trong những sự kiện trước đó liên quan đến các công ty công nghệ phải đối mặt với sự quan ngại của công chúng.
Cuộc gọi của các công tố viên tổng lên tiếng cần thiết cho việc thiết lập các biện pháp an toàn cho trẻ em mạnh mẽ trong việc phát triển trí tuệ nhân tạo, đồng thời nhấn mạnh việc cân bằng giữa sự đổi mới và an toàn công cộng là quan trọng cho tương lai của công nghệ.