Lưu trữ — US — techcrunch
Google gỡ bỏ AI Overviews cho một số truy vấn y tế nhất định
Google đã gỡ bỏ những Tổng quan AI cho các truy vấn liên quan đến sức khỏe cụ thể sau khi có những lo ngại về sự không chính xác. Một cuộc điều tra đã phát hiện thông tin sai lệch về khoảng giá trị xét nghiệm máu gan, khiến cho việc gỡ bỏ cho các truy vấn cụ thể, mặc dù những biến thể vẫn có thể hiển thị phản hồi AI. Người phát ngôn lưu ý rằng họ đang cố gắng cải thiện mạnh mẽ hơn trong bối cảnh lo ngại về tính đáng tin cậy của AI trong lĩnh vực chăm sóc sức khỏe.
Điểm chính
- Google đã loại bỏ tổng quan trí tuệ nhân tạo cho các truy vấn về sức khỏe sau khi một cuộc điều tra của Guardian chỉ ra thông tin sai lệch.
- Các truy vấn cụ thể bị ảnh hưởng bao gồm 'phạm vi bình thường cho xét nghiệm máu gan' và 'phạm vi bình thường cho xét nghiệm chức năng gan'.
- Việc tìm kiếm ban đầu có thể không hiển thị tổng quan trí tuệ nhân tạo, nhưng các biến thể vẫn cho kết quả tóm tắt được tạo ra bởi trí tuệ nhân tạo.
- Đánh giá nội bộ của Google phát hiện thông tin không luôn sai lệch, đề xuất chất lượng không đồng đều.
- Tổ chức British Liver Trust ủng hộ việc loại bỏ này nhưng kêu gọi hành động rộng lớn hơn đối với tổng quan trí tuệ nhân tạo trong lĩnh vực sức khỏe.
Vì sao quan trọng
- Năm 2025, sự phụ thuộc ngày càng tăng vào trí tuệ nhân tạo trong lĩnh vực y tế gây lo ngại về độ chính xác và đáng tin cậy của thông tin sức khỏe do máy tính tạo ra.
- Thông tin sức khỏe sai lầm từ các công cụ trí tuệ nhân tạo có thể dẫn đến tự chẩn đoán sai hoặc an ủi, làm tăng nguy cơ trong chăm sóc bệnh nhân và kết quả sức khỏe.
- Sự cố này nhấn mạnh tầm quan trọng của việc thiết lập khung pháp lý và hướng dẫn để đảm bảo các công cụ trí tuệ nhân tạo cung cấp thông tin sức khỏe chính xác và an toàn.
Google đã loại bỏ một số bảng tóm tắt trí tuệ nhân tạo nhằm thể hiện sự nhận thức gia tăng về yêu cầu về sự chính xác trong thông tin sức khỏe. Tuy nhiên, lo ngại tiếp tục về độ tin cậy của trí tuệ nhân tạo trong lĩnh vực y tế làm nổi bật sự cần thiết về sự giám sát rộng lớn hơn và cải thiện tiêu chuẩn chất lượng.