KR — ZDNet Korea
"Tưởng robot trục trặc hóa ra là bị hack": Các mối đe dọa bảo mật đối với AI vật lý ngày càng lớn
Bảo mật2 phút đọc
Công ty nghiên cứu Gartner cảnh báo rằng "AI vật lý" trong robot, máy bay không người lái và xe tự lái có thể bị tấn công theo những cách mới. Tin tặc có thể làm sai lệch cách AI nhìn thế giới, và điều đó có thể gây thương tích hoặc hỏng thiết bị.
Chuyện gì đã xảy ra
Gartner vừa công bố một báo cáo về AI vật lý và tác động của nó đối với các giám đốc an ninh thông tin (CISO), tức là những người đứng đầu việc phòng thủ mạng của công ty. Báo cáo cho biết cách bảo mật cũ, chỉ tập trung vào mạng, không đủ để giữ AI vật lý an toàn. AI vật lý là loại AI nhận biết thế giới qua camera và cảm biến, rồi tự di chuyển. Robot, máy bay không người lái và xe tự lái là ví dụ.
Các con số và sự kiện chính
- Một nghiên cứu của IEEE, được Gartner trích dẫn, cho thấy một cuộc tấn công tinh vi có thể làm hệ thống lệch khỏi đường đi tới 8 mét.
- Cùng cuộc tấn công này có thể khiến hệ thống "thấy" chướng ngại vật không hề có thật.
- Chỉ trễ khoảng 15 mili giây (ms) khi kiểm tra bảo mật mạng cũng có thể phá vỡ việc điều khiển theo thời gian thực.
- Gartner cho biết phần lớn hệ thống vật lý-mạng trong công nghiệp chưa dùng AI vật lý ở quy mô lớn.
Vì sao AI vật lý dễ bị tổn thương
AI vật lý được thiết kế để thích nghi với những thay đổi xung quanh. Vì vậy, nếu kẻ tấn công chỉnh dữ liệu cảm biến từng chút một, sự thay đổi đó có thể giống như quá trình học bình thường. Ngoài ra, mô hình AI có thể hành xử khó đoán. Một chatbot bịa câu trả lời chỉ là vấn đề nhỏ. Nhưng một cánh tay robot di chuyển sai hoặc một động cơ quá mạnh có thể gây hại thật sự.
Vì sao điều này quan trọng
Khi một máy có lực tác động vật lý mắc lỗi, con người và nhà máy có thể bị thương. Gartner cho rằng chỉ dựa vào phần mềm có thể không ngăn được các tai nạn này. Công ty cũng có thể phải chịu trách nhiệm nếu không lắp thiết bị an toàn phù hợp hoặc không vận hành hệ thống một cách an toàn. Đội bảo mật cần lên kế hoạch trước khi AI vật lý được dùng rộng rãi.
Điều cần theo dõi
- Các công ty có lắp công tắc an toàn phần cứng hoạt động độc lập với AI hay không.
- Có thể thiết kế kiểm tra bảo mật sao cho không làm chậm việc điều khiển theo thời gian thực hay không.
- Các hệ thống giám sát riêng, kiểm tra chuyển động thực tế và tự chuyển sang chế độ an toàn khi thấy điều bất thường.
- Luật trách nhiệm sẽ thay đổi thế nào nếu một máy do AI điều khiển gây tai nạn nơi làm việc.
Chú giải
- Gartner
- Công ty nghiên cứu và tư vấn công nghệ, chuyên đưa ra báo cáo về xu hướng và rủi ro của ngành công nghệ.
- CISO
- Giám đốc an ninh thông tin, người đứng đầu việc bảo vệ hệ thống và dữ liệu của công ty khỏi tấn công mạng.
- IEEE
- Hiệp hội kỹ thuật và điện tử quốc tế, nơi công bố nhiều nghiên cứu khoa học về công nghệ.
- cảm biến
- Thiết bị thu thập thông tin từ môi trường, ví dụ ánh sáng, khoảng cách hoặc chuyển động.
- mili giây (ms)
- Đơn vị đo thời gian; một phần nghìn giây.