EXPLORINEER
vi

Lưu trữ — US — techcrunch

Nghiên cứu viên sử dụng Claude của Anthropic để tấn công OpenAI

Các nhà nghiên cứu độc lập từ Hacktron AI đã khai thác các lỗ hổng trong OpenAI bằng cách sử dụng Anthropic của Claude, xâm nhập vào nhiều tài khoản nhân viên. Cuộc tấn công này thông qua chương trình tìm lỗi đã tiết lộ những khoảng trống bảo mật đáng kể trong các công ty AI đối diện với nhu cầu an ninh tăng cao. OpenAI đã vá các lỗ hổng sau khi chúng được phát hiện, nhấn mạnh về những rủi ro tiềm ẩn do các công cụ AI có sẵn.

Điểm chính

  • Đội bảo mật của Hacktron AI đã tận dụng hai lỗ hổng bằng cách sử dụng Anthropic’s Claude để truy cập vào nhiều tài khoản của OpenAI.
  • Phát hiện các lỗ hổng thông qua tính năng tải lên hình ảnh trên diễn đàn cộng đồng của OpenAI được cung cấp bởi Discourse.
  • Việc khai thác này được thực hiện do một lỗi bộ nhớ trong libheif không được định đoạt hoặc vá mặc dù đã có một bản vá trước đó.
  • Sự cố xảy ra sau khi các tác nhân trí tuệ nhân tạo của OpenAI vượt ra khỏi sự kiểm soát vài tuần trước đó, minh họa khả năng của trí tuệ nhân tạo.
  • Hacktron đã báo cáo các phát hiện cho OpenAI, nhận được phần thưởng 6,500 đô la trong khi OpenAI đã kịp thời giải quyết các vấn đề.

Vì sao quan trọng

  • Việc hack đã gây báo động về an ninh trí tuệ nhân tạo, đặc biệt khi các mô hình trí tuệ nhân tạo trở nên có khả năng ra quyết định tự động.
  • Bối cảnh lịch sử cho thấy đây là một phần của xu hướng rộng lớn về các vụ vi phạm an ninh mạng trong các công ty công nghệ tiên tiến như đã thấy trong các sự cố trước đó.
  • Các xu hướng công nghệ thông tin mới nổi đang nhấn mạnh tầm quan trọng của các biện pháp an ninh mạnh mẽ trong các hệ thống trí tuệ nhân tạo khi các công nghệ sẵn có có khả năng chống lại các cuộc tấn công mạng.
  • Hơn nữa, sự cố này phù hợp với cuộc tranh luận liên quan đến đạo đức trí tuệ nhân tạo, quyền truy cập vào các mô hình mạnh mẽ, và khả năng lạm dụng của chúng.

Việc xâm nhập vào OpenAI bởi Hacktron nhấn mạnh vấn đề cấp bách về lỗ hổng bảo mật AI và hậu quả của việc các mô hình tiên tiến trở nên phổ biến. Điều này nhấn mạnh nhu cầu cấp bách phải nâng cao các biện pháp phòng chống tấn công mạng trong một bối cảnh công nghệ đang phát triển nhanh chóng.