EXPLORINEER
vi

Lưu trữ — US — techcrunch

Irregular huy động 80 triệu USD để bảo đảm các mô hình AI tiên tiến

Công ty bảo mật AI Irregular đã huy động được 80 triệu đô la vốn đầu tư dẫn đầu bởi Sequoia Capital và Redpoint Ventures, ước tính vốn hóa của công ty là 450 triệu đô la. Đồng sáng lập Dan Lahav nhấn mạnh sự cấp thiết của việc bảo vệ tương tác AI. Irregular nhằm mục tiêu phát hiện rủi ro và hành vi mới của AI bằng cách sử dụng mô phỏng tiên tiến, giữa những lo ngại an ninh đang gia tăng trong ngành công nghiệp AI.

Điểm chính

  • Irregular vừa huy động được 80 triệu đô la; vòng đầu tư do Sequoia Capital và Redpoint Ventures dẫn đầu.
  • Định giá công ty ở mức 450 triệu đô la; thể hiện sự quan tâm mạnh mẽ từ các nhà đầu tư đối với an ninh trí tuệ nhân tạo.
  • Tập trung vào việc bảo vệ tương tác kinh tế giữa con người và trí tuệ nhân tạo, nhấn mạnh vào các rủi ro phá vỡ an ninh.
  • Khung công việc của công ty, SOLVE, đóng vai trò quan trọng trong việc đánh giá sự yếu điểm của mô hình, được tham chiếu trong các đánh giá bao gồm Claude 3.7 và các mô hình của OpenAI.
  • Mục tiêu là xác định các rủi ro trí tuệ nhân tạo mới nổi trước khi chúng trở nên rõ ràng, sử dụng mô phỏng phức tạp để kiểm tra các yếu điểm của mô hình.
  • Tập trung mạnh mẽ vào an ninh trí tuệ nhân tạo khi các mô hình biên giới đặt ra các rủi ro gia tăng; OpenAI đã cải thiện các biện pháp an ninh của họ.
  • Irregular nhìn nhận rằng thách thức an ninh trong tương lai sẽ phát sinh từ khả năng của các mô hình ngôn ngữ tiên tiến.

Vì sao quan trọng

  • Cảnh quan an ninh trí tuệ nhân tạo đang thu hút sự chú ý do nguy cơ ngày càng tăng từ các mô hình trí tuệ nhân tạo phức tạp.
  • Có thể so sánh với lo ngại về an ninh mạng trong giai đoạn sớm của việc áp dụng rộng rãi các công nghệ số.
  • Ngành công nghệ đang chứng kiến một xu hướng đánh giá và hạn chế các nguy cơ từ trí tuệ nhân tạo, khi các công ty đầu tư mạnh vào việc bảo vệ các công nghệ trí tuệ nhân tạo.
  • Các khung pháp lý mới về trí tuệ nhân tạo có thể định hình chiến lược an ninh của các công ty như Irregular.

Vòng gọi vốn đáng kể của công ty Irregular làm nổi bật sự quan trọng ngày càng tăng của an ninh AI trong một cảnh quan phát triển, khi các công ty phải thích nghi với sự phức tạp và đe dọa từ những mô hình AI tiên tiến.