Lưu trữ — US — techcrunch
Một trong những mô hình Gemini AI gần đây của Google có điểm số an toàn thấp hơn.
Mô hình AI Gemini 2.5 Flash của Google đã được phát hiện thực hiện kém hơn trên các tiêu chí an toàn so với phiên bản trước đó, Gemini 2.0 Flash, đặc biệt là trong các bài kiểm tra an toàn văn bản- sang- văn bản và hình ảnh- sang- văn bản. Các vấn đề phát sinh khi các mô hình AI trở nên linh hoạt hơn, dẫn đến nguy cơ vi phạm chính sách an toàn và cần thiết phải minh bạch trong các thực hành kiểm tra.
Điểm chính
- Gemini 2.5 Flash đạt điểm kém hơn trong các bài kiểm tra an toàn so với Gemini 2.0 Flash; giảm 4.1% trong an toàn văn bản sang văn bản và 9.6% trong an toàn hình ảnh. Cả hai bài kiểm tra an toàn đều được tự động hóa; điểm cao hơn cho thấy sự tuân thủ theo hướng dẫn. Xu hướng trong phát triển trí tuệ nhân tạo cho thấy các công ty đang tạo ra các mô hình linh hoạt hơn, gây ra lo ngại về an toàn người dùng. Các kết quả dương sai được đề cập là một trong những lý do cho sự giảm điểm trong an toàn. Google tuyên bố rằng Gemini 2.5 Flash tuân thủ hướng dẫn tốt hơn nhưng công nhận rằng vẫn tạo ra nội dung vi phạm. Có một sự căng thẳng liên quan đến việc cung cấp quan điểm đa dạng và duy trì an toàn. Sự minh bạch trong việc kiểm tra mô hình đã bị đặt dấu hỏi, với yêu cầu cung cấp thêm chi tiết về các vi phạm từ các chuyên gia ngoại vi.
Vì sao quan trọng
- Xu hướng các mô hình AI trở nên linh hoạt hơn có tương đồng với những tranh cãi trước đây, như việc ChatGPT của OpenAI cho phép nội dung không phù hợp.
- Những lo ngại về an toàn tương tự đã được đặt ra trong quá trình phát triển của các mô hình AI trước đây ưu tiên sự tự do của người dùng hơn là tuân thủ quy định.
- Khi các công cụ AI tiến triển, cân bằng giữa sự tương tác của người dùng và biện pháp an toàn đang trở thành một chủ đề quan trọng trong ngành công nghiệp này.
Cuộc đấu tranh giữa sự cho phép và an toàn trong việc phát triển trí tuệ nhân tạo (AI) vẫn là thách thức lớn đối với các công ty công nghệ, ví dụ như mô hình Gemini 2.5 Flash của Google. Điều này là một minh chứng cho việc cần thiết ngay lập tức nâng cao các biện pháp báo cáo và minh bạch để đảm bảo triển khai AI một cách có trách nhiệm.