Sam Altman của OpenAI công bố thỏa thuận với Lầu Năm Góc kèm theo 'các biện pháp bảo vệ kỹ thuật'

Giám đốc điều hành của OpenAI, Sam Altman, đã công bố một thỏa thuận với Bộ Quốc phòng cho phép sử dụng các mô hình trí tuệ nhân tạo của công ty trong các mạng lưới phân loại, đặc biệt nhấn mạnh các biện pháp an toàn chống lại việc sử dụng sai mục đích, bao gồm cấm sử dụng để giám sát nội địa. Điều này diễn ra sau một mâu thuẫn giữa Bộ Quốc phòng và đối thủ Anthropic, mà đã phản đối việc sử dụng trí tuệ nhân tạo trong một số hoạt động quân sự. Thỏa thuận nhằm mục đích giảm căng thẳng và thúc đẩy việc sử dụng trí tuệ nhân tạo một cách có trách nhiệm.

Key Points

• OpenAI đã đạt thỏa thuận với Quân đội Hoa Kỳ để sử dụng mô hình AI trong các mạng phân loại.
• Các nguyên tắc an toàn quan trọng bao gồm việc cấm giám sát hàng loạt nội địa và đảm bảo sự kiểm soát của con người đối với việc sử dụng vũ lực.
• Anthropic đã bị chỉ trích từ Trump và Bộ Quốc phòng vì không cho phép mô hình AI của mình được sử dụng trong các hoạt động quân sự.
• Hơn 60 nhân viên từ OpenAI và 300 từ Google đã ủng hộ vị thế của Anthropic chống lại việc sử dụng quân sự.
• Altman nhấn mạnh cam kết của OpenAI với an toàn và các biện pháp bảo vệ kỹ thuật trong thỏa thuận.
• Thỏa thuận đến trong bối cảnh căng thẳng địa chính trị rộng lớn, bao gồm các hoạt động quân sự của Mỹ tại Iran.

Relevance

• Thỏa thuận với Bộ Quốc phòng phản ánh một xu hướng ngày càng tăng về sự quan tâm quân sự đối với công nghệ AI.
• Lịch sử, các ứng dụng quân sự của AI đã gây ra lo ngại về đạo đức liên quan đến giám sát và chiến tranh tự động hóa.
• Sự bùng nổ của AI đã thúc đẩy các cuộc thảo luận về quy định và biện pháp bảo vệ kỹ thuật trong ngành công nghệ.
• Lo ngại về việc lạm dụng AI trong các ứng dụng quân sự phản ánh cuộc tranh luận liên tục về đạo đức AI và an toàn công cộng.

Thỏa thuận giữa OpenAI và Bộ Quốc phòng đại diện cho một bước đi quan trọng hướng tới tích hợp Trí tuệ Nhân tạo (AI) vào hoạt động quân sự nhằm giải quyết các vấn đề đạo đức, phản ánh sự phát triển không ngừng của công nghệ AI và ảnh hưởng của nó đối với an ninh và tự do dân sự.