보관된 글 — US — techcrunch
Eric Schmidt, "AGI를 위한 맨해튼 프로젝트 반대" 주장
Eric Schmidt와 동료 저자들은 미국이 AGI를 위한 '맨해튼 프로젝트'를 추진하는 것에 반대하며, 이는 중국과 같은 경쟁 상대로부터 보복을 유발할 수 있어 국제 관계를 불안정하게 만들 수 있다고 주장했습니다. 그들은 적극적인 경쟁 대신 억제와 위험 완화에 초점을 맞추는 것을 제안했습니다. 이 보수적인 접근은 AI의 신속한 발전에 대한 요구와는 대조적이며, 글로벌 안정에 대한 우려를 반영하고 있습니다.
핵심 정리
- Eric Schmidt, Alexandr Wang, 그리고 Dan Hendrycks는 AGI를 적극적으로 추구하는 것에 반대하며, 중국과 같은 경쟁 상대로부터 보복을 유발할 수 있다고 경고합니다.
- 그들은 AGI를 위한 '맨하탄 프로젝트'가 긴장을 고조시키는 대신 안정을 확보하는 데 도움이 되지 않을 수 있다고 강조합니다.
- 이 논문은 미국이 핵무기에서의 상호 보복의 원칙에 준하는 방어 전략을 채택해 위험을 완화해야 한다고 제안합니다.
- 그들은 AGI를 지배하기 위해 단순히 경쟁하는 대신 위협하는 AI 프로젝트를 비활성화하는 사이버 능력을 향상시키는 것을 제안합니다.
- 저자들은 AI 개발을 늦추기를 옹호하는 '패배론자(doomers)'와 가속화를 주장하는 '타조(ostriches)' 두 가지 주류 견해를 인정합니다.
왜 중요한가
- AI가 핵무기에 비유되는 개념은 AI가 중요한 군사 자산으로 인식되고 있는 현재의 세계적인 논의를 반영합니다.
- AI에 대한 국제적인 경쟁에 대한 우려는 냉전 시대의 군비 경쟁과 상호 보증에 대한 역동을 반영합니다.
- 미국의 최근 의회 논의는 AI 개발과 규제에 대한 증대된 시급함을 시사합니다.
- AI 개발에 대한 상반된 견해는 테크놀로지 발전 대 윤리적 고려에 대한 보다 광범위한 사회적 논의를 반영하며, 특히 AI 기술 능력의 급격한 발전 이후에 이어지고 있습니다.
Schmidt 박사와 그의 공동 저자들은 AGI 개발에 대한 신중하고 억제 중심적인 접근을 주장하며, 글로벌 긴장 증가 속에서 공격적인 경쟁보다는 안정과 협력의 필요성을 강조하고 있습니다.