보관된 글 — US — techcrunch
트럼프의 '반각성 AI' 명령, 미국 기술기업 모델 훈련 방식 변화 예고
트럼프 대통령의 최근 대통령 행정명령은 정부 계약에서 '워크 AI'를 금지했습니다. 이는 이념적으로 편향된 AI 모델을 대상으로 하고 있습니다. AI 출력물의 공정성을 보장하기 위한 조치지만, 개발자들이 정부의 이야기에 순응해야 한다는 압박을 느낄 수 있어, AI 기술에서 '진실'과 '중립성'의 해석에 대한 우려가 제기되고 있습니다.
핵심 정리
- 트럼프 행정명령이 이념적 편향을 가진 AI 모델을 연방 계약에서 배제하고 DEI를 해로운 것으로 봤다고 발표하다.
- 이 명령은 AI 기술을 '진실'과 '객관성'에 부합하도록 맞추려는 목표를 가지고 있으며, 이는 견해에 따른 차별을 촉발할 수 있는 위험성이 있다.
- 전문가들은 이 명령이 AI 개발을 저해할 수 있으며, 기업들을 정부의 기준을 충족시키기 위해 결과물을 조작하도록 압박할 수 있다고 우려를 표명하고 있다.
- 이 명령은 트럼프의 'AI 행동 계획'과 일치하는데, 이는 사회적 위험보다는 국가 안보와 중국과의 경쟁을 우선시하는 것이 목표이다.
- OpenAI와 xAI와 같은 대형 AI 기업들은 새로운 정책 하에서도 연방 정부와의 계약을 통해 자립적 AI 워크플로우 개발에 참여하고 있다.
- AI의 잠재적인 편향은 AI가 생성한 정보의 정직성에 영향을 미칠 수 있으며, 모델의 선택적 재교육으로 이를 트럼프의 이념에 따르도록 하는 가능성이 있다.
왜 중요한가
- 이 주문은 정치 이념에 영향을 받은 기술에 대한 규제가 점차 늘어나는 전반적인 추세를 반영합니다.
- AI의 '정체성'이 미국 정치에서 역사적으로 볼 수 있는 문화 전쟁의 논쟁을 반영하고 있습니다.
- 공공 및 민간 부문에서 AI가 중요해지면서 혁신과 이념적 통제 사이의 긴장이 점점 더 중요해지고 있습니다.
- 정부의 우선 순위 변화는 중국과의 기술 경쟁을 반영하여 글로벌 경쟁에 대한 대응일 수 있습니다.
'워크 AI'에 대한 행정명령으로 윤리적인 토론이 일어나고 있으며, AI의 편향성과 정부가 정의한 객관성의 영향에 대한 논의가 진행되고 있습니다. 이는 정치적으로 분열된 환경에서 기술 발전의 미래를 재편할 수 있는 중요한 이슈로 대두되고 있습니다.