DE — heise online
보도: 중국, 미국 모델 증류로 AI 학습
AI2분 읽기
중국 AI 회사와 연구소가 미국의 큰 AI 모델이 내놓은 답을 베껴서 자기 모델을 훈련하는 경우가 많다는 보도입니다. 이런 방식을 '증류'라고 하며, 부족한 컴퓨팅 능력을 우회하는 데 도움이 됩니다.
무슨 일이 있었나요?
로이터가 중국 연구 논문, 특허, 회사 발표, 채용 공고, 정부 문서 300개가 넘는 자료를 살펴봤습니다. 그 결과 중국 AI 회사와 연구팀이 미국의 대형 모델을 이용해 자기 모델을 훈련하는 것으로 보였습니다. 이런 방식은 대학에서 기업으로 퍼지고 있으며, 중국 정부도 공장이 AI를 싸게 쓸 수 있도록 이를 지원하고 있습니다.
증류란 무엇인가요?
증류에서는 성능이 좋은 '선생' AI 모델이 답이나 단계별 풀이를 줍니다. 크기가 작은 '학생' AI 모델은 이 답을 보고 배웁니다. 이 방법 자체는 불법이 아닙니다. 하지만 미국 AI 회사 앤트로픽과 오픈AI는 중국 기업들이 이용 약관을 어겼다고 주장합니다. 가짜 신원, 훔친 API 키, 훔친 신용카드를 썼다는 것입니다. 중국은 이런 비난을 부인하며, 오히려 미국 기업도 비슷한 일을 한다고 반박합니다.
핵심 숫자와 사실
- 로이터가 검토한 중국 문서는 300개가 넘습니다.
- 상하이 교통대 연구진은 오픈AI o1 모델의 답 약 5,000개를 골랐습니다.
- 이들은 한국어가 아닌 두 언어를 함께 쓰는 훈련 예시 10,750개를 만들어 알리바바의 Qwen2.5-72B를 훈련했습니다.
- 1월에 여덟 개 정부 기관이 발표한 'AI+제조' 계획은 산업 현장 활용의 방법으로 증류를 언급합니다.
왜 중요한가요?
증류는 큰 모델의 모든 능력을 베낄 수는 없고, 강력한 컴퓨터 칩을 대신하지도 못합니다. 그래도 작은 모델에 특정 기술을 가르칠 수는 있습니다. 미국의 수출 금지 때문에 중국은 강력한 AI 칩이 부족한데, 이 방법은 가진 장비에서 더 많은 성과를 얻게 해 줍니다. 동시에 공정한 이용인지, 보안에 문제가 없는지, 중국이 독자적인 아이디어를 얼마나 만들 수 있는지에 대한 질문도 던집니다.
앞으로 지켜볼 점
- 미국 기업이나 기관이 중국의 증류 방식에 법적 또는 정책적 조치를 취할지 여부
- 중국이 외국 모델을 정상적으로 쓰는 범위가 어디까지인지 명확한 규칙을 낼지 여부
- 중국 기업이 수출 통제를 피하려고 중국 밖에서 더 많은 컴퓨팅 능력을 확보할지 여부
용어 풀이
- Qwen2.5-72B
- 알리바바가 만든 대형 언어 모델의 한 버전입니다.