EXPLORINEER
ko

UK — The Register

퀄컴, 랙 규모 엔비디아 AI 도전자 시승 기회 제공

반도체1분 읽기

퀄컴이 엔비디아의 AI 칩에 맞서는 랙 단위 추론 시스템 'Dragonfly AI200'을 일부 고객이 클라우드에서 써 볼 수 있게 열었습니다. 추론은 AI가 이미 배운 지식을 써서 답을 내는 과정을 말합니다.

무슨 일이 있었나

퀄컴은 선택된 고객에게 'Dragonfly AI200' 시험 사용을 열어 주었습니다. 시험은 클라우드 회사 Cirrascale의 AI 클라우드를 통해 이루어집니다. 이 시스템은 큰 언어 모델과 여러 형태의 데이터를 다루는 AI 모델을 돌리는 용도입니다. 퀄컴은 이 시험이 실제 운영 도입으로 이어질 수 있다고 말합니다. Cirrascale은 11월 17~18일 시카고에서 열린 SC26 행사에서도 이 시스템을 보여 주었습니다.

주요 숫자

  • AI200 가속기 카드 한 장에 LPDDR 메모리 768GB가 들어갑니다.
  • 액체 냉각 랙 하나에 카드 56장을 넣어 약 43TB 메모리를 제공합니다.
  • 시스템은 70억 개에서 10조 개 매개변수까지의 모델을 지원한다고 합니다.

배경 설명

엔비디아는 AI 칩 시장에서 가장 큰 회사입니다. 엔비디아의 Blackwell 기반 NVL72 시스템은 빠르지만 비싼 HBM3e 메모리를 씁니다. 퀄컴은 주로 모바일 기기에 쓰이는 LPDDR 메모리를 골랐습니다. 메모리를 많이 넣는 것이 곧 엔비디아만큼 빠르다는 뜻은 아니라는 점도 기사에서 짚고 있습니다.

왜 중요한가

AI 추론은 데이터센터에서 가장 큰 컴퓨팅 작업 중 하나가 되고 있습니다. 전기와 운영비가 많이 드는 문제를 줄일 수 있다면 더 많은 회사가 AI를 쓸 수 있습니다. 퀄컴은 이번 시험으로 그 주장을 실제 고객 환경에서 확인받을 기회를 얻었습니다.

앞으로 지켜볼 점

  • 시험을 한 고객들이 전력과 운영비를 실제로 얼마나 줄였는지
  • 시험이 실제 운영 도입 계약으로 이어지는지
  • 엔비디아 대비 성능과 비용이 어떻게 비교되는지

용어 풀이

Cirrascale
고객에게 AI 연산 자원을 빌려주는 클라우드 서비스 회사입니다.
Dragonfly AI200
퀄컴이 AI 추론용으로 내놓은 랙 단위 시스템입니다.
LPDDR
전력을 적게 쓰는 메모리 종류로, 보통 휴대폰 같은 모바일 기기에 쓰입니다.
HBM3e
데이터를 아주 빠르게 주고받는 고성능 메모리 종류로, 값이 비쌉니다.

광고

단어 150개를 담고, 하루 10개씩

Dicter 단어북은 외운 단어만 복습노트에 남겨요.

반도체The Register

중국 인터넷 거대 기업 텐센트 "미국의 새 GPU 금지 조치, 중국 전체를 후퇴시킨다"

텐센트의 마틴 라우 사장은 중국 기업의 GPU 원격 접근을 금지하는 미국의 새 규제가 단기적으로는 영향을 주겠지만 결국 중국의 자체 대안 개발을 가속할 것이라고 말했습니다. 그는 이 금지 조치가 텐센트의 모델 훈련과 GPU 임대에 영향을 미치는 반면, 중국산 칩으로 추론 작업은 감당할 수 있을 것이라고 밝혔습니다.

반도체The Register

평소와 다름없지만, 황 회장은 돌아오지 않는다고 엔비디아가 밝혔다

엔비디아 이사회는 지난주 사임한 젠슨 황 CEO를 다시 데려올 계획이 없다고 밝혔으며, 보안 및 수출 규정 준수를 감독하는 위원회를 만들고 새 리더를 찾는 중이라고 전했습니다. 콜레트 크레스 임시 CEO는 분기 매출이 103% 증가한 1,158억 달러라고 발표하고 2028 회계연도 성장 전망을 약 75%로 올렸지만, 애널리스트들은 회사의 향후 방향에 대한 의문이 남아 있다고 지적했습니다.

반도체TechCrunch

엔비디아, 네오클라우드 금융 지원을 언제 하고 언제 하지 않을지 명확히 하다

콜레트 크레스 엔비디아 CFO(현 임시 CEO)는 분기 실적 콘퍼런스콜에서 대출 보증이 고객이 시설 건설과 장비 설치에 필요한 자금을 확보한 이후에만 효력을 발생한다고 밝혔습니다. 프로젝트가 지연되거나 조건을 충족하지 못하면 보증은 "더 이상 존재하지 않는다"고 말했습니다. 크레스는 앞으로 고객 금융 지원에 훨씬 더 선별적으로 임할 것이라면서도 전면 철수하는 것은 아니라고 덧붙였습니다.

반도체ZDNet Korea

"젠슨 황 귀환 없다"…엔비디아는 왜 창업자 외면했나

불륜 논란으로 엔비디아 CEO에서 물러난 젠슨 황의 복귀설이 이어지고 있지만, 하비 존스 이사회 의장은 사임을 만장일치로 수용했으며 그를 CEO로 복귀시킬 의사가 없다고 밝혔다. 국가안보 우려와 사내 윤리규정 위반 문제가 복귀의 걸림돌로 꼽히며, 이사회는 법적·윤리적 기준을 우선시했다는 비판을 피하기 어려운 상황이라고 기사는 분석했다.