Nvidia, 기업과 PC에서 에이전트를 구동하는 새로운 오픈 모델 출시

무슨 일이 있었나

엔비디아는 누구나 내려받아 조정할 수 있는 새 AI 모델을 출시했습니다. 가장 큰 모델인 Nemotron 3.5 Super VL은 기업용 AI 에이전트를 위해 만들어졌습니다. 에이전트는 사람의 도움을 많이 받지 않고 스스로 일을 하는 AI 프로그램입니다. 엔비디아는 또한 컴퓨터에서 직접 돌아가는 작은 Bolt 모델 두 개도 내놓았습니다.

주요 숫자와 사실

• Nemotron 3.5 Super VL은 1,200억 개의 파라미터(모델이 학습으로 익히는 설정값)를 가지고 있습니다.
• 엔비디아는 Super VL이 일부 작업에서 더 큰 Nemotron 3 Ultra와 비슷한 정확도를 낼 수 있다고 말합니다. 파라미터는 더 적게 씁니다.
• Nemotron 3.5 Bolt 74B-A9B 24GB는 740억 개의 파라미터를 가지며, 컴퓨터에서 도는 에이전트 작업용입니다.
• Bolt E4B는 가장 작은 모델이며 대화형 에이전트를 겨냥합니다. 이달 말에 나올 예정입니다.
• Super VL과 Bolt 74B-A9B는 지금 이용할 수 있습니다.

배경 설명

공개형 모델은 회사가 학습이 끝난 모델을 내려받아 자체 컴퓨터나 데이터센터에서 실행할 수 있게 해 줍니다. 엔비디아는 Super VL을 회사의 자체 데이터로 추가 학습시킬 수 있다고 말합니다. 또한 문서 작업, 회계, 보험 청구 같은 일부 에이전트 작업에서 Anthropic과 OpenAI의 일부 경쟁 모델보다 빠르다고 주장합니다. EY, Ramp, CrowdStrike, Perplexity, Salesforce 등이 사용 기업으로 언급되었습니다.

왜 중요한가

많은 기업이 외부 서비스에만 기대지 않고 직접 실행하고 관리할 수 있는 AI를 원합니다. 엔비디아는 또한 칩을 넣은 PC를 더 팔기 위해, 기기 안에서 도는 AI를 내놓고 있습니다. 이는 건강이나 금융 정보 같은 개인 정보를 클라우드 밖에 두는 데 도움이 될 수 있습니다. 다만 이는 엔비디아의 주장이므로, 독립적인 시험으로 실제 성능을 확인해야 합니다.

지켜볼 점

• 이달 말에 나올 Bolt E4B의 출시 여부
• 엔비디아의 속도와 정확도 주장을 독립 시험이 확인할지 여부
• Microsoft, Dell 같은 파트너를 통한 RTX Spark, DGX Spark PC의 판매 실적
• 기업들이 Super VL을 자체 데이터센터에 도입할지 여부