샘 올트먼: "RAM이 사용자 기기에 들어가 있다는 건 안타까운 일"

무슨 일이 있었나

올트먼 CEO는 10월 30일 유튜브 채널 Cheeky Pint와의 인터뷰에서 이렇게 말했습니다. 많은 사람들이 AI를 자기 기기에서 돌리고 싶어 한다는 것입니다. 사람들은 오픈소스 모델이 개인용 컴퓨터에서 돌아가면 문제가 풀린다고 생각한다고 그는 말했습니다. 올트먼은 RAM이 데이터센터에서 쓰여야 한다고 보았습니다.

기기 안에서 AI 돌리기란

기기 안에서 AI를 돌리는 것을 로컬 추론이라고 합니다. AI 모델이 노트북이나 휴대폰 같은 개인 기기에서 바로 실행되고, 데이터를 클라우드 서버로 보내지 않는 방식입니다. 기기는 CPU, GPU, NPU 같은 자체 칩으로 일을 합니다. ChatGPT나 Claude 같은 서비스는 보통 클라우드에서 돌아갑니다.

주요 숫자와 사실

• 올트먼은 개인용 컴퓨터의 RAM이 켜져 있는 시간 중 약 5%만 쓰인다고 말했습니다.
• Micron은 26건의 전략적 계약을 맺었고, 예상 매출의 35% 이상을 2030년까지 확보했습니다. 고객 예치금은 320억 달러입니다.
• Samsung은 2027년 예상 메모리 칩 생산량의 75~80%를 장기 계약으로 묶어 둔 것으로 전해졌습니다.
• 분석가들은 메모리 칩 부족이 적어도 2028년까지 이어질 것으로 봅니다.

예전과 달라진 점

과거에는 수요가 늘면 칩 회사들이 공장을 더 지었습니다. 그러면 나중에 공급이 넘쳐 가격이 떨어지곤 했습니다. 이번에는 회사들이 새 생산 능력을 많이 짓기보다 가격을 여러 배로 올리는 쪽을 택하고 있습니다. 공급은 계속 빠듯하고, 높은 가격도 더 오래 갑니다.

왜 중요한가

Tom's Hardware는 올트먼이 OpenAI의 사업 모델을 지키려는 것이라고 봤습니다. OpenAI는 주로 자사 데이터센터에서 돌아가는 닫힌 모델을 팝니다. 사람들이 자기 기기에서 AI를 돌릴 수 있게 되면 돈을 덜 낼 수도 있습니다. The Verge의 Steve Bonifiled는 RAM에 대한 막대한 지출 때문에 컴퓨터, 휴대폰 등 모든 기기가 모두에게 더 비싸지고 있다고 말했습니다.