IBM CEO, 오픈 웨이트 모델이 이제 온프레미스에서 저렴하고 거부하기 힘들 만큼 뛰어나다고 발언

무슨 일이 있었나요?

IBM CEO 크리슈나는 회사의 3분기 실적 발표 자리에서 이렇게 말했습니다. 2024년에는 비공개 최상위 AI 모델이 오픈 모델보다 확실히 뛰어났지만, 지금은 그 차이가 많이 줄었다는 것입니다. 기업들은 이제 외부 클라우드 대신 자기 건물 안의 서버(온프레미스)에 AI를 설치하는 데 큰 관심을 보이고 있습니다.

주요 숫자와 사실

• 크리슈나의 비유: 최상위 모델은 70점, 오픈 모델은 20~30점이었던 2024년 차이가 2025년 말에는 70점 대 50점으로 좁혀졌습니다.
• 오픈 모델의 비용은 최상위 모델의 10~25% 수준이며, 성능은 약 90%라고 설명했습니다.
• 대부분의 기업 업무(이메일 요약, 계약서 검토, 고객 전화 응대 등)는 값싼 모델로도 충분하다고 봤습니다.
• IBM의 3분기 총매출은 171억 달러로 5% 늘었습니다. 소프트웨어 매출은 78억 달러로 9% 늘었고, 인프라 매출은 37억 달러로 5% 늘었습니다.
• 레드햇(Red Hat) 가상화 제품은 8억 달러 규모의 계약을 따냈고, 7억 5천만 달러의 후속 거래가 대기 중입니다.

알아두면 좋은 배경

오픈 웨이트 모델은 누구나 내려받아 자기 서버에서 실행할 수 있는 AI 모델입니다. 반대로 비공개 모델은 회사가 서비스로만 제공합니다. 온프레미스는 회사 안에 장비를 두고 쓰는 방식입니다. 랙(rack)은 서버를 세워 넣는 선반형 장비함을 뜻하며, '두세 개의 랙'이라는 말은 비교적 작은 규모라는 뜻입니다.

왜 중요한가요?

비용이 크게 줄면 더 많은 회사가 AI를 실제 업무에 쓸 수 있습니다. 하지만 크리슈나는 서버를 제대로 돌리는 일이 어렵다고도 인정했습니다. 전문 인력과 네트워크, 캐싱 같은 기술이 필요하기 때문입니다. IBM은 이런 작업을 쉽게 해 주는 소프트웨어를 만들겠다고 밝혔습니다.

앞으로 지켜볼 점

• IBM이 약속한 배포 지원 소프트웨어가 실제로 나오는지 확인하기
• Spyre 메인프레임 가속기 카드의 판매가 늘어나는지 보기
• z17 메인프레임 매출 하락이 언제까지 이어질지 지켜보기