오픈 모델은 프런티어 LLM 비용의 20분의 1로 에이전트 작업의 90%를 처리할 수 있다: 가트너

무슨 일이 있었나

Gartner는 새 보고서에서 기업 AI 작업 단계의 약 90%를 오픈 가중치 모델이 처리할 수 있다고 밝혔습니다. 오픈 가중치 모델은 누구나 내려받아 쓸 수 있도록 공개된 AI 모델입니다. 보고서는 2030년까지 기업의 운영용 에이전트 작업 단계 90%가 이런 모델에서 실행될 것이라고 예측했습니다. 에이전트는 사람 대신 여러 단계의 일을 스스로 처리하는 AI 프로그램입니다.

핵심 숫자

• 같은 점수를 내는 가장 싼 비공개 모델과 비교하면, 오픈 모델 비용은 4분의 1입니다.
• 최고급 모델을 모든 단계에 쓸 때와 비교하면, 비용은 20분의 1까지 줄어듭니다.
• 실제로는 오픈 모델이 답을 더 길게 쓰고 재시도도 더 많아서, 작업당 절감 폭은 대략 5~6배로 보고 있습니다.
• 작업 단계 중 약 90%가 반복적인 일(분류, 도구 호출, 데이터 검사 등)입니다.

알아두면 좋은 배경

대부분의 AI 모델은 점점 비슷해져서 일종의 흔한 상품(commodity)이 되고 있습니다. 보고서는 진짜 가치가 '하네스'에 있다고 봅니다. 하네스는 에이전트를 실행하고 관리하는 도구입니다. 하네스는 각 일에 가장 알맞은 모델을 골라 보내서, 사용자가 눈치채지 못하게 비용을 아끼고 안전 규칙을 지키게 합니다.

왜 중요한가

기업은 업무 기록을 밖으로 보내는 것을 꺼립니다. 모든 반복 작업을 외부 최고급 모델 API로 보내면 회사의 소중한 데이터가 회사 밖으로 나갑니다. 보고서는 오픈 모델을 쓰면 통제권을 지킬 수 있고, 비용 절감은 덤이라고 설명합니다. 최고급 모델은 연구와 개발처럼 무거운 일에 쓰고, 나머지 반복 작업은 오픈 모델이 맡는 방식이 자리 잡을 수 있다는 뜻입니다.

앞으로 지켜볼 점

• 오픈 모델이 실제 기업 업무에서 얼마나 믿을 만하게 작동하는지
• 하네스 기술을 가진 회사들이 어떤 가치를 얻게 될지
• 오픈 모델이 답을 장황하게 쓰고 재시도가 잦은 문제가 개선되는지