영국 핀테크 레볼루트, Claude 대신 자체 호스팅으로 전환해 AI 코딩 비용 10분의 1로 절감

무슨 일이 있었나

레볼루트는 Anthropic의 Claude 같은 상용 AI 서비스에 주로 기대던 방식을 버렸습니다. 대신 중국 Z.ai가 만든 공개 AI 모델 GLM을 회사 서버에 직접 설치해 기본으로 쓰고 있습니다. 약 2,000명의 엔지니어가 이 도구를 쓰고 있으며, 그 결과 코딩 시간과 작업 대기 시간이 크게 줄었다고 합니다.

핵심 숫자

• AI 코딩 추론 비용: 약 90% 감소 (1년 안팎)
• 코딩 시간: 60% 개선
• 작업 대기 시간(리드 타임): 70% 개선
• 사용 엔지니어: 약 2,000명
• 서버 장비: 엔비디아 B200 GPU 56개

왜 이런 선택을 했나

레볼루트는 처음에 Gemini, Claude Code 등을 써 봤습니다. 하지만 엔지니어 한 명이 한 달에 수천 달러를 쓰는 경우도 있었고, 그만큼 효과가 크지 않았습니다. 그래서 사용량에 엄격한 예산 제한을 걸었습니다. 그러자 엔지니어들은 쓸 수 있는 토큰(AI가 글을 읽고 쓰는 최소 단위)이 부족해졌고, 회사는 직접 모델을 운영하는 방법을 찾기 시작했습니다.

왜 중요한가

AI 도구 비용은 많은 회사에 큰 고민입니다. 이 사례는 모델을 직접 운영하면 비용을 크게 낮출 수 있음을 보여 줍니다. 또 토큰이 싸지면 엔지니어가 디버깅이나 업무 티켓 처리처럼 코드 밖의 일에도 AI를 마음껏 쓰게 된다는 점도 눈여겨볼 만합니다. 다만 회사는 긴 문맥을 무조건 많이 쓰는 것보다 실제로 필요한 만큼만 쓰는 것이 효율적이라고 말합니다.

앞으로 지켜볼 점

• GLM 모델을 더 최신 버전으로 바꾸는 과정
• 다른 회사들도 자체 서버 AI로 비용을 줄이는지 여부
• 상용 AI 서비스 가격이 어떻게 바뀌는지