보관된 글 — US — techcrunch
작가, 새로운 AI 모델과 토큰 비용 절감을 위한 업그레이드 하네스를 소개하다
작가는 Palmyra X6 AI 모델과 업그레이드된 해럿과 출시하여 마케터들의 배포 비용을 최대 50% 절감을 목표로 합니다. 이 모델은 복잡한 작업에 있어서 효율성을 강조하며 오픈 소스 모델인 GLM-5.2에서 개발되었습니다. CEO May Habib은 주요 AI 연구소에 대한 기업들의 불만이 커지고 있는 현 상황에서 AI 배포 비용 절감의 긴요함에 주목하고 있습니다.
핵심 정리
- 새로운 AI 모델(Palmyra X6)이 Writer에 의해 출시되었습니다.
- Z.ai의 오픈소스 모델 GLM-5.2를 기반으로 구축되었으며, 저렴한 가격과 신속한 배포 기능을 제공하는 것을 목표로 합니다.
- 새로운 모델과 업그레이드된 인프라의 결합으로 기본 AI 작업에 대해 최대 50%의 비용 절감이 예상됩니다.
- 다단계 작업 효율에 중점을 둬 더 빠르게 실행되며 보다 적은 토큰을 사용합니다.
- 연구 결과, 하둡 최적화가 모델 선택보다 더 효과적인 비용 절감 전략임을 보여줍니다.
- 모델에 중립적인 배포로써 기존 및 외부 모델(Azure, Amazon Bedrock)과 통합이 가능합니다.
- 기업 혜택을 제공하는 비용 부담과 효율성 저하로 인해 CIO들이 주요 AI 연구소에 대한 불신을 표현하고 있습니다.
왜 중요한가
- 2023년, 기업들이 지출 비용이 상승하는 가운데 더 효율적인 솔루션을 찾기 위해 AI 비용 관리가 중요해지고 있습니다.
- 오픈 소스 모델로의 전환은 비용 효율성에 초점을 맞춘 산업 전반의 트렌드를 반영하고 있습니다.
- AI 활용을 최적화하는 움직임은 지속 가능성과 운영 효율성을 우선시하는 IT 트렌드와 일치합니다.
Palmyra X6를 활용한 작가의 혁신은 AI 배포에 소요되는 비용에 대한 고민을 해결하는 중요한 발전을 나타내며, 시장 내 운영 비용 상승에 따라 성능보다는 효율성에 대한 수요가 증가하고 있음을 반영하고 있습니다.