Lưu trữ — US — techcrunch
Nhà văn giới thiệu mô hình AI mới và dây đai nâng cấp để kiểm soát chi phí token
Công ty đã ra mắt mô hình Palmyra X6 AI và nâng cấp dây đai, với mục tiêu giảm chi phí triển khai cho các nhà tiếp thị lên đến 50%. Nó nhấn mạnh tính hiệu quả cho các nhiệm vụ phức tạp và được phát triển từ mô hình mã nguồn mở, GLM-5.2. CEO May Habib nhấn mạnh nhu cầu cấp bách trong việc giảm chi phí triển khai AI, giải quyết sự không hài lòng ngày càng tăng của doanh nghiệp với các phòng thí nghiệm AI lớn.
Điểm chính
- Mô hình AI mới (Palmyra X6) được Writer ra mắt nhằm giảm chi phí.
- Xây dựng trên mô hình mã nguồn mở GLM-5.2 của Z.ai, đặt mục tiêu mang lại khả năng triển khai sẵn sàng với giá thấp hơn.
- Sự kết hợp giữa mô hình mới và cơ sở hạ tầng nâng cấp dự kiến sẽ giảm chi phí lên đến 50% cho các nhiệm vụ AI cơ bản.
- Tập trung vào hiệu suất công việc đa bước, thực hiện nhanh hơn với ít mã thông báo hơn.
- Nghiên cứu cho thấy tối ưu hóa cài đặt là chiến lược giảm chi phí hiệu quả hơn so với lựa chọn mô hình.
- Triển khai không phụ thuộc vào mô hình cho phép tích hợp với các mô hình hiện có và bên ngoài (Azure, Amazon Bedrock).
- Các CIO bày tỏ sự không tin tưởng đối với các phòng thí nghiệm AI lớn do chi phí ngày càng tăng và hiệu suất chuyển giao lợi ích doanh nghiệp không hiệu quả.
Vì sao quan trọng
- Trong năm 2023, quản lý chi phí AI là điều quan trọng khi các doanh nghiệp tìm kiếm các giải pháp hiệu quả hơn giữa việc tăng chi phí triển khai.
- Sự chuyển đổi sang các mô hình mã nguồn mở phản ánh một xu hướng rộng lớn trong ngành công nghiệp tập trung vào hiệu quả chi phí.
- Việc tối ưu hóa việc sử dụng AI điều hòa với các xu hướng CNTT hiện đang ưu tiên tính bền vững và hiệu quả vận hành.
Bước tiến độ lớn trong việc giải quyết vấn đề chi phí trong triển khai AI đã được thể hiện thông qua sáng tạo của nhà văn với Palmyra X6. Điều này thể hiện sự gia tăng nhu cầu về hiệu quả hơn là hiệu suất thuần túy, đồng thời tương thích với việc tăng chi phí vận hành trong ngành công nghiệp.