UK — The Register
Fintech Anh Revolut giảm 10 lần chi phí lập trình AI bằng cách bỏ Claude và chuyển sang tự lưu trữ
AI2 phút đọc
Ngân hàng số Anh Revolut cho biết họ đã giảm chi phí AI viết code khoảng 10 lần. Họ làm việc này bằng cách bỏ dần các dịch vụ thương mại như Claude và chuyển sang chạy mô hình AI trên máy chủ riêng.
Chuyện gì đã xảy ra?
Revolut nói rằng trong chưa đầy một năm, họ đã giảm chi phí chạy AI cho việc viết code khoảng 90%. Cách làm là đặt các mô hình AI tự lưu trữ làm lựa chọn mặc định, thay vì dựa chủ yếu vào dịch vụ trả phí của bên ngoài. David Abitbol, người phụ trách vận hành và hạ tầng của công ty, đã kể chi tiết điều này tại hội nghị AI Engineer ở New York vào tháng trước. Công ty đưa công cụ AI viết code cho khoảng 2.000 kỹ sư.
Các con số chính
- Thời gian viết code giảm 60%, và thời gian từ lúc nhận việc đến lúc hoàn thành giảm 70%.
- Chạy mô hình GLM tự lưu trữ với giá 0,30 USD cho mỗi triệu token, tức khoảng một phần mười chi phí so với Codex của OpenAI hoặc Claude Code của Anthropic.
- Mô hình GLM 5.3 chạy trên 56 GPU Nvidia B200.
- Mô hình có khoảng 754 tỷ tham số, và mỗi lần tạo token dùng khoảng 40 tỷ tham số.
Vì sao Revolut làm vậy?
Ban đầu, Revolut thử dùng Gemini vào đầu năm 2025 và Claude Code vào đầu năm 2026. Công ty thấy có kỹ sư tiêu hết 1.000 đến 10.000 USD mỗi tháng nhưng hiệu quả không tương xứng. Vì vậy, họ đặt giới hạn ngân sách chặt. Khi số token bị hạn chế, nhóm bắt đầu nghiên cứu việc tự chạy mô hình của riêng mình. Mô hình GLM được phát triển bởi Z.ai, một công ty Trung Quốc chia sẻ mô hình mở.
Vì sao chuyện này quan trọng?
Khi token rẻ, kỹ sư không còn phải lo tiết kiệm từng token. Họ dùng AI cho những việc như tìm và sửa lỗi, hoặc xử lý các công việc trên Jira và Confluence. Theo Abitbol, đây mới là nơi tiết kiệm thời gian lớn nhất, chứ không chỉ là viết code nhanh hơn. Câu chuyện cũng cho thấy công ty nhỏ hơn có thể tiết kiệm nhiều tiền nếu tự tối ưu hạ tầng AI.
Cần theo dõi điều gì?
- Revolut có giữ được mức giảm chi phí khi số kỹ sư và khối lượng công việc tăng lên hay không.
- Các công ty khác có làm theo cách tự lưu trữ mô hình mở để giảm chi phí AI hay không.
- Những tối ưu về tốc độ, chẳng hạn thời gian phản hồi dưới 3 giây, có được duy trì khi dùng ngữ cảnh lớn hay không.
Chú giải
- Revolut
- Ngân hàng số và công ty tài chính công nghệ có trụ sở tại Anh.
- Claude
- Mô hình AI do công ty Anthropic phát triển, dùng dưới dạng dịch vụ trả phí.
- Nvidia B200
- Loại chip GPU mạnh của Nvidia, dùng để chạy các mô hình AI lớn.
- Jira
- Phần mềm quản lý công việc và theo dõi lỗi, thường dùng trong nhóm phát triển phần mềm.