Lưu trữ — US — techcrunch
AI chủ lực mới nhất của Anthropic có thể không tốn kém nhiều chi phí huấn luyện
Mô hình AI Sonnet Claude 3.7 của Anthropic đã được đào tạo với một số tiền "vài chục triệu đô la" sử dụng ít hơn 10^26 FLOPs, cho thấy sự giảm chi phí đào tạo cho các mô hình hiện đại. Khác với các mô hình đắt tiền như GPT-4 của OpenAI và Gemini Ultra của Google vào năm 2023, các mô hình trong tương lai được dự đoán sẽ đắt đỏ hơn do độ phức tạp tăng lên.
Điểm chính
- Đào tạo Claude 3.7 Sonnet được ước lượng vào một vài chục triệu đô la.
- FLOPs được sử dụng để đào tạo được báo cáo dưới 10^26, cho thấy nhu cầu tính toán giảm đi.
- Các mô hình trước đó, như Claude 3.5, có chi phí tương tự, thể hiện một xu hướng giảm chi phí đào tạo.
- OpenAI và Google đã chi hơn 100 triệu đô la và gần 200 triệu đô la, mỗi công ty, vào mô hình hàng đầu của họ.
- CEO của Anthropic cho biết trong khi chi phí hiện tại thấp hơn, các mô hình tương lai có thể tăng lên hàng tỷ đô la.
- Chi phí đào tạo không bao gồm các chi phí liên quan như kiểm tra an toàn và nghiên cứu cơ bản.
Vì sao quan trọng
- Xu hướng giảm chi phí đào tạo phản ánh sự dễ tiếp cận ngày càng của sức mạnh máy tính và sự tiến bộ trong hiệu suất trí tuệ nhân tạo.
- Lịch sử cho thấy ngành công nghiệp trí tuệ nhân tạo đã trải qua việc dao động về chi phí đào tạo, với việc đầu tư đáng kể vào năm 2023 cho các mô hình tiên tiến.
- Sự chuyển đổi sang các mô hình suy luận phức tạp hơn có thể tăng chi phí mặc dù hiện tại đang giảm chi phí đào tạo.
Giới thiệu của Claude 3.7 Sonnet phản ánh mức giảm chi phí đáng kể trong việc huấn luyện các mô hình AI tiên tiến, nhưng dự báo cho thấy các phát triển trong tương lai có thể yêu cầu đầu tư lớn hơn, nhấn mạnh bức tranh chuyển biến của nền kinh tế đào tạo AI.