Lưu trữ — US — techcrunch
Pruna AI công bố mã nguồn mở cho framework tối ưu hóa mô hình AI của mình
Startup châu Âu Pruna AI vừa công bố mã nguồn mở cho khung tối ưu hóa mô hình trí tuệ nhân tạo của mình, giúp cho các nhà phát triển áp dụng các phương pháp hiệu quả như caching, pruning, quantization và distillation vào các mô hình trí tuệ. Khung mới này cho phép kết hợp và đánh giá dễ dàng các phương pháp này, tương tự như việc Hugging Face đã làm cho transformers. Pruna AI đã huy động thành công 6,5 triệu USD vốn hạt giống và đang tập trung vào các mô hình tạo hình ảnh và video.
Điểm chính
- Pruna AI sẽ phát hành một khung tối ưu mã nguồn mở cho các mô hình AI vào thứ Năm.
- Khung này tích hợp các phương pháp như caching, pruning, quantization, và distillation.
- Nó cho phép đánh giá đơn giản về chất lượng mô hình sau khi nén và cải thiện hiệu suất.
- Phương pháp này tương đương với những nỗ lực của Hugging Face trong việc chuẩn hóa việc sử dụng transformers trong AI.
- Các người dùng hiện tại bao gồm Scenario và PhotoRoom, cho thấy sự quan tâm ngay lập tức từ ngành công nghiệp.
- Pruna AI đã huy động được 6,5 triệu USD trong vòng gọi vốn hạt giống, cho thấy sự ủng hộ tài chính cho công nghệ của họ.
Vì sao quan trọng
- Xu hướng công bố mã nguồn mở AI phản ánh sự chuyển đổi rộng lớn trong lĩnh vực CNTT về hợp tác và tính khả dễ tiếp cận trong phát triển phần mềm.
- Sự phụ thuộc lịch sử vào việc tối ưu hóa mô hình AI nội bộ có thể thay đổi với sự xuất hiện của nhiều giải pháp mã nguồn mở hơn.
- Việc tối ưu hóa các mô hình AI ngày càng trở nên quan trọng với nhu cầu kinh doanh tăng cao về các thuật toán hiệu quả và cần thiết về tính toán đám mây, đặc biệt là đến năm 2025.
Khung công cộng của Pruna AI đại diện cho một bước tiến quan trọng trong việc tối ưu hóa mô hình trí tuệ nhân tạo, giúp mọi người tiếp cận được các kỹ thuật hiệu quả tiên tiến hơn và thúc đẩy sự đổi mới trong ngành công nghiệp trí tuệ nhân tạo.