Các nhà sáng lập Reface và Prisma hợp tác nâng cao khả năng mô hình trên thiết bị với Mirai.

Các đồng sáng lập Dima Shvets và Alexey Moiseenkov của Mirai đang cách mạng hóa mô hình AI trên thiết bị để cải thiện tính năng trong phần cứng dành cho người tiêu dùng. Startup của họ, được hậu thuẫn bởi khoản đầu tư hạt giống 10 triệu đô la, tập trung vào việc tạo ra một công cụ suy luận được tối ưu hóa cho Apple Silicon, với kế hoạch phát hành một SDK dễ sử dụng cho các nhà phát triển. Điều này giải quyết nhu cầu ngày càng tăng về việc xử lý AI hiệu quả mà không phải phụ thuộc nặng vào điện toán đám mây.

Key Points

• Mirai nhắm vào việc cải thiện việc suy luận mô hình trí tuệ nhân tạo trên thiết bị người tiêu dùng (điện thoại, máy tính xách tay).
• Do Dima Shvets (người sáng lập Reface) và Alexey Moiseenkov (người sáng lập Prisma) thành lập để giải quyết các thách thức trong việc suy luận trên thiết bị.
• Công ty khởi nghiệp này đã huy động được 10 triệu USD trong vòng gọi vốn hạt giống do Uncork Capital dẫn đầu.
• Đã phát triển một engine suy luận cho Apple Silicon, tăng cường khả năng xử lý mô hình.
• SDK sắp tới sẽ cho phép các nhà phát triển tích hợp mô hình một cách dễ dàng với ít mã lệnh nhất có thể.
• Được xây dựng bằng Rust để cải thiện tốc độ (lên đến 37%), mà không ảnh hưởng đến chất lượng của mô hình.
• Hiện tập trung vào các chế độ văn bản và giọng nói, với kế hoạch trong tương lai để hỗ trợ về tầm nhìn.
• Đang phát triển các tiêu chuẩn để đánh giá hiệu suất trên thiết bị và một lớp điều phối cho tích hợp điện toán đám mây.

Relevance

• Xu hướng hướng đến các giải pháp trên thiết bị đáp ứng nhu cầu ngày càng tăng về chi phí suy luận đám mây và nhu cầu ngày càng cao của người tiêu dùng về trí tuệ nhân tạo nhanh hơn, hiệu quả hơn.
• Lịch sử cho thấy, sự phụ thuộc vào máy chủ đám mây đã làm tăng chi phí vận hành, thúc đẩy sự chuyển đổi sang tính toán cạnh.
• Trong khi trí tuệ nhân tạo sinh sáng, sự tập trung đang chuyển từ dựa vào đám mây sang khả năng trên thiết bị, phù hợp với xu hướng công nghệ thông tin năm 2025 về xử lý trí tuệ nhân tạo phi trung tâm.

Phương pháp tiên tiến của Mirai trong việc xây dựng mô hình trí tuệ nhân tạo trên thiết bị giải quyết nhu cầu thị trường quan trọng về hiệu quả và chi phí, đưa công ty vào vị trí dẫn đầu trong các xu hướng công nghệ mới nổi khi dự đoán sự chuyển đổi đến các giải pháp tính toán đầu cuối.