Startup Pháp ZML ra mắt sản phẩm miễn phí giúp tăng tốc độ suy diễn trên nhiều loại chip AI

핵심 정리

• 1

  ZML/LLMD là một máy chủ suy luận mới cho các mô hình ngôn ngữ lớn vừa được ra mắt.

• 2

  Phần mềm hoạt động trên các chip khác nhau: Nvidia, AMD, Google TPU, Apple Metal, Intel Arc.

• 3

  Mục tiêu: Phá vỡ các dải lẻ tấm của nhà cung cấp, tăng cường sử dụng chip, và cải thiện tốc độ.

• 4

  ZML nhắm vào việc cung cấp các giải pháp trí tuệ nhân tạo hiệu quả về chi phí và tiết kiệm năng lượng.

• 5

  Steeve Morin nhấn mạnh việc hợp tác với các nhà sản xuất chip trí tuệ nhân tạo mới nổi từ châu Âu.

• 6

  ZML được tài trợ với 20 triệu đô la từ các công ty rủi ro đáng chú ý.

• 7

  Sản phẩm là miễn phí ban đầu để tìm hiểu về tương tác của người dùng.

• 8

  ZML đối mặt với sự cạnh tranh từ các công ty như Baseten và Inferact.