DE — heise online
NVKE: Nvidia ra mắt Kubernetes Engine riêng ở dạng bản xem trước
Phần mềm2 phút đọc
Nvidia vừa đưa ra bản xem trước (preview) của NVKE, một công cụ Kubernetes mới trên GitHub. Công cụ này giúp các công ty có trung tâm dữ liệu GPU tự quản lý cung cấp Kubernetes cho khách hàng như một dịch vụ được quản lý sẵn.
Chuyện gì đã xảy ra
Nvidia đã giới thiệu NVKE, một Kubernetes Engine mới, dưới dạng bản xem trước trên GitHub. Kubernetes là phần mềm giúp chạy và quản lý nhiều ứng dụng trên nhiều máy chủ. Người vận hành trung tâm dữ liệu GPU có thể dùng NVKE để cung cấp Kubernetes cho khách hàng, giống như dịch vụ AWS EKS. Khi khách hàng cần, một cụm quản lý trung tâm sẽ tạo các cụm Kubernetes riêng trên máy chủ vật lý. Mã nguồn miễn phí theo giấy phép Apache 2.0. Tuy nhiên, Nvidia chưa khuyên dùng NVKE cho hệ thống chạy thật.
Các con số và sự kiện chính
- Mỗi cụm của khách hàng có control plane, cơ sở dữ liệu etcd và nhóm node riêng.
- Cụm quản lý cần số lẻ máy chủ, ví dụ 1, 3 hoặc 5, và các máy này phải có chip TPM 2.0.
- API của NVKE lắng nghe trên cổng 30080 dùng HTTP không mã hóa, trên mọi node quản lý.
- Cụm mới dùng ovn-kubernetes cho mạng. Calico chỉ được giữ lại cho các hệ thống đã cài sẵn.
- NICo, lớp quản lý máy chủ, cần một cụm Kubernetes có ít nhất 3 node.
NVKE hoạt động như thế nào
NVKE chỉ cài đặt máy chủ, chưa có phần mềm GPU và mạng fabric. Sau đó, GPU Operator của Nvidia cài driver và các công cụ liên quan. AI Cluster Runtime của Nvidia cung cấp các công thức cài đặt có sẵn. Người vận hành điều khiển mọi thứ bằng công cụ dòng lệnh nvkectl hoặc REST API. API cũng dùng để tăng số node trong nhóm node và cài bản nâng cấp Kubernetes. Để đảm bảo hoạt động liên tục khi nâng cấp, NVKE cần một địa chỉ IP ảo, và nó dùng kube-vip để thiết lập địa chỉ này.
Vì sao điều này quan trọng
NVKE cho thấy Nvidia muốn biến toàn bộ bộ phần cứng và phần mềm của mình thành lựa chọn mặc định để chạy máy chủ AI. Tuy vậy, bản preview vẫn còn nhiều thiếu sót. Nó chưa có vai trò bảo mật, nên bất kỳ ai được phép gọi API đều có thể tạo hoặc xóa mọi cụm. Nó cũng chưa có cách nâng cấp lên bản NVKE mới hay sao lưu và khôi phục cụm quản lý đã được kiểm chứng. Ai muốn thử nên tự thêm mã hóa TLS và kiểm tra đăng nhập trước.
Cần theo dõi điều gì
- Nvidia có thêm kiểm soát truy cập theo vai trò (RBAC) cho API hay không.
- Có đường nâng cấp và sao lưu an toàn trước khi NVKE sẵn sàng cho hệ thống chạy thật hay không.
- So sánh NVKE với các công cụ mã nguồn mở như Gardener và Kamaji, vốn chạy control plane của khách hàng dưới dạng pod.
Chú giải
- NVKE
- Công cụ Kubernetes mới của Nvidia, giúp cung cấp Kubernetes cho khách hàng trên máy chủ GPU.
- Kubernetes
- Phần mềm giúp chạy, mở rộng và quản lý nhiều ứng dụng trên nhiều máy chủ.
- GPU
- Bộ xử lý đồ họa, thường dùng để chạy các tác vụ AI nặng.
- AWS EKS
- Dịch vụ Kubernetes được quản lý sẵn của Amazon Web Services.
- etcd
- Cơ sở dữ liệu lưu trạng thái và cấu hình của một cụm Kubernetes.
- kube-vip
- Công cụ tạo địa chỉ IP ảo cho cụm Kubernetes để đảm bảo hoạt động liên tục.