NVKE: 엔비디아, 자체 쿠버네티스 엔진 'NVKE' 프리뷰 공개

무슨 일이 있었나요?

엔비디아가 NVKE라는 새 쿠버네티스 엔진을 GitHub에 미리보기로 공개했습니다. GPU 데이터센터를 운영하는 회사는 이 도구로 고객에게 쿠버네티스를 제공할 수 있습니다. 아마존의 AWS EKS와 비슷한 방식입니다. 고객이 요청하면 중앙 관리 클러스터가 실제 서버(베어메탈) 위에 별도의 쿠버네티스 클러스터를 만들어 줍니다. 코드는 Apache 2.0 라이선스에 따라 무료이지만, 엔비디아는 아직 실제 운영 환경에 쓰기를 권하지 않습니다.

핵심 사실

• 고객 클러스터마다 자체 컨트롤 플레인, etcd 데이터베이스, 노드 풀이 따로 있습니다.
• 관리 클러스터에는 TPM 2.0 칩이 달린 서버가 1대, 3대, 5대처럼 홀수로 필요합니다.
• NVKE API는 관리 노드마다 암호화되지 않은 HTTP 포트 30080에서 대기합니다.
• 새 클러스터는 네트워킹에 ovn-kubernetes를 씁니다. Calico는 기존 설치 환경에서만 남겨 둡니다.
• 서버 관리 계층인 NICo는 노드가 최소 3개인 쿠버네티스 클러스터가 필요합니다.

NVKE는 어떻게 동작하나요?

NVKE는 GPU와 패브릭(서버를 연결하는 고속 네트워크) 소프트웨어가 없는 상태로 서버를 설정합니다. 그다음 엔비디아의 GPU Operator가 드라이버와 관련 도구를 설치합니다. 엔비디아의 AI Cluster Runtime은 설정 방법을 담은 레시피를 제공합니다. 운영자는 nvkectl 명령줄 도구나 NVKE REST API로 모든 것을 관리합니다. API로 노드 풀 규모를 늘리거나 쿠버네티스 업그레이드를 설치할 수도 있습니다. 고가용성과 업그레이드를 위해서는 가상 IP 주소가 필요하며, NVKE는 이를 kube-vip로 설정합니다.

왜 중요한가요?

NVKE는 엔비디아가 자사의 하드웨어와 소프트웨어 전체를 AI 서버 운영의 기본 선택지로 만들려는 흐름을 보여 줍니다. 다만 미리보기 버전에는 아직 빈틈이 많습니다. 보안 역할(권한 분리) 기능이 없어서, 접근이 허용된 호출자는 누구나 어떤 클러스터든 만들거나 지울 수 있습니다. 새 NVKE 버전으로 안전하게 업그레이드하는 방법이나, 관리 클러스터를 백업하고 복구하는 검증된 방법도 없습니다. 시험해 보려는 회사는 먼저 자체 TLS 암호화와 로그인 확인 절차를 추가해야 합니다.

앞으로 지켜볼 점

• 엔비디아가 API에 역할 기반 접근 제어(RBAC)를 추가할지 여부
• NVKE가 운영 환경에 쓸 수 있을 만큼 준비되기 전에 안전한 업그레이드와 백업 방법이 나올지 여부
• Gardener나 Kamaji처럼 고객 컨트롤 플레인을 파드로 실행하는 오픈소스 도구와 NVKE를 비교한 결과