2026년 7월 기준: 엔비디아(NVIDIA)가 차세대 AI 랙 베라 루빈 NVL72를 구글 클라우드, 마이크로소프트 애저, 오라클 클라우드, 코어위브 등에 공급했고, 고객 환경에서 가동이 시작됐다. 전작 그레이스 블랙웰 대비 메가와트당 성능이 최대 10배라는 측정 수치와 함께 양산 단계 진입이 공식 메시지다.
GTC에서 로드맵만 듣던 때와 달리, 이제는 “어느 클라우드에 올라왔는지”, “추론·학습 비용을 언제 다시 계산할지”, “블랙웰 계약과 어떻게 병행할지”가 실무 질문이 된다. 아래는 보도 사실과 팀 단위 체크리스트다.
베라 루빈 NVL72는 GPU 루빈과 CPU 베라 등 여러 칩을 한 캐비닛에 묶은 AI 슈퍼컴퓨터 랙이다. 연합뉴스·외신 브리핑 요약 기준으로, 엔비디아는 주요 클라우드·GPU 클라우드 사업자에 랙이 들어가 가동 중이라고 밝혔다. 부사장 브리핑에서는 “본격 양산 단계” 표현이 나왔다.
숫자로 먼저 잡으면 판단이 빠르다.
| 항목 |
보도·발표 요지 |
실무 함의 |
| 공급 대상 |
구글 클라우드, MS 애저, 오라클, 코어위브 등 |
멀티클라우드 견적 시트에 “루빈 세대” 행 추가 |
| 성능 메시지 |
코어위브 딥시크 R1 측정, 전작 대비 ㎿당 최대 10배 |
벤치 조건 확인 전 계약 단정 금지. 내부 워크로드로 재측정 |
| 냉각·물 |
45℃ 액체 냉각 유입 설계, ㎿당 물 사용 절감 강조 |
온프레미스 도입 시 쿨링·상면 스펙 재검토 |
| 네트워크 |
스펙트럼-6 이더넷, 초당 102.4Tb급 스위치 결합 |
분산 학습·다중 랙 파이프라인 지연 예산 재산정 |
| 공급망 |
30개국 350여 공장 규모 언급 |
리드타임 기대치는 클라우드 공개 인스턴스 일정과 별개 |
※ ㎿당 10배는 특정 고객·모델 측정 결과로 보도됐다. 자체 학습·추론 워크로드에 그대로 적용된다고 가정하면 안 된다.
전작 그레이스 블랙웰(GB) 세대 장비를 이미 쓰고 있다면, “전량 교체”보다 신규 용량만 루빈으로 받을지를 먼저 고른다. 보도 메시지는 전력당 성능·냉각·네트워크 용량 쪽 강조가 크다. 애플리케이션 팀 입장에선 CUDA·드라이버·컨테이너 베이스 이미지 호환 일정이 더 급하다.
- 학습 클러스터 | 대규모 프리트레인·장시간 잡은 전력·쿨링 단가가 민감하면 루빈 견적을 블랙웰 연장과 나란히 받는다.
- 추론·에이전트 | 토큰당 비용이 핵심이면, 공개 인스턴스 가격표가 나온 뒤 A/B로 p95 지연과 단가를 본다.
- 셀프호스트 | 랙 단위 도입은 네트워크 스위치·액체 냉각 전제 조건이 붙는다. 사무실 GPU 서버 감각으로 접근하면 막힌다.
엔비디아 쪽은 베라 CPU로 파이썬 실행이 AMD 투린 대비 최대 1.8배라는 비교도 내놓았다. CPU 바인딩 전처리·데이터 로더가 병목인 파이프라인만 해당 수치에 관심이 있고, GPU 바운드 학습과는 별개다.
기존 GTC 시점 로드맵 정리는 엔비디아 GTC 2026 개발자 요약에 있다. 이번 글은 “공급·가동이 시작됐다”는 단계 변화만 다룬다.
엔비디아가 성능·양산을 동시에 강조하는 배경에는 경쟁이 있다. AMD는 대응 랙 ‘헬리오스’를 주요 고객에 공급한다고 밝혔다. 오픈AI·메타는 자체 AI 칩 움직임을 이어 가고, 앤트로픽 쪽 자체 칩 검토 보도도 나온다.
개발·인프라 팀이 할 일은 진영 응원이 아니다.
- 현재 워크로드가 CUDA 고정인지, 프레임워크 이식 여지가 있는지 한 줄로 적는다.
- 2026~2027 용량 계획에 주력 벤더 1 + 비상 벤더 1을 문서에 남긴다.
- 자체 칩·커스텀 ASIC 뉴스는 “API 단가 협상 카드”로만 쓰고, 당장 프로덕션 이전 계획을 세우지 않는다.
GPU 클라우드 선택 기준은 네오클라우드·GPUaaS 경쟁 정리와 같이 보면 된다. 칩 세대가 바뀌어도 “가용 용량·약정·중단 정책”이 견적을 좌우하는 구조는 같다.
역할별로 당장 손대는 일을 나눈다.
| 역할 |
오늘·이번 주 |
보류해도 되는 것 |
| ML 플랫폼 |
클라우드 콘솔에서 루빈/차세대 인스턴스 공개 여부 확인, 대기열·리전 메모 |
전 클러스터 일괄 마이그레이션 설계 |
| 백엔드·에이전트 |
추론 단가 대시보드에 “세대” 차원 추가, 토큰당 비용 추적 |
모델 아키텍처 전면 교체 |
| FinOps |
블랙웰 약정 잔여 기간 vs 루빈 스팟/온디맨드 시나리오 2안 |
3년 총소유비용 정밀 모델(가격표 안정 후) |
| 온프레·DC |
액체 냉각·전력 밀도 요구를 시설 팀과 공유 |
즉시 랙 발주(공급 일정·쿼터 확인 전) |
셀프호스트 추론 마이크로서비스 패턴은 엔비디아 NIM 가이드를 참고하면 된다. 칩 세대가 바뀌어도 “이미지 태그·헬스체크·오토스케일” 운영 뼈대는 그대로 가져간다.
루빈 공급 뉴스를 들었다고 해서 내일 청구서가 바뀌지는 않는다. 다만 다음 분기 용량 계획을 짜는 팀은 지금 틀을 고쳐 두는 편이 낫다.
- 학습 1 epoch 비용 = (GPU 시간 × 단가) + 스토리지 + 네트워크. 세대별 행을 나눈다.
- 추론 1K 토큰 비용 = 배치·양자화·캐시 적중률을 고정한 뒤 세대만 바꾼다.
- p95 지연 = 동일 프롬프트 세트 100회. 콜드스타트와 워밍을 분리 기록한다.
전력당 성능이 좋아져도 인스턴스 단가가 비싸면 체감 이득이 없다. 반대로 단가가 비슷하고 처리량이 늘면 같은 예산으로 실험 횟수가 늘어난다. 발표 배율보다 이 두 줄이 의사결정을 가른다.
엣지·온디바이스로 일부를 빼는 전략은 엣지 AI 체크리스트와 병행할 수 있다. 클라우드 루빈과 엣지는 대체재가 아니라 트래픽 성격이 다른 보완재에 가깝다.
차세대 랙 관련해 “후속 아키텍처 출시가 미뤄졌다”는 류의 주장과 엔비디아 측 부인 보도가 오간 적 있다. 공급 개시 뉴스와 후속 로드맵 일정은 별개로 본다. 계약서에는 세대·SKU·인도 분기를 명시하고, 언론 헤드라인만으로 마일스톤을 잡지 않는다.
호환 쪽 실무 리스크는 세 가지다.
- 드라이버·CUDA 최소 버전 | CI 베이스 이미지 고정값이 구버전이면 새 인스턴스에서 빌드가 깨진다.
- 멀티노드 통신 | 스위치·토폴로지가 바뀌면 all-reduce 시간이 달라진다. 학습 잡 타임아웃을 재설정한다.
- 예약·쿼터 | “가동 중”과 “우리 계정이 바로 산다”는 다르다. 세일즈·쿼터 티켓을 먼저 연다.
베라 루빈이 지금 내 계정에서 바로 보이나?
클라우드·리전·쿼터마다 다르다. 보도는 “주요 고객사에 공급·가동” 수준이다. 콘솔에서 인스턴스 패밀리·대기열을 확인하고, 안 보이면 계정 매니저·쿼터 신청이 먼저다.
그레이스 블랙웰을 당장 버려야 하나?
아니다. 잔여 약정·안정된 파이프라인이 있으면 유지하고, 신규 용량·실험 큐만 루빈 세대로 받는 병행이 일반적이다. 전량 교체는 벤치와 가격표 이후에 결정한다.
㎿당 성능 10배를 견적에 넣어도 되나?
발표·특정 측정(보도: 코어위브·딥시크 R1) 수치다. 제안서에는 출처를 밝히고, 자체 워크로드 재측정 전에는 “참고”로만 표기하는 편이 안전하다.
AMD 헬리오스와 동시에 비교해야 하나?
CUDA 고정 비율이 높으면 단기 이득이 작을 수 있다. 다만 2026~2027 대량 용량을 사는 팀은 견적 협상용으로 한 줄 비교표를 두는 것이 유리하다.
1인 사이드 프로젝트에도 영향이 있나?
개인 취미 규모면 당장 체감은 적다. 클라우드 학습 크레딧·스타터 GPU 가격이 내려가거나 신형 스팟이 열릴 때 간접 이득이 온다. 뉴스 자체보다 사용 중인 클라우드 요금표 알림을 켜 두면 된다.
루빈 울트라·후속 랙 지연 루머는?
후속 아키텍처 일정에 대한 주장과 부인 보도가 오간 바 있다. NVL72 공급 개시와는 별 이슈로 분리하고, 계약 시 SKU·인도 분기를 문서로 고정한다.