삼성전자가 FMS 2026에서 공개한 zHBM은 고대역폭메모리(HBM)를 AI 가속기 옆이 아니라 위에 수직으로 쌓는 3D 아키텍처다. 회사 설명 기준으로 보면, 2028년 양산이 거론되는 8세대 HBM5 대비 성능 최대 8배·전력 효율 최대 3배 수준을 목표로 잡은 비전 제품이다. 목업(목형) 공개 단계라 지금 당장 카드 결제 후 쓸 수 있는 모듈은 아니다.
개발·인프라 팀이 당장 손대야 할 일은 “zHBM 드라이버 설치”가 아니라 패키지 세대 로드맵, 발열·전력 예산, 조달 시기를 문서에 어떻게 반영할지다. 메모리 가격·출하 압박 맥락은 메모리 급등·SoC 가이드를, 데이터센터 전력·냉각 쪽은 iHBM·냉각 가이드와 국가전략 데이터센터를 같이 보면 연결이 잡힌다.
지금까지 흔히 본 AI 가속기 패키지는 연산 칩(xPU) 옆에 HBM 스택을 붙이는 2.5D 쪽이 많다. 데이터 이동 거리가 짧아졌다고 해도, 옆 방향 배선과 인터포저 한계가 남는다. zHBM은 그 다음 단계로, 가속기 다이 위에 HBM을 수직 적층해 이동 거리를 더 줄이겠다는 방향이다.
| 항목 | 기존 HBM(옆 배치) | zHBM(위 적층, 비전) |
|---|
| 배치 | 가속기 옆, 인터포저/패키지 연결 | 가속기 상단 수직 적층 |
| 목표 효과 | 고대역폭·상대적으로 검증된 양산 | 대역·지연·전력 효율 추가 개선 |
| 삼성 제시 수치 | HBM 세대별 스펙 공시 | HBM5 대비 성능 최대 8배, 효율 최대 3배(목표) |
| 공개 상태(2026-08) | 양산·샘플 라인 존재 | FMS 목업·기술 방향 제시 |
| 맞춤 설계 | 스택 높이·용량 옵션 중심 | 인터레이어 IP로 용량·가속기 특성 최적화 언급 |
수치와 양산 시점은 발표 자료·보도 기준이다. 벤치마크 점수가 공개된 상용 제품이 아니므로, 설계 문서에는 “목표·전망”으로 적고 확정 스펙처럼 쓰지 않는 편이 안전하다.
같은 행사에서 삼성은 zHBM과 함께 zNAND-O 목업도 언급했다. 스토리지 쪽도 “평면 한계 → 위로 쌓기” 논리를 확장한다는 신호다. AI 서버 랙은 GPU·HBM만 문제가 아니라 체크포인트·데이터셋·모델 가중치를 담는 스토리지 경로가 같이 병목이 된다.
팀이 받을 실무 메시지는 단순하다. 연산 칩 세대만 올려도 메모리가 못 따라오면 훈련·추론 처리량이 안 오른다. 반대로 메모리를 키워도 전력·냉각이 막히면 랙 밀도만 올라가고 가동률은 떨어진다. 그래서 조달 문서는 GPU 대수와 함께 HBM 세대, 패키지 유형, PUE·수전 용량을 한 표에 묶는 쪽이 덜 헷갈린다.
- 훈련 클러스터: 인터커넥트·HBM 용량·체크포인트 I/O를 같이 본다.
- 추론 서비스: 배치 크기·KV 캐시·지연 SLA가 메모리 대역에 민감하다.
- 온프레미스 PoC: 지금 세대 카드로 시작하고, 2027~2028 패키지 로드맵은 옵션 칸에 적는다.
zHBM은 아직 비전·목업 단계다. 그래서 체크리스트를 두 칸으로 나눈다.
| 구분 | 지금(2026) 할 일 | 문서에 메모만 |
|---|
| 하드웨어 | 현재 세대 GPU·HBM 재고·리드타임 확인 | zHBM 상용 시점·호환 보드 가정 |
| 소프트웨어 | CUDA/ROCm·프레임워크 버전 고정, 벤치 재현 스크립트 | 미래 패키지 전용 드라이버 전제 |
| 전력·냉각 | 랙 kW, 냉각 방식, 수전 여유 실측 | 수직 적층 시 국소 발열 가정 수치 |
| 비용 | 클라우드 GPU 시급·온프레 감가 비교 | zHBM ASP 미공개 단가 추측 |
| 리스크 | 공급 지연·메모리 가격 상승 시나리오 | 특정 벤더 단일 락인 전제 |
클라우드만 쓰는 팀도 무관하지 않다. 가속기 패키지가 바뀌면 인스턴스 세대·가격·가용 리전이 따라 움직인다. 월 예산 상한을 잡을 때는 원화·부가세 가정까지 넣어 두는 편이 덜 놀란다. 클라우드 실비용 틀은 AWS·GCP·Azure 비용 비교 쪽 사고방식을 그대로 빌려 쓸 수 있다.
애플리케이션 코드가 zHBM API를 직접 부르진 않는다. 체감 지점은 한 카드에 올리는 모델 크기, 배치, 동시 세션이다.
- 훈련 — 활성 파라미터가 큰 모델일수록 옵티마이저 상태·활성값 메모리가 늘어난다. 대역이 늘면 통신 병목이 줄 여지는 있지만, 네트워크·스토리지가 다음 병목이 된다.
- 추론 — 긴 컨텍스트·멀티모달은 KV 캐시와 중간 텐서가 메모리를 먹는다. 지연 SLA가 있으면 이론 대역폭보다 실측 p95를 기준으로 용량 계획을 잡는다.
- 멀티테넌시 — 한 노드에 모델을 여러 개 올리는 팀은 단편화·페이지 교환 비용을 따로 잰다. 패키지 세대 교체 전에도 관측 대시보드부터 맞춘다.
로컬에서 GPU 없이 프로토타입만 돌리는 경우는 지금 당장 zHBM을 기다릴 이유가 없다. 프로토타입은 로컬 LLM 환경이나 클라우드 소형 인스턴스로 두고, 상용 트래픽 직전에 가속기 세대를 고르면 된다.
보도에 따르면 삼성 쪽은 고객 맞춤형 3D 적층·인터레이어 IP를 강조하고, 다른 메모리 업체는 개방형 표준·생태계 쪽 메시지를 더 내세우는 흐름이 같이 보인다. 구매자 입장에서는 “어느 진영이 이긴다”보다 보드·냉각·펌웨어 호환성이 더 중요하다.
- 단일 벤더 패키지에 올인하면 성능 피크는 노릴 수 있어도 대체 공급이 약해진다.
- 표준 인터페이스를 유지하면 조달 유연성은 커지지만, 세대 간 성능 갭 관리가 필요하다.
- 하이브리드: 핵심 훈련 노드는 최신 패키지, 배치 추론은 이전 세대로 나누는 식도 흔하다.
SK텔레콤 쪽 모델·인프라 이슈와 묶여 읽을 때는 독파모 A.X K2 가이드, 국내 AI 팩토리 투자 구조는 네이버 AI 팩토리 계약 구조를 참고하면 “칩 → 랙 → 전력 계약” 순서가 보인다.
회의 자료에 붙일 정도로 짧게 적으면 아래 다섯 줄이면 충분하다.
- 현재 프로덕션 가속기 모델명·HBM 용량·랙 kW를 표로 고정한다.
- 2026 하반기 조달은 현 세대 재고 리드타임 기준으로 견적을 받는다.
- zHBM·차세대 3D 메모리는 “로드맵 옵션” 칸에만 두고 단가·일정은 미정으로 표시한다.
- 훈련/추론 벤치를 스크립트로 고정해 패키지 세대가 바뀌어도 같은 입력으로 재실행한다.
- 전력·냉각·메모리 가격 상승 시나리오를 각각 +20% 가정으로 손익을 다시 계산한다.
이 다섯 줄이 있으면 뉴스 제목만 보고 예산을 흔드는 일을 줄일 수 있다. 수치 출처는 아래 참고 자료 링크로 붙인다.
스펙·양산 시점·비교 수치는 제조사·언론 보도 기준이며 변경될 수 있다. 구매·입찰 전에는 공식 데이터시트와 공급사 견적으로 재확인한다.
zHBM을 지금 살 수 있나?
2026년 8월 기준 공개 내용은 FMS 목업·기술 비전 중심이다. 소비자·일반 서버 채널에서 바로 주문 가능한 상용 모듈로 보기 어렵다. 조달 계획은 현재 세대 HBM 탑재 가속기를 기준으로 잡고, zHBM은 로드맵 항목으로 두는 편이 맞다.
성능 8배는 무엇을 기준으로 한 숫자인가?
보도와 회사 설명에서는 8세대 HBM5 대비 최대 성능·전력 효율 개선 목표로 소개된다. 공개 워크로드 벤치마크 표가 나온 뒤에야 제품 간 실측 비교로 쓸 수 있다. 슬라이드에는 “목표·전망”으로 표기하는 것이 안전하다.
기존 HBM4·HBM5 구매 예산을 당장 바꿔야 하나?
당장 서비스·실험을 돌릴 하드웨어가 필요하면 현 세대 조달을 미루지 않는 쪽이 보통이다. zHBM 상용 일정·호환 보드·단가가 확정되기 전에 예산을 전액 이연하면 일정만 밀릴 수 있다. 대신 랙 전력·냉각 여유는 여유 있게 잡아 두면 다음 세대 교체 때 덜 아프다.
클라우드만 쓰면 zHBM 뉴스를 무시해도 되나?
코드를 직접 바꿀 일은 거의 없지만, 인스턴스 세대·가격·지역 가용성은 가속기 패키지 로드맵의 영향을 받는다. 월 상한·슬롯 예약·멀티 클라우드 폴백 문서를 분기마다 갱신해 두면 뉴스 충격이 줄어든다.
발열은 오히려 더 심해지지 않나?
수직 적층은 배선 거리를 줄이는 대신 국소 열 밀도가 이슈가 될 수 있다. 삼성은 맞춤 인터레이어·패키지 설계로 대응하겠다는 방향이다. 현장에서는 보드 설계·냉각 방식·랙 kW 한도를 같이 봐야 하며, 메모리 칩만 바꿔 넣는 식으로 해결되지 않는다.
개발자가 코드 레벨에서 준비할 일은?
패키지 전용 API를 미리 짤 필요는 없다. 벤치 스크립트 고정, 배치·컨텍스트 길이별 메모리 사용량 기록, 모델 서빙 관측(지연·OOM·스왑) 정비가 우선이다. 하드웨어 세대가 바뀌어도 같은 입력으로 재측정할 수 있으면 충분하다.
