삼성전자 HBM5 컴퓨텍스 공개 — 방열 신기술과 2나노 베이스 다이로 AI 메모리 경쟁 재점화

HBM(High Bandwidth Memory)은 메모리 칩을 수직으로 쌓아 데이터 전송 속도를 극대화한 구조다. AI 학습·추론용 GPU에서 핵심 부품이다. HBM5는 공식으로는 7세대 HBM이다. 이름에 '5'가 붙었지만 세대 수가 아니라 규격명이다.

세대별 HBM 규격 흐름:

• HBM1 (2013): AMD 피지 GPU에 최초 탑재. 1세대.
• HBM2 (2016): 엔비디아 P100에 탑재. 대역폭 2배.
• HBM2E (2020): 엔비디아 A100 기반. 3.2Gbps.
• HBM3 (2022): SK하이닉스가 엔비디아 H100에 공급. 819GB/s.
• HBM3E (2024): H200 탑재. SK하이닉스·삼성·마이크론 3파전.
• HBM4E (2026 상반기): 삼성전자 세계 최초 샘플 출하 발표. 전작 대비 20% 속도 향상.
• HBM5 (2026 공개, 양산 일정 미정): 컴퓨텍스 2026에서 삼성전자가 업계 최초로 실물모형 공개.

HBM4E까지는 '속도'가 가장 큰 차별화 포인트였다. 초당 몇 테라바이트를 전송하느냐가 AI 모델 학습 속도를 직접 결정했기 때문이다. 그런데 HBM5 경쟁에서는 두 회사 모두 기술 발표에서 발열 관리를 전면에 내세웠다. 속도 경쟁에서 열 경쟁으로 무게중심이 옮겨간 신호다.

삼성전자가 HBM5에 적용할 신기술은 HPB(Heat Path Block)다. 이름 그대로 열이 이동하는 경로(Path)를 구조적으로 제어하는 블록이다.

HBM은 메모리 다이(Die)를 수직으로 쌓은 구조다. GPU에 붙을 때 HBM과 GPU 사이에는 PHY(Physical Layer) 영역이 있다. 이 PHY 영역은 데이터 전송이 집중되는 곳이라 발열이 심하다. 기존 HBM은 이 열을 주로 코어 다이를 통해 위로 올려 방열했는데, 이 경로가 길고 비효율적이었다.

HPB는 PHY 영역에서 발생한 열을 코어 다이를 경유하지 않고 직접 외부로 분산하는 구조다. 삼성전자는 HPB를 실제 제품에 통합해 구조 설계뿐 아니라 신뢰성·패키지 안정성까지 검증했다고 발표했다.

함께 발표된 기술 방향:

• 2나노 베이스 다이 — HBM5의 베이스 다이(최하단 로직 칩)에 2나노 공정을 적용해 처리 효율을 높이고 발열도 줄인다. 더 미세한 공정은 같은 성능에서 전력 소모가 낮아지므로, 열 발생 자체를 줄이는 접근이다.
• 기술 초격차 전략 — 삼성전자 CTO 송재혁 부사장은 컴퓨텍스 2026 발표에서 "기술로 1등을 목표로 한다"고 직접 언급했다. HBM4E에서 SK하이닉스에 밀린 점유율을 HBM5에서 회복하겠다는 의지다.

SK하이닉스는 삼성보다 먼저 HBM5 방열 기술을 공개했다. 5월 말 발표한 iHBM(integrated HBM) 솔루션이 그것이다.

iHBM의 핵심은 ICE(Integrated Cooling Elements)다. 열이 가장 집중되는 HBM과 GPU 사이 D2D PHY 영역에, 열은 잘 전달하면서 전기는 통하지 않는 실리콘 기반 소재로 만든 냉각 소자를 직접 심는다. 기존에는 HBM 패키지 바깥에서 냉각했다면, iHBM은 패키지 안에서 열원 근처에서 바로 잡는 방식이다.

공식 발표된 성과:

• 열저항 30% 감소 — 열이 외부로 방출되는 경로의 저항이 30% 줄어든다. 같은 클록으로 동작할 때 온도가 낮아지거나, 같은 온도에서 더 높은 성능을 뽑을 수 있다.
• 기존 공정 활용 가능 — iHBM은 완전히 새로운 제조 설비가 필요한 것이 아니라, 기존 HBM 제조 공정에 ICE 소자를 통합하는 방식으로 대량 생산이 가능하다고 밝혔다. 이는 양산 비용과 일정 면에서 중요한 강점이다.
• AI 데이터센터 고밀도 환경 대응 — GPU 서버 랙이 밀집될수록 냉각 문제가 심해진다. iHBM은 외부 냉각 의존도를 줄여 고밀도 AI 데이터센터 운영 비용을 낮추는 효과도 기대된다.

SK하이닉스는 HBM3E부터 엔비디아 GPU 탑재 점유율 1위를 지키고 있다. iHBM으로 HBM5에서도 그 위치를 유지하겠다는 전략이다.

HBM1~HBM3E 세대의 경쟁은 대역폭이었다. 초당 몇 TB의 데이터를 GPU로 보낼 수 있는지가 AI 모델 학습 속도를 좌우했다.

그런데 HBM5 경쟁에서 두 회사가 모두 발열을 전면에 내세운 이유는 무엇일까. 세 가지가 맞물렸다.

첫 번째, 전력 밀도의 급등이다. 엔비디아 블랙웰(Blackwell) GPU는 소비 전력이 1,000W를 넘는다. 서버 랙 하나에 여러 GPU가 꽂히면 랙 전체 전력이 수십 킬로와트에 달한다. 이 열을 식히는 것이 데이터센터 운영의 핵심 병목이 됐다. HBM이 GPU 옆에 붙어 있으므로 HBM 자체의 발열도 문제다.

두 번째, 발열이 성능을 직접 제한한다. 반도체는 일정 온도 이상이 되면 스로틀링(성능 제한)이 걸린다. HBM이 과열되면 대역폭이 자동으로 낮춰져 GPU가 메모리를 충분히 빠르게 읽지 못한다. 아무리 빠른 HBM을 만들어도 발열을 못 잡으면 최고 성능을 지속할 수 없다.

세 번째, 데이터센터 냉각 비용이다. AI 클라우드를 운영하는 기업들은 전력 비용의 상당 부분을 냉각에 쓴다. 메모리 자체의 발열이 줄어들면 외부 냉각 부하가 감소하고, 이는 운영 비용 절감으로 이어진다. 서비스를 운영하는 측에서 HBM5의 열 효율이 클라우드 단가에 직접 영향을 준다는 의미다.

정리하면, HBM5의 발열 경쟁은 단순한 기술 마케팅이 아니다. AI 인프라 운영 비용의 핵심 변수로 열 관리가 부상했기 때문에, 두 회사 모두 발열을 첫 번째 차별화 포인트로 올린 것이다.

HBM5는 아직 양산 일정이 공개되지 않았다. 삼성전자가 컴퓨텍스에서 공개한 것은 실물모형(목업)이므로, 실제 GPU에 탑재되어 개발자가 쓸 수 있는 시점은 2027~2028년이 될 가능성이 높다.

그럼에도 지금 이 기술 방향을 알아야 하는 이유가 있다.

GPU 세대 전환 예측

엔비디아의 블랙웰 아키텍처는 HBM3E를 사용한다. 다음 세대(루빈, Rubin)는 HBM4로 전환이 예상된다. 그 다음 세대에서 HBM5가 채택될 것이다. AI 학습 인프라를 구성할 때 어느 세대의 GPU를 도입하느냐에 따라 메모리 대역폭과 열 효율이 달라진다.

클라우드 GPU 가격 변화

HBM5가 탑재된 GPU가 상용화되면, 이전 세대 HBM3E 기반 GPU(H100, H200)의 클라우드 가격이 내려갈 것이다. AI 학습에 쓸 GPU 인스턴스를 선택할 때 이 가격 사이클을 참고할 수 있다. 지금 H100 인스턴스가 비싸더라도, HBM4·HBM5 세대 GPU가 나오면 상대적으로 저렴해진다.

메모리 대역폭 최적화 필요성

모델 학습에서 메모리 대역폭이 병목이 되는 경우, 배치 크기(batch size)와 시퀀스 길이를 조정해 메모리 접근 패턴을 최적화하는 것이 중요하다. HBM5 세대가 더 높은 대역폭과 지속 성능을 제공하더라도, 메모리 접근 패턴을 이해하고 최적화하는 능력은 어느 세대에서나 중요하다. Flash Attention, KV Cache 최적화 같은 기술은 HBM5 시대에도 핵심 역량이 된다.

• Korea Herald — Samsung reveals HBM5 mockup in bid to regain AI memory lead
• Tom's Hardware — SK Hynix unveils iHBM thermal architecture (열저항 30% 감소)
• SK하이닉스 공식 — iHBM Solution 발표 원문
• ZDNet Korea — 삼성전자 HBM5 HPB 방열 신기술 상세