엔비디아와 삼성전자, SK하이닉스 뉴스에서 HBM이라는 단어가 빠지지 않습니다. HBM은 AI 데이터센터 GPU에 들어가는 메모리로, 게이밍 그래픽카드에 쓰는 GDDR 메모리와는 만드는 방식부터 다릅니다.
HBM은 쌓아 올린 메모리
HBM(High Bandwidth Memory)은 D램 칩 여러 장을 수직으로 쌓고, 칩을 관통하는 미세한 구멍(TSV)으로 연결한 메모리입니다. 이렇게 쌓은 메모리를 GPU 바로 옆에 붙여 아주 넓은 통로로 연결합니다. 스택 하나의 버스 폭이 1,024비트 이상으로, 게이밍 그래픽카드 전체 버스 폭(128~512비트)보다 훨씬 넓습니다.
HBM과 GDDR 비교
| 항목 | GDDR (GDDR7 등) | HBM (HBM3E·HBM4 등) |
|---|---|---|
| 구조 | 기판 위에 칩을 나란히 배치 | 칩을 수직으로 쌓아 GPU 옆에 배치 |
| 통로 폭 | 칩당 좁은 폭, 속도를 높여 보완 | 스택당 매우 넓은 폭 |
| 주 용도 | 게이밍 그래픽카드 | AI·데이터센터 GPU |
| 가격·제조 난이도 | 상대적으로 낮음 | 높음 |
왜 AI GPU는 HBM을 쓸까
AI 모델은 계산할 때마다 엄청난 양의 데이터를 메모리에서 읽어 옵니다. 연산 장치가 아무리 빨라도 메모리에서 데이터가 늦게 오면 기다려야 하므로, 대역폭이 넓은 HBM이 필수가 됐습니다. 엔비디아의 차세대 데이터센터 플랫폼 베라 루빈도 HBM4를 쓰고, 2027년 루빈 울트라는 HBM4E를 쓸 계획입니다. 로드맵은 엔비디아 베라 루빈 로드맵에서 정리했습니다.
HBM 수요가 그래픽카드 가격에 닿는 이유
HBM도 결국 D램으로 만듭니다. 메모리 제조사들이 수익성 높은 HBM 생산을 늘리면, 같은 공장에서 만들던 일반 D램과 GDDR 생산 여력이 줄어듭니다. 그 결과 게이밍 그래픽카드용 메모리 가격이 오르고, 그래픽카드 가격 인상으로 이어질 수 있습니다.
게이머가 기억할 점
- 게이밍 그래픽카드에 HBM이 들어가지 않는 이유는 비용 대비 효과 때문입니다. 게임에서는 GDDR7의 대역폭으로도 충분한 경우가 많습니다.
- 게이밍 그래픽카드의 메모리 성능은 그래픽카드 메모리 대역폭 글에서 계산 방법과 함께 볼 수 있습니다.
- 로컬에서 큰 AI 모델을 돌리려면 대역폭보다 VRAM 용량이 먼저 문제가 됩니다. 내 PC에서 AI 돌리려면 VRAM 얼마나 필요할까를 참고하세요.