메모리를 GPU 옆이 아니라 위에 얹는다면
컴퓨터가 생긴 이래로 배치는 늘 같았습니다. 연산을 담당하는 프로세서가 한쪽에 있고, 메모리가 그 옆에 놓이고, 둘 사이를 배선이 오가며 데이터를 실어 나릅니다. 삼성전자가 FMS 2026(미국 산타클라라에서 열린 Future of Memory and Storage)에서 이 배치를 뒤집는 구조를 선보였습니다. 이름은 zHBM입니다.
핵심은 간단합니다. 지금까지 고대역폭 메모리(HBM)는 GPU 바로 옆에 나란히 앉아 좁은 틈을 사이에 두고 연결됐습니다. zHBM은 여기서 한 걸음 더 나갑니다. 그 틈조차 없애고, 메모리를 AI 가속기 바로 위에 수직으로 쌓아 올립니다. 수만 개의 연결이 위아래로 이어지고, 데이터가 이동해야 하는 물리적 거리 자체가 짧아집니다.
같은 문제를 다른 각도에서
앞서 다룬 메모리 병목 이야기를 읽으셨다면 맥락이 바로 잡힙니다. zHBM은 같은 문제를 다른 각도에서 푸는 시도입니다. 그 글의 주제는 ‘메모리 월(memory wall)’이었습니다. 프로세서는 빠르게 좋아졌는데 이를 뒷받침하는 메모리가 그 속도를 못 따라가서, AI가 연산보다 데이터를 기다리는 데 시간을 더 쓰는 현상입니다.
업계 대부분은 이 벽을 ‘메모리를 더 빠르게 만드는’ 방식으로 넘으려 합니다. 삼성의 zHBM은 방향이 다릅니다. 거리를 줄이는 쪽입니다. 연산과 데이터 사이의 물리적 거리를 좁히면 대역폭은 올라가고 전력 낭비는 줄어듭니다. 데이터를 멀리 옮기는 일 자체가 칩에서 전력을 가장 많이 잡아먹는 작업 중 하나이기 때문입니다.
숫자는 화려합니다
삼성이 내세운 수치는 눈에 띕니다. zHBM 기반 시스템은 HBM5 대비 약 8배 성능(GPU당 성능 기준), 10배 이상의 메모리 밀도, 약 3배 높은 에너지 효율, 그리고 절반 이상 낮아진 열저항을 목표로 한다고 합니다. 헤드라인이 저절로 써지는 숫자입니다.
그런데 여기서 반드시 짚어야 할 것이 있습니다. zHBM은 지금 주문할 수 있는 제품이 아닙니다. 삼성 스스로 표현한 대로 ‘컨셉 모델’입니다. 그리고 ‘HBM5 대비 8배’라는 비교도 다시 볼 필요가 있습니다. HBM5 역시 아직 존재하지 않는 미래 세대이기 때문입니다. 바로 전 세대인 HBM4도 2026년 들어서야 양산이 시작됐고, 그다음 세대인 HBM4E가 이제 막 샘플 단계입니다. 결국 아직 나오지 않은 기술을, 역시 아직 나오지 않은 기술과 비교한 수치입니다. 이 수치가 틀렸다는 뜻이 아닙니다. 스펙이 아니라 ‘목표’라는 뜻입니다.
삼성은 zHBM만 공개한 것이 아닙니다. 엣지 AI를 겨냥한 차세대 고성능 낸드 컨셉 ‘zNAND-O’, 그리고 400단이 넘는 층을 쌓아 이전 세대 대비 밀도를 약 58% 높였다는 V10 BV-NAND도 함께 소개했습니다. 이 모든 발표를 관통하는 기술은 하나로, 옆으로 넓히는 대신 위로 쌓아 올리는 웨이퍼 본딩 기술입니다.
흥분하기 전에, 냉정하게
주목할 지점은 ‘8배’라는 숫자가 아닙니다. 방향입니다. 업계가 ‘메모리를 연산 옆에 두는’ 시대에서 ‘연산 위에 얹는’ 시대로 패러다임을 바꾸고 있습니다. 이런 아이디어는 이름과 로드맵을 얻는 순간 힘을 가집니다. 첫 제품이 컨셉과 전혀 다른 모습이더라도 업계 전체를 그 방향으로 끌어당깁니다.
다만 흥분은 딱 적정 온도로 눌러 두는 편이 좋습니다. 이유가 있습니다. 뜨거운 메모리를 뜨거운 프로세서 바로 위에 쌓는 방식을 지금껏 아무도 안 한 것은, 생각을 못 해서가 아닙니다. 열 때문입니다. AI 작업을 돌리는 GPU는 사실상 작은 난로입니다. 그 위에 고밀도 메모리를 얹으면, 그 메모리는 시스템에서 가장 뜨거운 자리에 앉게 됩니다. 삼성이 내세운 대표 수치가 ‘열저항 절반 감소’라는 점 자체가, 발열이 이 구조의 가장 어려운 숙제임을 조용히 시인합니다.
수율도 있습니다. 웨이퍼를 붙이는 일은 슬라이드에서는 깔끔해 보입니다. 그런데 실제 공장에서는, 메모리 웨이퍼든 그 아래 로직 웨이퍼든 한쪽에 결함이 있으면 값비싼 적층 전체를 한 번에 잃을 수 있습니다. 불량 부품 하나만 버리는 것과는 계산이 다릅니다. 뛰어난 3D 적층 시연이 실제로 살 수 있는 제품이 되기까지 몇 년씩 걸리는 큰 이유가 바로 이것입니다.
제 생각은 이렇습니다. zHBM은 옳은 문제를 향한 옳은 직관입니다. AI의 진짜 제약이 데이터 공급이 프로세서 속도를 못 따라가는 데 있다면, 둘 사이의 거리를 좁히는 접근은 메모리 속도만 억지로 끌어올리며 전력 부담을 걱정하는 것보다 장기적으로 더 나은 방향입니다. 방향은 분명 옳습니다.
하지만 매력적인 컨셉과 실제 출하되는 부품 사이의 간극은, 대부분의 화려한 메모리 시연이 조용히 사라지는 지점이기도 합니다. ‘HBM5 대비 8배’는 zHBM과 HBM5가 둘 다 존재하고, 양산되고, 녹아내리지 않는 세상에 대한 약속입니다. 우리는 아직 그 세상에 있지 않습니다. 이 발표는 고성능 AI 메모리가 어디로 향하는지 보여 주는 이정표입니다. 출시일이 잡힌 제품 소식이 아닙니다. 아이디어는 진지하게 볼 가치가 있습니다. 다만 숫자는 확정된 스펙이 아니라 목표로 읽어야 합니다.
※ 이 글은 정보 제공 목적이며 투자나 구매 권유가 아닙니다. zHBM은 컨셉 단계 기술로, 현재 구매 가능한 제품이 아닙니다.
원문 출처 / Source: https://news.samsung.com/global/samsung-unveils-next-gen-3d-memory-vision-at-fms-2026-charting-the-future-of-ai-infrastructure
이미지: Sufyan / Unsplash
댓글 남기기