시장조사업체 TrendForce의 전망에 따르면, 2026년 AI 가속기 서버의 액체냉각 채택률이 약 53%에 이릅니다. 2025년의 약 33%에서 크게 오른 수치입니다.
다시 말해 세계에서 가동 중인 AI 칩의 절반 이상이, 팬으로 바람을 불어 식히는 대신 액체를 흘려 식히게 됩니다. 처음으로 과반을 넘는 것입니다.
박스를 어떻게 식히든 무슨 상관이냐고 여길 수도 있습니다. 그런데 이 과반 돌파는 AI 확장 전체가 지금 어디에 막혀 있는지를 정확히 가리키는 신호입니다. 그리고 그 지점은 많은 사람이 생각하는 곳이 아닙니다.
### 병목이 칩에서 메모리로, 다시 물리로 내려왔습니다
한동안 AI 하드웨어 이야기의 중심은 연산이었습니다. 그다음 무게중심은 메모리로 옮겨갔습니다. 저는 HBM4 메모리 병목과 삼성 zHBM을 다루면서, AI의 진짜 한계선이 GPU에서 그 GPU에 데이터를 공급하는 메모리로 조용히 이동했다고 짚었습니다.
이번 이야기는 같은 흐름의 다음 장입니다. 병목은 계속 아래 계층으로 미끄러져 내려왔고, 마침내 설계로는 우회할 수 없는 지점에 닿았습니다. 바로 물리입니다. 열과 전력입니다.
냉각 시스템의 임무는 칩이 소모하는 모든 와트를 밖으로 빼내는 것입니다. 칩이 쓴 전기는 결국 전부 열로 바뀌기 때문입니다. 팬과 히트싱크를 쓰는 공랭(공기 냉각)은 어느 선까지는 잘 작동합니다. 그 선이 대략 랙당 수십 킬로와트입니다. 그 아래에서는 공기가 싸고 간단하게 일을 해냅니다. 그런데 그 위로 올라가면 공기는 감당하지 못합니다.
### AI 랙이 그 한계선을 그대로 넘었습니다
문제는 현세대 AI 랙이 그 천장을 훌쩍 넘어섰다는 데 있습니다. NVIDIA의 GB200 계열 랙스케일(rack-scale) 시스템은 하나의 캐비닛에 GPU를 워낙 많이 집어넣어, 랙 하나가 100킬로와트를 훌쩍 넘겨 끌어씁니다. GB200 NVL72는 약 120킬로와트급입니다.
이 정도 열을 그 좁은 공간에서 공기로 빼내는 것은 불가능합니다. 팬으로 해결할 방법은 더 이상 없습니다. 그래서 업계가 액체냉각으로 넘어간 것은 유행 때문이 아닙니다. 대안이 서멀 스로틀링(칩이 과열을 피하려 스스로 속도를 낮추는 것)뿐이었기 때문입니다. 시간당 운영비가 막대한 하드웨어를 일부러 느리게 돌리는 셈입니다.
채택 곡선이 그토록 가파른 이유가 여기 있습니다. TrendForce는 2026년이 정점이라고 보지도 않습니다. 침투율이 2027년에는 약 60%에 근접할 것으로 전망합니다. 단기 반짝 현상이 아니라 기준선 자체가 높아지고 있다는 뜻입니다.
### 이 흐름을 미는 세 이름
주도하는 곳은 세 곳입니다.
가장 큰 축은 NVIDIA입니다. TrendForce 추정으로 2026년 GB/VR 계열 랙스케일 솔루션 출하량이 약 두 배로 늘고, GPU 랙 전체 수요는 전년 대비 30% 넘게 증가합니다. 지배적 공급사가 처음부터 액체냉각을 전제한 랙스케일 설계를 밀어내면, 공급망 전체가 따라갑니다.
AMD는 랙스케일 플랫폼 Helios로 뒤를 잇습니다. 2026년 풀프로덕션에 진입해 2026년 3분기부터 마이크로소프트 애저에 출하되기 시작했고, 대량 출하는 2027년으로 이어집니다.
그리고 조용한 선두는 Google입니다. TrendForce에 따르면 Google은 이미 AI 서버의 80% 이상에 액체냉각을 적용해, 대형 클라우드 사업자 가운데 가장 공격적입니다.
주류 방식은 다이렉트-투-칩(direct-to-chip)입니다. GPU 바로 위에 냉각판(cold plate)을 붙이고 그 안으로 냉각액을 흘려 실리콘의 열을 뽑아냅니다. 냉각판, 냉각액을 분배하는 매니폴드, 순환을 제어하는 CDU(냉각액 분배 장치)로 이뤄진 배관 시스템입니다. 더 극단적인 방식은 액침(immersion)으로, 기판을 통째로 비전도성 액체에 담급니다. 밀도는 압도적이지만 운영 부담이 커서, 이번 흐름을 실제로 이끄는 쪽은 다이렉트-투-칩입니다.
### 배관을 걷어내면 보이는 진짜 이야기
AI의 제약은 실리콘에서 인프라로 옮겨갔습니다. “더 빠른 칩을 설계할 수 있는가”에서 “그 칩에 전력을 공급하고 그 열을 빼낼 수 있는가”로 넘어간 것입니다. 성격이 전혀 다른 문제이고, 칩 설계실에서는 풀리지 않습니다.
냉각 수치는 사실 전력 소비의 대리 지표입니다. 냉각에 쓰는 모든 와트는 연산에 못 쓰는 와트이고, 전기요금에 두 번 찍힙니다. 칩을 돌리는 데 한 번, 팬이나 펌프를 돌리는 데 한 번입니다.
데이터센터 업계는 이를 PUE(전력 효율 지표)로 추적합니다. 실제 연산 1와트를 내놓기 위해 총 몇 와트를 태우는가를 보는 값입니다. 이 밀도에서 공랭은 PUE를 악화시키고, 액체냉각은 이 값을 큰 폭으로 끌어내립니다. 그러니 액체냉각으로의 전환은 편의 개선이 아니라, 메가와트 단위로 재는 운영비 결정입니다.
이는 AI 하드웨어에서 “이긴다”는 말의 의미까지 바꿉니다. 예전 게임은 더 좋은 가속기를 설계하는 것이었습니다. 새 게임에는 전력회사의 질문처럼 들리는 항목이 섞입니다. 전력망 연결을 확보할 수 있는가. 그 지역에 전력이 충분한가. 건물이 랙당 100킬로와트가 넘는 열을 물리적으로 방출할 수 있는가. 아무리 뛰어난 칩도 전력을 대지 못하거나 식히지 못하면 무용지물입니다.
메모리 이야기와 나란히 놓으면 하나의 패턴이 보입니다. 먼저 업계는 HBM4 메모리 병목에 부딪혔습니다. 칩의 연산 속도가 메모리의 공급 속도를 앞섰기 때문입니다. 그다음에는 열과 전력의 병목에 부딪혔습니다. 칩을 빽빽이 넣을 수는 있어도, 공기와 평범한 전력망으로는 식히거나 전력을 댈 수 없습니다. 그때마다 제약은 한 계층씩 순수한 물리에 가까워졌습니다. 더 이상 제약을 우회할 추상 계층은 없습니다. 더 영리한 모델이나 더 촘촘한 메모리 적층은 발명할 수 있어도, 열역학 제2법칙과 논쟁할 수는 없습니다.
그래서 53%라는 숫자를 배관 통계로 읽으면 곤란합니다. AI 산업이 “어려운 부분은 더 이상 연산이 아니다”라고 인정한 순간으로 읽어야 합니다. 어려운 부분은 열, 전력, 그리고 부지입니다. 전체에서 가장 화려하지 않고 가장 물리적인 부분입니다. AI의 최전선이 변전소와 냉각 배관을 통과하게 됐습니다. 3년 전 누구도 AI의 최전선이 이런 곳에 이를 것이라고는 예상하지 못했습니다.
한 가지는 분명히 해두겠습니다. 위 수치는 TrendForce의 전망이지, 출하가 끝나 집계된 확정치가 아닙니다. Goldman Sachs는 2024년 말 리서치에서 76%에 가까운 더 높은 숫자를 제시했는데, 이는 액체냉각의 범위를 더 넓게 정의한 결과로 추정됩니다. 방법론의 구체적 차이는 공개된 1차 자료에서 확인되지 않습니다. 정확한 퍼센트는 방법론에 따라 흔들립니다. 다만 진지한 전망은 모두 채택률이 빠르게 상승하는 방향을 가리키고 있습니다. 그 방향이야말로 진짜 소식입니다.
원문 출처 / Source: https://www.trendforce.com/presscenter/news/20260817-13183.html , https://infotechlead.com/data-center/ai-data-center-liquid-cooling-adoption-to-hit-53-in-2026-as-nvidia-amd-google-drive-demand-97794
이미지: Taylor Vick / Unsplash
댓글 남기기