미국 데이터센터 전력수요 2025년 31GW→2027년 66GW
삼성·하이닉스 차세대 HBM 경쟁…전력 효율 중요성 커져
데이터센터도 '전력 있는 곳'으로…AI 메모리 수요 새 변수
인공지능(AI) 반도체 시장의 병목이 칩 밖으로 옮겨가고 있다. 그래픽처리장치(GPU)에 이어 고대역폭메모리(HBM)와 서버용 D램까지 공급 부족이 번졌지만, 정작 이들 반도체를 탑재한 서버를 돌릴 전력이 새로운 제약으로 떠올랐다.
미국 데이터센터 전력 수요는 불과 2년 만에 두 배 이상 늘어날 전망이다. 삼성전자와 SK하이닉스가 차세대 HBM 개발과 생산능력 확대에 속도를 내는 가운데 AI 메모리 호황을 보는 기준도 달라지고 있다. 빅테크의 투자 규모뿐 아니라 데이터센터에 전력이 제때 들어오느냐까지 봐야 하는 상황이다.
HBM은 늘리는데…전력 수요는 더 빨리 뛴다
삼성전자와 SK하이닉스는 지난 23일(현지시간) 미국 스탠퍼드대에서 열린 반도체 학술행사 '핫칩스(Hot Chips) 2026'에서 차세대 HBM 기술을 나란히 공개했다.
삼성전자는 HBM 하단의 베이스다이에 로직 기능을 확대해 고객별 요구에 대응하는 맞춤형 HBM 방향을 제시했다. SK하이닉스는 고적층 HBM의 발열과 패키징 한계를 줄이는 데 초점을 맞췄다. 향후 적층 수가 더 늘어날 경우에 대비해 하이브리드 본딩 등 차세대 패키징 기술도 제시했다.
기술 경쟁과 함께 생산능력 확대에도 속도가 붙었다. SK하이닉스는 지난 7일 용인 반도체 클러스터 2기 팹(Y2)과 청주 M17에 총 54조3246억원을 투자하기로 했다. Y2는 HBM을 포함한 차세대 D램 생산기지로 2029년 첫 클린룸 가동을 목표로 한다. M17은 AI 확산에 따른 기업용 SSD 수요 등에 대응하는 NAND 생산기지로 2028년 말 첫 클린룸 가동이 예정돼 있다.
문제는 수요처의 전력 확보 속도다. 골드만삭스 리서치에 따르면 미국 데이터센터 전력 수요는 2025년 31기가와트(GW)에서 올해 41GW, 2027년 66GW로 증가할 전망이다. 미국 여름철 최대 전력수요에서 데이터센터가 차지하는 비중도 같은 기간 4.1%에서 8.5%로 높아질 것으로 예상됐다.
반도체를 확보해도 전력이 들어오지 않으면 서버를 돌릴 수 없다. 전력망 연결이 늦어지면 서버 설치와 가동이 미뤄지고 HBM과 서버용 메모리 주문 시점에도 영향을 줄 수 있다.
전력 확보는 데이터센터의 입지까지 바꾸는 추세다. JLL에 따르면 2022~2025년 유럽 신규 하이퍼스케일 데이터센터는 주요 거점 도시에서 평균 46km 떨어져 있었지만, 2026~2028년 예정 시설은 평균 175km까지 멀어진다. 대규모 전력과 부지를 확보하기 위해 기존 데이터센터 밀집지역을 벗어나고 있는 것이다.
빅테크 투자액 넘어 '전력당 성능' 경쟁으로
전력 병목은 Samsung Electronics와 SK hynix의 AI 메모리 수요를 보는 기준도 바꾸고 있다. 지금까지 시장의 관심이 엔비디아의 GPU와 Samsung Electronics·SK hynix의 HBM을 얼마나 많이 생산할 수 있느냐에 집중됐다면, 앞으로는 빅테크의 AI 투자가 실제 데이터센터 가동으로 얼마나 빠르게 이어지는지도 중요해진다. 최근 HBM뿐 아니라 서버용 D램까지 공급 부족이 번지며 메모리 업체들의 가격 협상력이 높아졌지만, 데이터센터를 짓고도 전력망 연결이 늦어지면 서버 설치와 메모리 주문 사이에는 시차가 생길 수 있다.
그렇다고 전력 부족이 곧 HBM 수요 감소로 이어지는 것은 아니다. 사용할 수 있는 전력이 제한될수록 같은 전력으로 더 많은 연산을 처리해야 하는 만큼 고성능·고효율 semiconductor의 가치가 오히려 높아질 여지도 있다. 데이터센터의 전력 확보가 AI 투자의 속도를 제한하는 동시에 semiconductor 시장에서는 '전력당 성능' 경쟁을 앞당기는 요인이 될 수 있다는 얘기다.
엔비디아의 차세대 AI 플랫폼 '베라 루빈(Vera Rubin)'에서도 이런 변화가 나타난다. 엔비디아는 베라 루빈 NVL72의 경쟁력 가운데 하나로 전력당 연산 성능을 강조하고 있다. 회사에 따르면 베라 루빈 NVL72는 기존 GB200 NVL72와 비교해 메가와트(MW)당 최대 10배 많은 토큰을 처리할 수 있다.
HBM도 같은 과제를 안고 있다. 데이터 이동 과정의 전력 소모와 발열을 줄이면서 대역폭을 높여야 AI 시스템 전체의 성능과 운영비용을 개선할 수 있다. 삼성전자와 SK하이닉스가 핫칩스에서 각각 베이스다이와 패키징·열관리 기술을 강조한 이유다.
결국 AI 메모리 시장의 다음 변수는 팹 밖에 있다. 전력 부족으로 데이터센터 가동이 늦어지면 HBM 주문 시점도 밀릴 수 있지만, 제한된 전력이 최신 AI 서버에 집중되면 고성능 HBM 수요는 더 강해질 수 있다.
GPU에서 HBM, 서버용 메모리로 이어졌던 공급 병목이 이제 전력 인프라로 번지고 있다. HBM을 얼마나 생산할 수 있느냐만큼 이를 탑재한 서버가 얼마나 빨리 가동되느냐가 AI 메모리 호황의 지속성을 가를 또 하나의 지표가 됐다.
