씨티, AI 지속학습 확산에 메모리 공급 부족 2031년까지 지속 전망
HBM 사양 조정에도 DDR5·eSSD 수요 확대…D램 공급 부족 심화
AI 가속기에 들어가는 고대역폭메모리(HBM)의 사양을 낮추려는 움직임이 나타나고 있지만 메모리 시장의 공급 부족 전망은 오히려 강해지고 있다. 이른바 HBM '디스펙(de-spec)'이 수요 둔화 신호로 읽혔지만, 실제 배경에는 빠듯한 공급과 AI 메모리 수요처의 확산이 자리하고 있다는 분석이다.
16일 관련 업계에 따르면 글로벌 투자은행(IB) 씨티(Citi)는 최근 보고서에서 AI의 '지속학습(Continual Learning)' 확산으로 글로벌 메모리 시장의 공급 부족이 2031년까지 이어질 것으로 내다봤다. HBM 비트 수요는 2027년 62%, 2028년 69% 증가할 것으로 예상했다.
최근 시장이 주목한 것은 HBM 디스펙이다. 시장조사업체 트렌드포스(TrendForce)에 따르면 엔비디아(NVIDIA)는 차세대 루빈 울트라(Rubin Ultra)의 HBM 구성을 기존 12단 HBM4E에서 8단 HBM4E와 12단·8단 HBM4 등으로 넓혀 검토하고 있다. 최종 사양은 아직 결정되지 않았다.
일부 클라우드서비스사업자(CSP)도 자체 개발하는 차세대 AI 반도체의 HBM 용량을 낮추는 방안을 검토하고 있다.
표면적으로는 AI 가속기 한 개에 들어가는 메모리가 줄어드는 셈이다. 하지만 배경을 들여다보면 수요 둔화와는 거리가 있다. 트렌드포스는 2027년 D램 공급 부족으로 HBM에 배정할 수 있는 웨이퍼 생산능력이 제한되는 데다 12단 HBM4E의 인증 일정과 양산 수율에도 불확실성이 남아 있다고 짚었다.
메모리가 남아서 사양을 낮추는 게 아니라, 빠듯한 공급 안에서 더 많은 AI 시스템을 만들어야 하는 상황에 가깝다는 얘기다.
한 번 학습하고 끝나지 않는 AI…메모리 수요도 확산
씨티가 주목한 것은 AI가 학습하는 방식의 변화다.
지속학습은 한 번 학습을 마친 AI가 새로운 데이터가 들어올 때마다 처음부터 다시 훈련하는 대신, 기존에 배운 내용을 유지하면서 새로운 지식을 계속 추가하는 방식이다. 기존처럼 학습과 추론이 뚜렷하게 나뉘던 구조도 점차 달라질 수 있다.
필요한 메모리도 한 종류에 그치지 않는다. 대규모 데이터를 빠르게 처리하며 AI를 학습시키는 과정에서는 HBM이 필요하다. 학습된 모델을 서버에서 구동하고 사용자의 요청을 처리하는 추론 단계에서는 서버용 DDR5가 쓰인다. 과거 학습 데이터와 새롭게 쌓이는 데이터를 저장하고 빠르게 불러오는 과정에서는 고용량 기업용 솔리드스테이트드라이브(eSSD)의 역할이 커진다.
가속기 한 개에 들어가는 HBM 용량보다 AI 시스템 전체가 소비하는 메모리 총량을 봐야 하는 구조로 바뀌고 있는 셈이다.
숫자도 이를 뒷받침한다. 씨티는 HBM 비트 수요가 2027년 전년 대비 62% 증가한 752억Gb, 2028년에는 다시 69% 늘어난 1270억Gb에 이를 것으로 전망했다.
전체 D램 수요도 2027년 30%, 2028년 35% 증가할 것으로 예상했다. 반면 공급 증가율은 각각 19%, 22%에 그칠 것으로 봤다. 수요와 공급의 간격이 오히려 벌어진다.
씨티가 추산한 D램 수급률은 2027년 -8.7%에서 2028년 -9.7%로 악화된다. 트렌드포스 역시 2027년 HBM 비트 출하량이 전년보다 50~60% 증가하더라도 빠르게 늘어나는 수요를 충족하기 어려울 것으로 예상했다.
AI 투자비에서 메모리가 차지하는 몫도 커지고 있다. 트렌드포스는 주요 글로벌 CSP의 전체 설비투자(CAPEX) 가운데 D램과 낸드플래시가 차지하는 비중이 2026년 47%에서 2027년 68%로 높아질 것으로 추산했다.
HBM과 서버용 RDIMM을 합친 물량은 올해 전체 D램 비트 공급의 51%를 차지할 것으로 예상했다. AI 서버가 메모리 시장의 수요 구조 자체를 바꾸고 있는 셈이다.
D램 부족 전망은 한목소리…낸드는 시각 엇갈려
D램과 낸드는 수급 전망에서 온도차가 있다. D램에 대해서는 씨티와 트렌드포스 모두 공급 부족이 이어질 가능성에 무게를 둔다. HBM 생산 확대가 일반 D램 생산능력과 경쟁하는 데다 AI 서버 증가로 서버용 D램 수요까지 함께 커지고 있어서다.
낸드는 전망이 엇갈린다. 씨티는 지속학습이 확대될수록 과거 학습 데이터를 저장하는 eSSD 수요가 늘어날 것으로 봤다. 낸드 수요는 2027년 29%, 2028년 33% 증가하는 반면 공급 증가는 각각 21%, 25%에 그칠 것으로 예상했다. 낸드 수급률도 올해 -0.8%에서 2027년 -6.1%, 2028년 -5.5%로 공급 부족 폭이 커질 것으로 내다봤다.
트렌드포스는 공급 측면을 조금 더 보수적으로 본다. AI 서버와 eSSD 수요가 강한 것은 같지만 공정 전환과 신규 생산능력이 더해지면 2027년 하반기부터 낸드 수급이 점차 풀릴 수 있다는 판단이다. 스마트폰과 노트북 등 소비자용 수요가 상대적으로 약한 점도 변수로 꼽았다.
낸드의 공급 시점을 놓고 전망은 갈리지만 AI가 메모리를 쓰는 범위가 HBM 밖으로 넓어지고 있다는 점은 같다. 서버용 D램과 eSSD까지 수요가 번지면서 가속기 한 개에 들어가는 HBM 용량만으로 전체 메모리 업황을 읽기는 어려워졌다.
삼성전자와 SK하이닉스도 이 흐름에서 벗어나지 않는다. 가속기당 HBM 용량이 줄더라도 AI 서버 출하가 늘고 서버 D램과 eSSD 수요가 함께 커진다면 전체 비트 수요는 증가할 수 있다.
HBM 디스펙을 볼 때도 결국 중요한 것은 '얼마나 덜 넣느냐'보다 '왜 덜 넣느냐'다. 수요가 줄어서인지, 부족한 메모리를 더 많은 AI 시스템에 배분하기 위한 것인지에 따라 메모리 업황에 주는 신호는 달라진다.
