인공지능(AI) 반도체 시장의 메모리 경쟁이 고대역폭메모리(HBM)를 넘어 차세대 구조 경쟁으로 빠르게 확대되고 있다. AI 모델이 학습 중심에서 실시간 추론과 AI 에이전트 중심으로 진화하면서 단순히 빠른 메모리를 공급하는 것만으로는 급증하는 데이터 처리량을 감당하기 어려워졌기 때문이다.
삼성전자와 SK하이닉스는 이러한 변화에 서로 다른 해법을 제시했다. 삼성전자는 HBM과 낸드를 수직으로 쌓아 데이터 이동 거리를 줄이는 3D 적층 전략을, SK하이닉스는 HBM과 SSD 사이에 새로운 메모리 계층을 만드는 HBF(High Bandwidth Flash) 전략을 앞세웠다.
삼성전자는 미국에서 열린 FMS 2026을 통해 차세대 3D 메모리 아키텍처 ‘zHBM’과 ‘z낸드-O’를 공개했다. 핵심은 AI 가속기와 메모리를 물리적으로 더 가깝게 연결하면서 메모리 자체도 수직 방향으로 확장하는 것이다.
zHBM은 GPU나 맞춤형 반도체(ASIC) 위에 HBM을 직접 수직 적층하는 구조다. 기존 AI 시스템이 GPU 주변에 여러 HBM을 연결했다면 zHBM은 TSV(실리콘 관통전극) 기술을 활용해 메모리를 3차원으로 확장함으로써 데이터 이동에 따른 병목과 전력 소비를 줄이는 접근이다.
삼성전자에 따르면 zHBM은 현재 개발 중인 HBM5와 비교해 최대 8배 높은 성능과 최대 3배 향상된 전력 효율을 목표로 한다. AI 가속기와 메모리 사이에 위치하는 인터레이어를 활용해 고객 요구에 맞춰 용량과 성능을 조정할 수 있다는 점도 특징이다.
낸드플래시 역시 고성능화한다. 삼성전자의 z낸드-O는 여러 V낸드 칩을 TSV 방식으로 수직 적층해 기존 낸드보다 높은 대역폭과 빠른 응답 속도를 구현하는 차세대 구조다.
AI 에이전트와 온디바이스 AI가 확대되면 저장장치에서 데이터를 불러오는 속도 역시 전체 AI 성능을 좌우할 수 있다. 삼성전자는 이 과정에서 낸드의 역할이 단순 저장장치를 넘어 고성능 AI 메모리 계층으로 확대될 것으로 보고 있다.
삼성전자는 여기에 업계 최초 400단 이상 구조를 구현한 10세대 V낸드 ‘V10 BV낸드’도 공개했다. 웨이퍼 본딩과 3단 스택 구조를 통해 전 세대보다 집적도를 약 58% 높여 데이터센터용 고성능 스토리지 시장까지 함께 공략한다는 전략이다.
반면 SK하이닉스는 메모리를 더 높게 쌓는 방식보다 AI 시스템 내부에 새로운 메모리 계층을 추가하는 전략을 선택했다. 샌디스크와 공동 개발 중인 HBF의 첫 표준 규격을 공개하며 AI 스토리지 시장 선점에 나섰다.
HBF는 고성능 D램 기반 HBM과 대용량 낸드 기반 SSD 사이를 연결하는 새로운 형태의 메모리다. HBM은 매우 빠르지만 가격이 높고 용량 확대에 한계가 있는 반면, 낸드는 상대적으로 저렴하면서 대용량 구현에 유리하다. HBF는 낸드의 높은 집적도를 활용하면서 데이터 처리 대역폭을 끌어올려 두 영역의 간극을 메우는 역할을 목표로 한다.
SK하이닉스와 샌디스크가 제시한 HBF 표준은 낸드 다이를 8단 또는 16단으로 적층하고 최대 512GB 용량과 최대 3.0TB/s 수준의 대역폭을 지원하도록 설계됐다. 개방형 칩렛 인터페이스인 UCIe를 적용해 GPU와 CPU 등 다양한 프로세서와 연결할 수 있도록 한 것도 특징이다.
생태계 전략에서도 차이가 나타난다. SK하이닉스는 구글과 텐스토렌트 등이 참여하는 HBF 협력 체계를 바탕으로 개방형 표준을 확대하고 다양한 AI 프로세서에 적용될 수 있는 범용 메모리 계층으로 육성한다는 구상이다.
결국 삼성전자와 SK하이닉스가 바라보는 차세대 AI 메모리의 방향은 뚜렷하게 갈린다. 삼성전자가 메모리를 AI 가속기에 ‘더 가깝고, 더 높게’ 배치해 절대적인 성능을 높이는 전략이라면, SK하이닉스는 기존 HBM과 SSD 사이에 ‘새로운 고속·대용량 계층’을 만들어 AI 시스템 전체의 효율을 높이는 전략이다.
이러한 변화는 AI 산업이 학습 중심에서 추론 중심으로 이동하고 있다는 흐름과 맞닿아 있다. AI 에이전트가 확산되면 이용자의 요청을 실시간으로 처리하기 위해 더 많은 데이터를 빠르게 불러오고 반복적으로 처리해야 한다. 이에 따라 AI 시스템에서는 단순 대역폭뿐 아니라 용량과 지연시간, 전력 효율을 함께 해결할 새로운 메모리 구조가 중요해지고 있다.
핫이슈 인사이트
• AI 메모리 경쟁의 중심이 단순한 HBM 세대 경쟁에서 전체 메모리 계층과 패키징 구조를 재설계하는 경쟁으로 이동하고 있다.
• 삼성전자의 zHBM은 AI 가속기와 메모리 사이의 물리적 거리를 최소화해 성능과 전력 효율을 동시에 끌어올리려는 고성능 중심 전략이다.
• SK하이닉스의 HBF는 HBM의 성능과 낸드의 대용량·가격 경쟁력 사이에 새로운 계층을 만들어 AI 인프라 전체의 메모리 효율을 높이려는 접근이다.
• 생성형 AI가 학습에서 실시간 추론과 에이전틱 AI로 확대될수록 메모리 경쟁력은 단순 속도보다 속도·용량·전력 효율을 얼마나 균형 있게 제공하느냐가 중요해질 전망이다.
• 향후 AI 반도체 경쟁은 GPU와 HBM만의 승부가 아니라 HBM·차세대 낸드·HBF·스토리지를 하나의 시스템으로 어떻게 구성하느냐에 따라 경쟁력이 갈릴 가능성이 높다.
핵심요약
• 삼성전자와 SK하이닉스의 AI 메모리 경쟁이 HBM을 넘어 차세대 메모리 구조 경쟁으로 확대되고 있다.
• 삼성전자는 GPU·ASIC 위에 HBM을 직접 적층하는 zHBM과 V낸드를 수직 적층하는 z낸드-O를 공개했다.
• 삼성은 zHBM을 통해 HBM5 대비 최대 8배 성능과 최대 3배 향상된 전력 효율을 목표로 한다.
• SK하이닉스는 HBM과 SSD 사이를 연결하는 새로운 메모리 계층 HBF를 샌디스크와 공동 개발하고 있다.
• HBF는 최대 512GB 용량과 최대 3.0TB/s 대역폭, UCIe 기반 개방형 연결 구조를 목표로 한다.
• AI 추론과 에이전트 확산으로 차세대 메모리 시장의 승부는 성능뿐 아니라 용량·전력 효율·시스템 구조까지 포함하는 종합 경쟁으로 전환되고 있다.
