SK하이닉스가 차세대 AI 서버용 메모리 ‘SOCAMM2(192GB)’ 양산에 돌입하며 AI 메모리 시장 구조 변화에 속도를 내고 있다. 기존 HBM 중심 전략을 넘어 새로운 메모리 계층을 구축하는 것이 핵심이다.
이번 제품은 엔비디아 차세대 AI 플랫폼 ‘베라 루빈’ 대응을 목표로 하며, 데이터 처리 속도와 전력 효율을 동시에 개선한 것이 특징이다.
HBM 한계 보완…중간 계층 메모리 부상
SOCAMM은 GPU 인근에 탑재되는 저전력 고성능 메모리로, HBM과 DDR 사이의 ‘중간 계층’ 역할을 수행한다.
AI 모델이 대형화되면서 데이터 처리량이 급증했고, 단일 고속 메모리만으로는 효율적인 시스템 운영이 어려워지면서 계층형 메모리 구조가 필요해졌다.
AI 산업 변화: 학습 → 추론 중심 이동
AI 산업은 학습 중심에서 실시간 추론 중심으로 빠르게 전환되고 있다. 이에 따라 데이터 접근 속도와 메모리 구조가 시스템 성능의 핵심 변수로 부상하고 있다.
엔비디아 역시 GPU 성능 경쟁을 넘어 서버 전체 아키텍처를 재설계하며, 메모리 구조를 HBM·DDR에서 SOCAMM·CXL 등으로 확장하는 전략을 추진 중이다.
메모리 경쟁, ‘구조 경쟁’으로 진화
이번 SOCAMM2 양산은 단순 신제품 출시가 아닌 메모리 시장 경쟁 패러다임 변화로 해석된다. 기존에는 속도와 용량 경쟁이 중심이었다면, 이제는 시스템 구조 최적화가 핵심이다.
특히 SOCAMM은 신규 규격 기반 고부가 제품으로 가격 프리미엄 형성이 가능하며, AI 데이터센터 투자 확대에 따른 ASP 상승 효과도 기대된다.
변수: 표준 경쟁과 고객 채택 속도
다만 SOCAMM 확산의 핵심 변수는 기술 표준 경쟁과 주요 고객사 채택 속도다. 새로운 메모리 구조가 시장 표준으로 자리잡기까지는 일정 시간이 필요할 전망이다.
AI 인프라 투자가 빠르게 확대되는 만큼, 초기 시장 선점 여부가 향후 메모리 시장 지배력을 좌우할 가능성이 크다.
핵심 포인트 요약
• SK하이닉스 SOCAMM2 양산 돌입
• HBM 중심 → 계층형 메모리 구조 전환
• AI 산업, 학습에서 추론 중심으로 변화
• 메모리 경쟁, 속도 아닌 ‘구조 경쟁’으로 이동

