메모리, 부품이 아니다: AI 추론의 새로운 심장 LPU와 HBM의 공존

과거에는 단순한 부품으로 치부되던 메모리 시장이 이제 AI 시대의 핵심 인프라로 급부상하고 있습니다. 삼성전자가 발표한 2026 년 1 분기 잠정실적은 매출 133 조 원, 영업이익 57 조 원으로 시장 예상치를 크게 상회하며 이 산업의 폭발력을 증명했습니다. 특히 메모리 수요가 기대 이상으로 높게 나타나면서, 단순한 가격 상승을 넘어 구조적인 성장 국면에 진입했음을 시사합니다.

핵심 변화는 NVIDIA 의 Vera Rubin 시스템에 탑재되는 LPU(Language Processing Unit) 와 LPX 아키텍처의 등장입니다. 이는 AI 추론 과정 중 토큰 생성 단계인 Decode 를 전담하여 HBM 의 부담을 덜어주고, 메모리 계층이 GPU+HBM 에서 LPU+SRAM 으로 다층화되는 Full Stack 구조로 진화하고 있음을 의미합니다. Omdia 는 이에 따라 2026 년 서버 DRAM 수요 Bit Growth 를 기존 23.1% 에서 27.8% 로 상향 조정했으며, 특히 서버 Bit Growth 는 41.2% 에서 무려 55% 까지 대폭 끌어올렸습니다.

HBM 을 대체하는 것이 아니라 HBM 의 가치를 극대화하는 구조적 변혁

많은 투자자가 LPU 등장으로 HBM 수요가 줄어들 것이라 오해할 수 있으나, 이는 오히려 HBM 이 Decode 단계의 비효율적인 부하에서 해방되어 Prefill 과 메모리 집약적 핵심 영역에 집중하게 만드는 구조적 최적화입니다. 즉, LPU 는 HBM 을 잠식하는 것이 아니라 AI 추론의 병목 현상을 완화하여 전체 시스템 효율을 높이는 동반자 역할을 하며, 이로 인해 프리미엄 메모리에 대한 수요는 더욱 강화될 것입니다. 2026 년 NAND 시장 규모 또한 3,000 억 달러에 달할 것으로 전망되며, Enterprise 및 데이터센터 수요가 소비자 부진을 상쇄하며 시장을 주도할 것입니다.

만약 AI 모델의 추론 속도가 예상보다 더디게 개선되거나 LPU 도입이 지연될 경우, 메모리 계층의 다층화 기대감이 일시적으로 꺾일 수 있습니다. 또한 소비자 시장 (PC, 모바일) 의 수요가 -1.8% 감소하는 등 비주류 부문의 부진이 지속되면 전체적인 가격 상승 속도가 둔화될 위험이 있습니다.