엔비디아와 ARM 이 CPU 를 팔기 시작한 이유, AI Agent 시대의 숨겨진 대박

과거 AI 붐은 GPU 가 모든 것을 지배했지만, 이제 게임의 판도가 완전히 바뀌고 있습니다. 생성형 AI 의 단순 응답을 넘어, 외부 도구를 호출하고 스스로 결정을 내리는 'AI Agent' 시대가 본격화되면서 연산의 핵심 병목이 GPU 에서 CPU 로 이동하고 있기 때문입니다. 엔비디아와 ARM 이 각각 'Vera CPU'와 'AGI CPU'를 랙 단위로 판매하겠다고 선언한 것은 단순한 제품 출시가 아닌, 데이터센터 아키텍처의 근본적 변화를 알리는 신호탄입니다.

구체적인 수치를 보면 그 변화의 규모가 압도적입니다. 엔비디아의 'Vera Rubin Pod'은 기존 NVL72 랙 대비 CPU 비중을 33% 에서 49% 로 대폭 확대했으며, GPU 1,152 개당 CPU 를 1,088 개나 탑재하는 1:1 비율로 설계되었습니다. ARM 은 더욱 과감하게 랙 당 최대 336 개의 CPU 와 1PB(페타바이트) 규모의 DRAM 을 탑재한 'AGI CPU'를 공개하며, 2030 년까지 데이터센터 CPU 시장 규모가 1,000 억 달러에 달할 것으로 전망했습니다. 이는 ARM 의 2025 년 연간 매출 46.7 억 달러 대비 5 년 내 150 억 달러의 매출을 창출하겠다는 야심 찬 목표이기도 합니다.

GPU 만 믿던 시대는 끝났다, CPU 가 클러스터 효율의 새로운 지배자가 된다

이 산업의 가장 큰 반전은 'CPU 의 역할 재정의'에 있습니다. 과거 CPU 는 GPU 를 보조하는 단순 관리자에 불과했으나, AI Agent 가 DB 접근, 툴 실행, 재추론 등 다층적인 워크로드를 처리해야 하는 현재에는 CPU 가 클러스터 전체의 효율을 좌우하는 핵심 엔진이 되었습니다. 엔비디아조차 인텔이나 AMD 와 달리 CPU 를 개별 판매하지 않다가 2026 년 GTC 에서 공식적으로 CPU 판매를 시작하고, 메타와 Vera CPU 대량 공급 계약을 체결한 것은 이 분야의 중요성이 급격히 부각되었음을 증명합니다. 아직 시장이 이 구조적 변화를 완전히 반영하지 않았기에, GPU 와 메모리 다음으로 주목받아야 할 'CPU 밸류체인'의 폭발적 성장이 예상됩니다.

가장 큰 리스크는 AI Agent 상용화 속도가 예상보다 더디게 진행되어 CPU 수요가 즉각적으로 폭발하지 않을 가능성입니다. 또한 엔비디아와 ARM 이 주도하는 새로운 아키텍처에 기존 x86 기반 인텔이나 AMD 가 빠르게 대응하여 시장 점유율을 방어할 경우, 신규 진입 기업들의 성장세가 둔화될 수 있습니다.