AI 추론의 대격변, 기지국이 데이터센터가 되는 순간

지금 우리 주식시장의 화두는 단연 AI 인프라지만, 대부분의 투자가 거대한 데이터센터와 GPU 구매에 쏠려 있습니다. 하지만 AI 에이전트의 등장과 실시간 영상 처리 수요가 폭발하면서, 기존 클라우드 중심의 구조로는 한계에 부딪히고 있습니다. 특히 자율주행 로봇이나 AR 글래스 같은 엣지 디바이스가 늘어나면, 데이터를 서버로 보내고 다시 받아오는 '업링크' 트래픽이 기하급수적으로 늘어날 텐데 현재 통신망으로는 이를 감당하기 어렵습니다. 이 때문에 지연 시간을 최소화하고 실시간 추론을 가능하게 할 새로운 인프라 패러다임이 절실한 시점입니다.

핵심은 바로 'AI-RAN'이라는 기술의 등장으로, 기지국 자체가 작은 데이터센터처럼 변신하는 것입니다. 엔비디아가 주도하며 통신사들이 기지국에 GPU와 AI 연산 장비를 탑재해, 데이터를 멀리 보낼 필요 없이 현장에서 즉시 처리하게 만듭니다. 실제로 생성형 AI 트래픽에서 업링크 비중이 29%까지 올라갔고, 영상 기반 AI 에이전트나 자율주행에서는 이 비율이 50%에 육박할 것으로 예상됩니다. AT&T를 비롯한 글로벌 통신사들이 Open RAN을 적극 도입하며 기존 장비사의 독점 구조를 깨고, 기지국 단에서 AI 처리가 이루어지는 생태계로 빠르게 전환되고 있습니다.

비싼 GPU 대신 CPU와 NPU의 시대가 온다

이 산업의 가장 큰 반전은, 실시간 추론을 위해 무조건 비싼 GPU만 쓰던 시대는 끝난다는 점입니다. 엣지 디바이스와 기지국에서 처리해야 하는 양이 늘어나면서, 가격 대비 효율이 좋은 CPU와 NPU(신경망처리장치) 의 수요가 급격히 확대될 것입니다. 특히 자율주행이나 로봇 제어처럼 밀리초 단위의 지연도 허용되지 않는 환경에서는 온디바이스 AI 처리가 필수인데, 이때 ARM 생태계 기반의 칩셋들이 핵심 역할을 하게 됩니다. 아직 시장이 이 구조적 변화를 완전히 반영하지 못했고, 통신망과 AI 연산이 융합되는 새로운 수익 모델이 만들어질 것입니다.

가장 큰 리스크는 자율주행 로봇이나 완전자율주행 상용화 속도가 예상보다 더디게 진행되어 AI-RAN 의 실제 매출 발생이 지연될 수 있다는 점입니다. 또한 엔비디아의 GPU 중심 전략과 통신사들의 Open RAN 도입 속도 차이로 인해 기술 표준화 과정에서 일시적인 투자 위축이 발생할 수도 있습니다.