AI 추론 시대, CPU가 다시 뜨는 이유｜GPU 다음 수혜주는?

AI 투자는 왜 지금까지 GPU 중심이었을까?

AI 투자 이야기가 나오면 대부분 가장 먼저 엔비디아(NVIDIA)를 떠올립니다. 실제로 AI 붐이 시작된 이후 몇 년간 GPU 수요는 폭발적으로 증가했고, 엔비디아 주가는 그 흐름을 고스란히 반영했습니다.

이유는 명확합니다. AI 모델을 처음 만들고 훈련시키는 학습(Training) 단계에서는 수백억 개의 파라미터를 조정하는 대규모 병렬 연산이 필요합니다. 예를 들어 GPT나 클로드 같은 대형 언어모델을 학습시킬 때는 수천 개의 GPU가 동시에 가동됩니다.

그런데 최근 들어 조금 다른 흐름이 감지되고 있습니다. AI 산업의 중심이 ‘얼마나 크게 학습시키느냐’에서 ‘얼마나 효율적으로 쓰느냐’로 이동하고 있다는 것입니다.

AI 추론이란 무엇인가?

AI에는 크게 두 단계가 있습니다. 하나는 AI를 ‘가르치는’ 학습 단계, 다른 하나는 가르친 AI가 실제로 ‘일하는’ 추론(Inference) 단계입니다.

지금 이 순간 우리가 챗봇에 질문을 하고 답변을 받는 것, 검색엔진이 AI로 결과를 요약해 보여주는 것, 스마트폰 카메라가 실시간으로 피사체를 인식하는 것 모두가 추론입니다.

AI 서비스가 일상에 깊이 스며들수록 추론 요청의 횟수는 기하급수적으로 늘어납니다. 이때 중요한 것은 단순 연산 속도만이 아니라 전체 시스템을 얼마나 효율적으로 조율하느냐입니다. 그리고 이 역할을 하는 것이 바로 CPU입니다.

CPU와 GPU, 뭐가 다를까?

자주 비교되지만 막상 차이를 설명하기 어려운 두 부품입니다. 가장 직관적인 비유는 이렇습니다.

AI 서버는 이 두 부품이 함께 작동합니다. 사용자가 챗봇에 질문을 입력하면, CPU가 요청을 받아 정리하고 → GPU에 연산을 넘기고 → 결과를 받아 다시 정리해 출력하는 과정이 반복됩니다.

AI 추론 밸류체인: 사용자 요청이 답변이 되기까지

AI가 답변을 내놓기까지 하나의 요청이 서버 안에서 어떤 단계를 거치는지 흐름으로 살펴보면 각 부품과 인프라가 왜 중요한지 더 명확히 보입니다.

이 흐름에서 핵심은 GPU만 좋다고 빠른 AI 서비스가 되지 않는다는 점입니다. 각 단계가 균형 잡혀야 전체 처리 속도와 비용 효율이 올라갑니다.

AI 경쟁의 중심이 바뀌고 있다

AI 산업의 경쟁 문법이 달라지고 있습니다. 예전에는 “얼마나 크고 똑똑한 모델을 만드느냐”가 핵심이었다면, 지금은 “만들어진 AI를 얼마나 빠르고 싸게 실제 서비스에 적용하느냐”가 점점 중요해지고 있습니다.

클라우드 기업들은 AI 서버의 전력 비용이 급증하면서 전력 효율이 좋은 CPU 아키텍처에도 관심을 넓히고 있습니다. “GPU를 얼마나 많이 꽂느냐”에서 “전체 시스템을 얼마나 효율적으로 돌리느냐”로 중심이 이동하는 것입니다.

CPU 관련 기업은 어디를 봐야 할까?

AI 추론 시대의 CPU 수혜 논의에서 자주 언급되는 기업들입니다. 다만 각 기업의 사업 구조와 AI 수요와의 연결 강도는 서로 다릅니다.

국내 투자자 입장에서는 인텔·AMD·Arm 외에도 AI 서버용 메모리 수요가 늘어나는 흐름에서 삼성전자·SK하이닉스를 함께 살펴볼 수 있습니다.

투자하기 전 반드시 확인할 것들

“CPU 관련주가 뜬다”는 이야기는 흥미롭지만, 기대감과 실제 실적 사이에는 항상 간극이 있습니다. 다음 체크 포인트를 반드시 함께 살펴보세요.

자주 묻는 질문 FAQ