구글 TPU가 엔비디아 주가에 영향을 줄 수 없는 이유 | GPU와 TPU의 차이점

TPU는 갑자기 등장한 신기술이 아닙니다. 구글은 이미 2016년부터 자체 데이터 센터에서 TPU를 사용해 왔습니다. 이 글에서는 구글의 TPU가 엔비디아 GPU의 판매량에 영향을 줄 수 없는 이유에 대해 정리했습니다.


1. GPU와 TPU, 뭐가 다를까?

AI를 돌리려면 엄청나게 많은 계산이 필요합니다. 이 계산을 빠르게 처리하는 게 GPU와 TPU입니다. 둘 다 비슷해 보이지만, 완전히 다른 도구입니다.

1.1. GPU = 범용 도구

GPU(그래픽 처리 장치)는 원래 게임 화면을 부드럽게 만들기 위해 개발되었습니다. 화면의 수백만 개 픽셀을 동시에 계산해야 했기 때문에, 수천 개의 작은 코어가 병렬로 작동하는 구조로 설계되었습니다.

이 구조가 핵심입니다. 각 코어는 독립적으로 서로 다른 명령을 실행할 수 있습니다. 마치 수천 명의 직원이 각자 다른 업무를 동시에 처리할 수 있는 것과 같습니다.

엔비디아는 2006년 CUDA를 출시하면서 이 병렬 구조를 게임 이외의 모든 계산에 활용할 수 있게 만들었습니다. 개발자들은 CUDA를 통해 GPU 코어에 원하는 작업을 자유롭게 명령할 수 있습니다. AI 학습을 시킬 수도 있고, 기후 시뮬레이션을 돌릴 수도 있고, 금융 모델을 계산할 수도 있습니다.

예를 들어 테슬라는 자동차 충돌 테스트를 실제로 하는 대신, GPU로 가상 시뮬레이션을 돌립니다. 헐리우드 영화의 폭발 장면도 GPU가 만듭니다. 전 세계 대학 연구실에서 신약 개발이나 기후 변화 예측도 GPU로 합니다. 은행에서는 GPU로 수백만 가지 주식 시뮬레이션을 순식간에 계산합니다.

엔비디아 주가 (2025.12.02)
엔비디아 주가 (2025.12.02)

1.2. TPU = 특화 도구

TPU(텐서 처리 장치)는 구글이 AI 계산만을 위해 특별히 만든 칩입니다. 여기서 중요한 차이가 있습니다.

TPU는 특정 용도 전용 집적회로입니다. GPU처럼 프로그래밍 가능한 범용 코어가 아니라, 행렬 곱셈 연산만을 위한 고정된 회로가 칩에 직접 새겨져 있습니다.

AI의 핵심 계산은 결국 거대한 행렬(숫자 표)끼리의 곱셈입니다. 예를 들어 ChatGPT가 단어를 예측할 때, 내부적으로는 수백억 개의 숫자가 담긴 행렬들을 곱하고 있습니다. TPU는 이 계산만 극도로 빠르게 처리하도록 하드웨어 회로 자체가 최적화되어 있습니다.

하지만 이것이 동시에 한계입니다. 회로가 고정되어 있기 때문에, 행렬 곱셈 이외의 작업은 할 수 없습니다. 게임도 안 되고, 과학 시뮬레이션도 안 되고, 영화 제작도 안 됩니다. 오직 AI 계산만 가능합니다.

또한, TPU는 주로 구글 클라우드에서만 사용됩니다. 최근에 구글이 외부 기업에도 팔기 시작했지만, 여전히 제한적입니다. 많은 기업들이 보안이나 비용 때문에 자체 서버실에 칩을 설치하려고 하는데, TPU는 자체 서버실에 설치할 수 없습니다.

그리고 대부분의 AI 프로그램은 GPU용으로 만들어져 있어서, TPU로 돌리려면 프로그램을 수정해야 하고 그 과정에서 속도가 느려질 수 있습니다.

알파벳(구글) 주가 (2025.12.02)
알파벳(구글) 주가 (2025.12.02)

GPU, TPU 비교 표

구분GPU (엔비디아)TPU (구글)
아키텍처프로그래밍 가능한 범용 코어텐서 전용 회로
사용처범용AI 계산 전용
어디서 쓰나모든 클라우드, 자체 서버주로 구글 클라우드

2. 엔비디아의 진짜 무기는 소프트웨어

많은 사람들이 엔비디아의 강점을 GPU 칩 자체라고 생각합니다. 하지만 진짜 무기는 CUDA(쿠다)라는 소프트웨어 생태계입니다.

2.1. CUDA(쿠다)란?

스마트폰 시장을 떠올려보면, 아이폰이 성공한 이유가 뭘까요? 하드웨어도 좋지만, 앱스토어에 수백만 개의 앱이 있기 때문입니다. 개발자들이 아이폰용 앱을 만들고, 사용자들은 그 앱을 쓰고, 다시 개발자들이 더 많은 앱을 만듭니다.

CUDA도 마찬가지입니다. 전 세계 500만 명 이상의 AI 연구자와 개발자들이 CUDA를 사용해서 코드를 작성합니다. 대학교에서도 CUDA를 가르치고, 기업들도 CUDA로 개발합니다. 사실상 업계 표준이 된 셈이죠.

예를 들어 ChatGPT를 만든 OpenAI도 CUDA 기반으로 개발했습니다. 만약 TPU로 옮기려면 수개월 동안 코드를 완전히 다시 작성해야 합니다.

2.2. 왜 다른 칩으로 바꾸기 어려울까?

예를들어, 10년 동안 Windows 컴퓨터로 일해왔고, 엑셀, 워드, 각종 프로그램을 다 익숙하게 쓰는 사람이 갑자기 내일부터 Mac PC를 써야한다면, 모든 걸 새로 배워야 하고, 기존 파일들도 호환이 안 될 수 있습니다.

AI 개발자들도 마찬가지입니다. 수년간 GPU와 CUDA로 작업해왔는데, TPU로 바꾸려면:

  • 기존 코드를 전부 다시 작성해야 합니다
  • 개발 기간이 몇 달 늘어납니다
  • 문제가 생겨도 해결책을 찾기 어렵습니다

이런 전환 비용이 엄청나기 때문에, 기업들은 쉽게 GPU를 포기하지 못합니다.


3. GPU 판매량에 영향이 없는 이유

3.1. 왜 메타는 TPU를 샀을까?

간단합니다. GPU가 부족해서입니다.

엔비디아의 H100, H200 같은 최신 GPU는 너무 인기가 많아서 주문해도 몇 달을 기다려야 합니다. 메타 같은 대기업은 AI 서비스를 멈출 수 없습니다. 페이스북, 인스타그램에서 하루에 수억 명이 AI 기능을 씁니다. GPU가 도착할 때까지 기다릴 수 없죠.

그래서 TPU를 임시 대안으로 사용하는 겁니다.

3.2. TPU는 대안일 뿐

대기업들은 한 회사에만 의존하는 걸 싫어합니다. 만약 엔비디아가 갑자기 GPU를 못 준다면? 메타의 AI 서비스가 마비될 수 있습니다.

그래서 TPU를 보험처럼 사는 겁니다. 주력은 여전히 GPU지만, 만일의 상황을 대비해 TPU도 갖추는 거죠.

3.3. GPU는 계속 사고 있습니다

메타는 TPU를 사면서도 2025년에 수십만 대의 엔비디아 GPU를 구매할 계획입니다.

왜일까요? TPU가 특정 작업에는 효율적일지 몰라도, 대부분의 AI 작업은 여전히 GPU가 최고이기 때문입니다. 앞서 말한 CUDA 생태계, 범용성, 호환성 때문이죠.

TPU 구매가 늘어난 건 전체 파이가 커진 결과입니다. GPU 판매량을 빼앗는 게 아니라, 시장 전체가 커진 거죠.


4. 계속 발전 중인 엔비디아 제품

4.1. 매년 더 좋아지는 GPU

엔비디아는 Blackwell Ultra, Vera Rubin 같은 차세대 GPU를 계속 개발합니다. 2026년에도 새 모델이 나옵니다.

그리고 GPU끼리 연결하는 NVLink라는 기술로 수천 개의 GPU를 빠르게 연결합니다.

4.2. 칩만 파는 게 아닙니다

엔비디아는 이제 완제품을 팝니다. DGX SuperPOD라는 제품은 수백, 수천 개의 GPU가 이미 연결되어 나옵니다.

DGX SuperPOD
DGX SuperPOD

예전에는 엔진만 팔았다면 이제는 완성된 자동차를 파는 셈입니다. 기업들은 복잡한 조립 과정 없이 바로 쓸 수 있습니다.

소프트웨어도 계속 개선합니다. 2025년에는 Omniverse가 AI 데이터센터를 쉽게 관리할 수 있는 운영체제로 진화했습니다. GPU 하드웨어뿐 아니라 소프트웨어 생태계도 계속 확장하는 거죠.


5. 결론: TPU는 GPU 판매량에 영향을 주지 못합니다

1) CUDA 생태계가 너무 강력합니다

전 세계 500만 개발자가 CUDA를 씁니다. TPU로 바꾸려면 수개월의 작업과 막대한 비용이 듭니다.

2) GPU는 범용이고, TPU는 특화 도구입니다

GPU는 AI, 게임, 과학연구, 자동차 시뮬레이션 등 어디든 쓰입니다. TPU는 AI에만 쓸 수 있고, 그마저도 구글 클라우드에 제한적입니다.

3) 빅테크 업체들의 TPU 구매는 대안일 뿐입니다.

메타는 TPU를 사면서도 2025년에 수십만 대의 엔비디아 GPU를 구매합니다. TPU는 GPU 부족 때문에 임시로 쓰는 보조 자원일 뿐입니다. 주력은 여전히 GPU입니다.

4) AI 시장 전체가 커지고 있습니다

TPU 판매가 늘어난 건 GPU를 빼앗아서가 아니라, AI 시장 전체가 폭발적으로 성장하기 때문입니다.

5) 엔비디아는 계속 앞서갑니다

엔비디아는 매년 새로운 GPU를 출시하고, 완제품 솔루션을 제공하며, 소프트웨어 생태계를 확장합니다. 경쟁자들이 따라잡기 전에 더 앞서갑니다.

따라서 TPU가 GPU 판매량에 미치는 영향은 거의 없으며, 엔비디아의 시장 지배력과 주가는 여전히 견고할 것입니다.

구글의 TPU나 다른 경쟁 칩이 나온다고 해서 엔비디아가 흔들릴 일은 없습니다. 오히려 AI 시장이 커질수록 엔비디아도 함께 성장할 것입니다.


참고 영상

구글 TPU, 진짜 쌀까…? NVIDIA가 더 싸던데? 하이퍼스케일과 스타트업의 다른 계산법

추천글