“잠자던 거인이 완전히 깨어났다.”

한동안 인공지능(AI) 경쟁에서 “감 떨어졌다”는 소리를 듣다가 전방위 추격전에 나선 구글에 대해 블룸버그통신이 내린 한 줄 평이다. 구글이 지난달 내놓은 최신 AI 챗봇 ‘제미나이3’는 추론 성능, 코딩 실력 등에서 오픈AI의 최신 모델인 ‘챗GPT 5.1’보다 낫다는 호평을 받고 있다. 투자자들이 특히 주목하는 건 구글이 자체 개발한 AI 가속기인 텐서처리장치(Tensor Processing Unit, TPU)다. 제미나이3는 엔비디아의 그래픽처리장치(GPU) 대신 TPU를 기반으로 하고 있다.

‘만능 칩’ GPU vs ‘특화 칩’ TPU

GPU는 애초 게임 그래픽 처리용 칩으로 개발됐다가 복잡한 AI 연산을 동시에 빠르게 처리할 수 있다는 점이 부각되면서 ‘만능 칩’으로 떠올랐다. 엔비디아가 세계 1위 시가총액 기업에 등극한 것은 GPU 시장의 90% 안팎을 장악한 덕분이었다. 반면 TPU는 AI의 핵심 연산만 빠르게 처리하도록 만든 ‘특화 칩’이라 할 수 있다. 범용성은 상대적으로 낮아 GPU만큼 다재다능하진 않지만, 가격이 절반 이하인 데다 전력을 덜 먹는다. 구글은 수천 개의 TPU 칩에 슈퍼컴퓨터와 초고속 통신망을 연결해 초대형 모델인 제미나이3를 효율적으로 훈련시키는 데 성공했다.

TPU는 어느 날 갑자기 뚝딱 나온 물건이 아니다. 구글은 이 칩을 2015년 처음 선보인 이후 검색·유튜브 등 자체 서비스에 활용해왔으며, 올해 7세대 제품까지 나왔다. 엔비디아의 핵심 고객사이기도 한 구글은 TPU 성능을 꾸준히 개선하며 외부에 판매하는 방안도 모색해왔다. 최근 앤스로픽에 최대 100만 개의 TPU를 공급하기로 한 데 이어 메타 데이터센터에 TPU가 들어갈 수 있다는 보도가 나왔다.

AI에 사활을 걸고 있는 빅테크들은 GPU를 최대한 많이 확보하기 위해 돈을 싸들고 엔비디아로 몰려가는 상황이었다. 이런 가운데 구글이 GPU 의존도를 크게 낮춘 성공 사례를 만들어내자 업계 전반에 파장이 일고 있다. 이미 자체 칩 개발에 뛰어든 메타, 아마존, 오픈AI 등도 개발 속도를 끌어올릴 것으로 보인다. 반도체업계 관계자는 “TPU가 GPU를 완전히 대체할 가능성에는 물음표가 따라붙는다”면서도 “자체 트래픽을 해결하거나 너무 비싼 GPU의 비용 문제를 해결하는 대안이 될 수 있다”고 전했다.

“완벽 대체는 불가능, 공존할 것” 의견도

이런 경쟁은 국내 반도체 기업에 ‘호재’라는 분석이 많다. GPU든 TPU든 한국 회사에서 많이 생산하는 고대역폭메모리(HBM)가 들어가기 때문이다. UBS 분석에 따르면 SK하이닉스는 구글의 7세대 TPU에 HBM을 납품하고 있으며, 다음 제품에도 공급이 예정돼 있다. 삼성전자는 스마트폰 운영체제를 연결고리 삼아 구글과 오랜 협력 관계를 맺고 있다. HBM에서 추가 수주 기회를 얻을 수 있다는 예상이 나온다. 반도체 업계 관계자는 “엔비디아로서는 AI 칩 시장에 구글이라는 강력한 경쟁자가 생기는 것이지만 메모리반도체 업체에는 긍정적인 일”이라고 말했다.