“지금 그래픽처리장치(GPU)는 희토류나 마찬가지입니다.”

미국 인공지능(AI) 스타트업 도큐가미의 진 파올리 대표는 “우수한 인재나 투자금보다 GPU를 확보하는 것이 더 절박한 업무”라고 했다. ‘챗GPT’와 같은 생성형 AI를 만들려면 방대한 규모의 데이터 연산을 빠르게 실행하는 GPU가 반드시 필요하기 때문이다. <뉴욕타임스>는 AI 서비스에 필수적인 GPU를 확보하기 위해 기업들이 특단의 조처에 나서고 있다고 보도했다. 벤처 투자자가 스타트업에 ‘돈’ 대신 ‘칩’을 대주는 진풍경도 벌어지고 있다. 유럽계 벤처캐피털 인덱스벤처스는 오라클과 협약을 맺고 자신들이 투자한 업체에 엔비디아의 H100·A100 칩을 무상으로 공급하기 시작했다.

데이터 병렬 연산 가능, 생성 AI 학습에 딱

GPU는 ‘그래픽처리장치’라는 이름 그대로 게임, 동영상 등 그래픽 연산에 특화한 프로세서다. 컴퓨터에서 픽셀 단위의 그래픽 정보를 빠르게 처리해 결과값을 모니터에 출력하는 역할을 한다. 1990년대 첫 등장 이후 오랫동안 게임용 부품으로 여겨졌던 GPU는 이제 ‘AI 칩’으로 위상이 완전히 달라졌다.

AI 시대의 도래는 GPU의 발전 덕분이라고 해도 과언이 아니다. 데이터를 순차적으로 처리하는 중앙처리장치(CPU)와 달리 GPU는 여러 데이터를 동시에 처리하는 병렬 연산이 가능한 점이 특징이다. 엔비디아에 따르면 챗GPT 수준의 서비스를 운영하려면 CPU 서버는 960개를 돌려야 하지만, GPU 서버면 2개로 충분하다.

미국 기업 엔비디아는 세계 GPU 시장의 90% 이상을 장악하고 있다. 게임용 그래픽 카드로 잘 알려진 이 회사는 올해 상반기 주가가 190% 급등했다. 챗GPT 개발사 오픈AI가 출시한 대규모언어모델(LLM) GPT-4에는 엔비디아의 A100이 1만 개 이상 쓰이고 있다. 성능이 더 좋은 고사양 제품인 H100은 공급이 수요를 따라가지 못해 유명 기업들이 조금이라도 더 확보하려고 혈안이 돼 있는 상황이다.

지난해 미국 정부는 10월 AI, 슈퍼컴퓨터 등에 사용되는 반도체 칩에 대한 수출을 제한하는 내용 등을 담은 수출 통제 조치를 발표했다. 한 달 뒤 엔비디아는 기존 제품보다 성능이 떨어지지만 수출 규제에는 걸리지 않는 ‘중국 수출용 칩’ A800을 개발했다.

공급이 수요 못 따라가 … 中 기업 ‘쟁여두기’ 혈안

<파이낸셜타임스>에 따르면 중국의 빅테크 기업들은 엔비디아에서 올해 10억 달러(약 1조3000억 원) 규모의 A800을 받아 갈 예정이다. 틱톡 운영업체 바이트댄스를 비롯해 바이두, 텐센트, 알리바바 등이 모두 포함돼 있다. 이들은 내년에도 40억 달러(약 5조4000억 원)어치의 구매 계약을 맺어 둔 상태다. 미국이 A800 수출까지 막을 수 있다고 우려해 사재기에 나섰다는 분석이 나온다. 최근에는 사우디아라비아와 아랍에미리트(UAE)도 엔비디아에서 수천 개의 GPU 칩을 사 들인 것으로 전해졌다.