엔비디아가 한국 정부와 삼성전자, SK그룹, 현대차그룹, 네이버클라우드에 총 26만 장의 그래픽처리장치(GPU)를 공급하기로 했다. 최대 14조원에 달하는 규모다. 오픈AI, 구글, 메타, 아마존 등 세계적 빅테크 기업은 천문학적 자금을 쏟아부으며 엔비디아 GPU를 쓸어 담아왔다. 세계적으로 품귀 현상을 빚고 있는 GPU를 우리나라가 우선적으로 확보하고, 엔비디아의 인공지능(AI) 생태계에 동참하게 됐다는 점에서 의미가 있다.

없어서 못 산다 … AI 학습 필수품

대규모언어모델(LLM)이 수천억 개의 파라미터(매개변수)를 학습하는 과정은 상상을 초월하는 연산 능력을 요구한다. 전통적인 중앙처리장치(CPU)로는 쉽지 않은 이런 일을 가능케 하는 핵심 칩이 GPU다. GPU는 애초 3차원 게임 그래픽을 빠르게 처리하기 위해 개발됐다. 하지만 그 구조가 수천 개의 연산 코어를 병렬로 동시에 구동하는 데 최적화돼 있다는 점이 AI 혁명과 맞물리면서 기적을 낳았다. 방대한 데이터를 한꺼번에 처리하는 딥러닝 학습에 GPU는 마치 맞춤복처럼 들어맞았다. GPU가 ‘AI 시대의 석유’로 불리는 이유도 그래서다.

GPU 시장을 장악한 기업이 최근 한국을 방문한 젠슨 황 최고경영자(CEO)의 엔비디아다. 시장조사 업체 트렌드포스에 따르면 지난해 AI 학습용 고성능 GPU 시장에서 이 회사 점유율은 80%를 웃돈다. 엔비디아의 최신 GPU인 H100은 LLM 훈련에 사실상 필수품으로 자리 잡았다.

1993년 그래픽 칩을 만드는 중소기업으로 출발한 엔비디아가 세계 AI 생태계의 지배자로 우뚝 선 배경에는 2000년대 중반 GPU를 범용 연산장치로 확장하는 데 과감히 투자한 젠슨 황의 선견지명과 전략적 결단이 있다.

철옹성 같은 시장 지배력을 완성한 또 다른 핵심 무기는 ‘쿠다(CUDA)’라는 소프트웨어다. 2006년 엔비디아가 선보인 쿠다는 AI 개발자가 그래픽 기술을 몰라도 GPU의 연산력을 쉽게 활용할 수 있게 다리를 놓아줬다. 다른 경쟁사 칩을 쓰려면 쿠다를 대체할 새로운 시스템을 처음부터 구축해야 하는데, 이는 시간과 비용 측면에서 매우 어려운 일이다. 결국 AI 개발 전문가들은 자연스럽게 엔비디아의 GPU 생태계 안으로 흡수됐다.

‘엔비디아 패권’ 무너뜨리려는 도전자들

엔비디아는 AI 전용 슈퍼컴퓨터, 데이터센터 시스템, 산업별 AI 플랫폼 등의 사업을 강화하고 있다. 또 GPU 기반으로 실제 공장, 도시, 제품을 가상공간에 똑같이 구현하고 AI로 시뮬레이션하는 ‘디지털트윈’ 개념을 강조하고 있다. 제조, 로보틱스, 건축 등 전통 산업까지 침투하겠다는 이 회사의 장기 전략이 엿보이는 대목이다.

엔비디아의 아성에 도전하는 움직임도 활발하다. AMD는 가격 경쟁력과 오픈소스 체제를 강조한 MI300으로 H100에 맞서고 있다. 구글, 아마존, 마이크로소프트 등은 천문학적인 GPU 구매 비용을 절감하고 성능을 최적화하기 위해 자체 AI 칩 개발을 가속화하고 있다.