GPU를 사도 놀면 돈이 된다

김우영 의원이 2026년 10월 1일 공개한 수치는 과기정통부가 NIPA를 통해 민간 클라우드 서비스 제공자(CSP)의 GPU를 임차해 산업계·학계·연구계에 배분하는 사업의 운영 실적을 담고 있다. 2025년에는 총 620장이 배정됐고, 그중 443장(71.5%)이 가동률 50%를 밑돌았다. 141장은 50~80%, 36장은 80% 이상이었다. 2026년에도 478장 중 350장(73.2%)이 50% 미달, 84장이 50~80%, 44장이 80% 이상으로 구조가 거의 동일했다.

과기정통부는 이에 대해 "사용자 환경과 상황에 따라 가동률 변동성이 크다"고 설명했고, 저가동의 구체적 원인은 "세부 내용을 정리 중"이라 밝히지 않았다. 가동률 산정 기준에 대한 질문에도 명확한 답변을 내놓지 못했다. 정부가 직접 확보한 GPU는 이용자에게 모두 배분되어 남는 물량이 없으며, 연구 일정에 따라 배정 GPU가 일시적으로 멈출 수 있다는 해명도 함께 제시됐다(eiec.kdi.re.kr).

다만 이 수치의 1차 출처인 김우영 의원실 보도자료는 웹 검색에서 원문을 찾지 못했다. 위 가동률 분포는 시황 카드에 적힌 요약에 기반하며, 과기정통부나 NIPA의 공식 통계 페이지에서는 동일 항목을 확인하지 못했다. 국정감사 과정에서 원자료가 공개될 가능성이 있다.

정부의 GPU 지원은 크게 두 갈래로 운영된다. 첫째는 NIPA가 주관하는 'AI컴퓨팅자원 활용기반 강화(GPU 임차 지원)' 사업이다. B200 1,000장과 H100 1,000장을 11개월간 지원하며 예산은 1,576억원이다. 별도 '고성능컴퓨팅 지원사업'은 H100 600장을 4개월 지원하고 예산 146.8억원이다(nipa.kr). 2026년 3월에는 민간 CSP GPU 2천장 이상을 임차하고 정부 보유 GPU 추가 활용분 약 2천장 이상을 산업계에 공모로 배분하는 계획이 발표됐다(eiec.kdi.re.kr). 같은 달 5일에는 산학연 대상 GPU 4,224장 배정이 확정됐다. 산업계 1,288장, 학계 2,624장, 연구계 312장이다(korea.kr).

둘째는 2026년 6월 8일 확정된 '정부 GPU 확보·구축·운용지원 사업'이다. 총사업비 2조805억원으로, 네이버클라우드·삼성SDS·엘리스그룹 3개사가 참여 사업자로 선정됐다. 도입 물량은 베라루빈 2,016장, B300 7,688장 등 총 9,704장이다. 이 중 6,376장은 국가 AI 프로젝트와 산학연에 활용되고, B300 3,328장은 사업자 자체 클라우드 서비스와 AI 역량 강화에 쓰인다(eiec.kdi.re.kr). 연내 B300 서비스, 2027년 상반기 베라루빈 서비스 개시가 목표다.

두 트랙은 겹치지 않는다. 임차 사업은 단기·소규모 배분이고, 확보·구축 사업은 대규모 인프라 구축이다. 그러나 저가동 문제가 임차 트랙에서 먼저 드러나면서, 확보·구축 트랙의 활용 관리 체계에도 질문이 던져지고 있다.

엔비디아는 2025년 10월 31일 경주 APEC 정상회의에서 한국 정부와 삼성전자·SK그룹·현대차그룹·네이버클라우드에 총 26만장의 블랙웰 GPU를 2030년까지 우선 공급하겠다고 발표했다. 정부 몫은 최대 5만장, 기업별 5만장, 네이버클라우드 6만장이다. 국내 기존 보유량 약 6만5천장을 합치면 총 32만장 이상으로 세계 3위 규모가 된다(연합뉴스, 연합뉴스).

국산 NPU 트랙도 병행된다. 산업통상부는 2026년 2월 11일 리벨리온·퓨리오사AI 등 국내 NPU 기업과 간담회를 갖고 1조원 규모 K-온디바이스 AI반도체 개발 착수, 국산 NPU 공공부문 활용 확대를 제시했다(motir.go.kr). NIPA의 AI반도체 최적화 설계지원 사업은 총예산 267.3억원으로 모델 맞춤형 설계(7개 과제, 69.3억원)와 설계 IP 활용(10개 과제, 198억원)을 지원한다(nipa.kr).

NPU 활용 단계는 모델 선정·분석·변환·최적화·추론서비스의 5단계로 관리된다. 시황 카드에 따르면 2025년 NPU 201장 중 추론서비스 단계는 26장(약 13%), 모델 변환 89장, 최적화 37장이었다. 2026년 105장은 모델 선정 23장, 분석 69장, 변환 13장으로 집계됐고 최적화·추론 단계 실적은 미공표다. 과기정통부와 NIPA는 GPU 수요가 NPU로 전환된 사례와 물량을 따로 관리하지 않는다고 밝혔다. 이 단계별 수치는 의원실 자료에 기반하며 1차 출처를 독립 확인하지 못했다.

GPU 임차의 경제성은 가동률에 직결된다. 월 비용 1,488,889원 기준 시간당 실효 원가는 가동률 20%일 때 10,340원, 80%일 때 2,585원으로 4배 차이가 난다(assetmanualpro.com). B200 서버는 임차비용 자체보다 가동률 확보가 경제성을 좌우한다는 분석도 있다(kbthink.com). 정부가 임차한 GPU의 70% 이상이 가동률 50% 미만이라면, 납부하는 임대료의 상당 부분이 미사용 자원에 대한 고정비로 새고 있다는 뜻이다.

반면 민간 하이퍼스케일러는 정반대다. 오라클은 2026년 9월 850MW 규모(30만개 이상) GPU 클러스터의 가동률이 97.9%라고 밝혔다(mt.co.kr). 갱신 시점이 도래한 GPU 용량이 기존 계약보다 20% 높은 가격에 재판매될 정도로 수요가 초과인 상황이다(mt.co.kr). 같은 칩을 같은 시기에 빌리되, 민간은 98%를 쓰고 정부는 50%도 못 채운다면 문제는 칩이 아니라 운용 체계다.

온프레미스와 클라우드의 비용분기점 분석을 보면 하루 4.3시간(가동률 약 18%)만 사용해도 직접 구매가 경제적이라고 제시된다(gpnix.co.kr). 정부 임차 GPU가 50% 미만 가동률에 머무는 현상이 반복되면, 임차보다 직접 구축이 합리적이라는 정책 논거가 약화된다. 2027년 예산이 대폭 증액된다는 시황 카드 수치가 사실이라면, 저가동 해명 없이 지출을 늘리는 구조에 대한 감사원·국회 심의 부담이 커질 수 있다.

저가동의 원인으로 연구 일정과 배정량 차이가 거론되지만, 구조적 공백이 더 크다. 과기정통부는 배정 뒤 일시 미사용인 GPU와 아직 배정되지 않은 유휴 물량을 구분해야 한다고 설명했으나, 가동률 산정 기준 자체를 명확히 제시하지 못했다. 회수·재배정 실적도 공개되지 않았다.

인력 문제가 핵심 변수다. 시황 카드에 인용된 SPRi 조사에서 AI 기업 2,354곳의 81.9%가 인력 부족에 동의했고, AI 인력 부족 애로 점수는 4.25점, 인프라·컴퓨팅 부족은 3.62점이었다. 이 수치는 1차 출처를 확인하지 못했으나, 방향성은 전문가 진단과 일치한다. 건국대 김두현 교수는 "GPU 양만 보면 충분하지만 전기료·운영비·설비 비용까지 고려해야 자원이 놀지 않는다"고 지적했고, 가천대 이원준 원장은 "GPU만 준다고 학부생·외국인 연구 인력으로 탁월한 AI 연구가 이뤄질지 회의적"이라고 말했다(연합뉴스).

GPU를 NPU로 전환하는 관리 체계도 미비하다. 과기정통부와 NIPA는 GPU 수요가 NPU로 전환된 사례와 물량을 따로 관리하지 않는다고 밝혔다. 학습에는 GPU, 추론에는 NPU를 적용하는 이원 구조가 설계돼 있음에도(nabo.go.kr), 전환 실적을 추적하지 않으면 저가동 GPU를 NPU로 대체할 기회를 놓친다.

김우영 의원은 국정감사에서 낮은 가동률의 원인, 회수·재배정 실적, 실제 이용 목적, 국산 NPU로 대체·보완 가능한 업무를 점검할 계획이다. 과기정통부가 가동률 산정 기준과 저가동 원인을 아직 공개하지 않은 상태이므로, 국감 자료 제출이 첫 공식 검증대가 된다.

2027년 GPU 확충 예산 심의가 11~12월 국회에서 진행된다. 시황 카드에 따르면 2026년 2조841억원에서 2027년 3조8,500억원으로 증액된 것으로 적혀 있으나, 이 수치는 1차 출처에서 확인하지 못했다. 2026년 6월 확정된 확보·구축 사업 2조805억원(eiec.kdi.re.kr)과 임차 사업 1,576억원(nipa.kr)의 합산 규모를 감안하면, 3조8,500억원은 상당한 증액이다. 저가동이 해소되지 않은 상태에서 예산이 늘면 "지출은 늘고 활용은 안 늘어난다"는 비판이 커진다.

2027년 상반기 베라루빈 서비스 개시(eiec.kdi.re.kr)와 국가AI컴퓨팅센터 1만5천장 추가 확보(연합뉴스) 일정이 맞물린다. 이 시점에 임차 GPU 저가동 문제가 재배정·회수 체계 없이 반복되면, 대규모 구축 사업의 활용 리스크로 전이된다. 엔비디아 26만장 공급의 정부 몫 5만장 도입이 2027~2028년에 집중되므로(연합뉴스), 그 전에 관리 체계를 갖추지 못하면 물량만 쌓이는 구조가 고착될 수 있다.