[조선규 칼럼] AI 시대, 진짜 돈은 인프라로 간다

모델은 쇼윈도, 돈은 인프라로 갑니다. 거대언어모델 너머의 거대한 시장, AI 인프라 밸류체인의 구조적 재편, 모델 경쟁의 이면에서, 인프라가 산업의 본체가 되고 있습니다. 

생성형 AI를 둘러싼 대중의 시선은 대개 새로운 모델의 성능에 머뭅니다. 어떤 모델이 더 높은 벤치마크 점수를 기록했는지, 어느 서비스가 더 자연스러운 문장을 생성하는지, 누가 AGI에 더 가까워졌는지가 헤드라인을 장식합니다. 그러나 산업의 실제 자본 배분은 점점 다른 곳으로 이동하고 있습니다. 

지금 시장이 더 뜨겁게 반응하는 대상은 모델의 화려함 그 자체가 아니라, 그 모델을 지속적으로 학습시키고 배포하며 수익화할 수 있게 만드는 물리적 인프라의 구축 능력입니다. 모건 스탠리는 AI가 더 이상 하나의 기술 테마가 아니라 산업적 구축의 단계로 진입했다고 평가하면서, 2028년까지 전 세계적으로 약 3조 달러에 달하는 AI 관련 인프라 투자가 이어질 수 있다고 제시했습니다. 이는 AI의 본질이 소프트웨어 경쟁에만 있지 않고, 대규모 설비투자와 공급망 운영 역량으로 이동하고 있음을 뜻합니다.

이 변화는 단순한 투자 확대가 아닙니다. AI 산업의 가치가 창출되는 방식 자체가 달라지고 있다는 신호입니다. 과거의 디지털 산업이 주로 코드, 플랫폼, 네트워크 효과에 의해 확장되었다면, 현재의 AI 산업은 거기에 더해 첨단 반도체, 패키징, 광대역 네트워크, 냉각 시스템, 전력망, 데이터센터 부동산, 금융 구조화까지 함께 맞물려야만 성장할 수 있는 구조로 바뀌고 있습니다. 다시 말해, 오늘의 AI는 알고리즘 산업이면서 동시에 전력·설비·토목·통신·금융이 결합된 종합 인프라 산업입니다. 이 점을 놓치면 AI 산업의 진짜 수혜 구간과 병목 구간을 함께 보지 못하게 됩니다.

첫 번째 병목은 여전히 반도체입니다. 그러나 문제는 칩 한 개가 아니라 패키징된 시스템 입니다 AI 인프라 가치사슬의 출발점은 당연히 반도체입니다. 하지만 여기서 중요한 것은 단순히 GPU를 누가 설계하느냐가 아닙니다. 실제 산업 병목은 설계, 생산, 메모리 결합, 패키징, 장비 공급이 맞물리는 복합 공정 체계에서 발생합니다. 즉, AI 칩 산업은 더 이상 좋은 칩을 설계하면 끝나는 사업이 아닙니다.

우선될 첨단 칩 생산의 기반에는 파운드리와 노광 장비가 있습니다. ASML은 자사의 EUV(극자외선) 리소그래피가 13.5nm 파장의 빛으로 최첨단 칩의 가장 복잡한 레이어를 인쇄하며, 고성능·고집적 반도체 생산에 필수적이라고 설명합니다. ASML에 따르면 EUV는 7nm·5nm·3nm급 로직과 메모리 칩의 대량 생산을 가능하게 했고, 최신 High-NA EUV는 2nm 이후 세대까지 지원하는 방향으로 전개되고 있습니다. 이는 AI 반도체 경쟁력이 개별 칩 설계사의 역량만으로 형성되는 것이 아니라, 첨단 공정을 가능하게 하는 소수 장비 기업의 기술 독점과도 직결된다는 뜻입니다.
 

여기에 더해 지금 시장이 특히 주목하는 지점은 첨단 패키징입니다. TSMC는 자사의 CoWoS 기술을 고성능 컴퓨팅용 최고 수준의 집적도와 성능을 제공하는 플랫폼으로 규정하며, 대형 인터포저 위에 선도 SoC와 여러 개의 HBM을 결합하는 구조를 공식적으로 설명하고 있습니다. 이는 오늘날 AI 가속기의 경쟁력이 단순한 연산 성능만이 아니라, 연산칩과 고대역폭 메모리(HBM)를 얼마나 효율적으로 근접 결합할 수 있는가에 달려 있음을 보여줍니다. 다시 말해 시장의 핵심 병목은 GPU 수요 그 자체라기보다, GPU와 HBM을 대규모로 안정적으로 묶어내는 첨단 패키징 역량에 더 가깝습니다.
 

이 지점에서 투자 해석은 한층 정교해져야 합니다. 엔비디아나 AMD 같은 설계 기업이 밸류체인 최전면에 서 있는 것은 사실이지만, AI 반도체 공급의 실제 확장 속도는 그 뒤편의 파운드리·장비·패키징 생태계가 따라갈 수 있는 속도에 의해 제한됩니다. 즉, AI 반도체 산업은 승자독식처럼 보이지만 실제로는 극도로 분업화되어 있습니다. 이 구조에서는 최종 브랜드보다 오히려 제조 공정의 병목을 쥔 기업이 산업의 리듬을 통제하게 됩니다. AI 시대의 반도체 경쟁은 성능 경쟁이면서 동시에 공급망 조직력 경쟁입니다.
 

칩 다음의 진짜 전장은 네트워크입니다. AI 클러스터는 연산 보다 동기화에 더 민감합니다' 많은 논의가 GPU 숫자에 집중되지만, AI 클러스터의 성능은 칩의 개수만으로 결정되지 않습니다. 수천 개, 수만 개의 GPU가 하나의 학습 작업을 병렬 수행할 때 더 중요한 변수는 이들 사이의 통신 지연과 혼잡 제어입니다. 클러스터 내부에서 단 한 구간이라도 병목이 생기면 전체 학습 시간이 늘어나기 때문입니다.
 

NVIDIA는 자사의 Quantum InfiniBand 플랫폼을 AI와 HPC를 위한 초저지연, 초고처리량, 고확장성 네트워크로 설명합니다. 어댑터, 스위치, DPU, 장거리 연결 시스템을 통해 대규모 AI 데이터센터에 필요한 네트워크 계층 전체를 제공하겠다는 전략입니다. 특히 In-Network Computing, SHARP, 자가복구 기능 등은 단순 전송이 아니라 AI 학습의 집단 연산을 네트워크 차원에서 가속하는 데 초점이 맞춰져 있습니다. 이는 AI 클러스터 네트워크가 더 이상 서버 부속품이 아니라, 학습 성능을 좌우하는 독립된 핵심 계층이라는 점을 보여줍니다.
 

한편 AI 네트워킹의 방향이 오직 인피니밴드로만 고정되는 것도 아닙니다. Arista는 대형 AI 학습 클러스터에서 나타나는 ‘elephant flow’와 혼잡 문제를 지적하면서, 손실 없는(lossless) 이더넷 패브릭, 동적 로드밸런싱, 혼잡 제어, 결정적 지연 특성이 AI 네트워크 설계의 핵심이라고 설명합니다. 특히 Arista는 Meta가 2만4000개 GPU 규모의 Llama 3 학습 클러스터에서 Ethernet/RoCE와 InfiniBand를 모두 활용했고, 네트워크 병목 없이 대규모 생성형 AI 워크로드를 처리할 수 있었다는 공개 언급을 인용합니다. 이 사실이 중요한 이유는, AI 네트워킹의 승부가 특정 프로토콜의 우열보다도 대규모 병렬 연산에서 혼잡을 어떻게 억제하고, GPU 유휴시간을 최소화하느냐로 옮겨가고 있기 때문입니다.

따라서 칩 다음의 핵심 질문은 누가 더 빠른 GPU를 파느냐가 아니라 누가 더 큰 클러스터를 안정적으로 묶을 수 있느냐 입니다. AI 산업은 단품 성능 경쟁에서 시스템 성능 경쟁으로 이미 넘어왔습니다. 그리고 시스템 성능의 상당 부분은 네트워크가 결정합니다. AI 인프라 밸류체인을 읽을 때 네트워크를 중간 부품 정도로 취급하면, 실제 병목의 위치를 잘못 짚게 됩니다.
 

이제는 냉각이 선택이 아니라 필수입니다. 고밀도 AI 랙은 공랭의 한계를 밀어냈습니다. AI 인프라가 한 단계 더 확장되면서 부상한 문제는 열입니다. 고성능 GPU와 CPU가 고밀도로 집적될수록 데이터센터 운영의 핵심은 더 이상 서버를 몇 대 들여오느냐가 아니라, 그 장비가 내는 열을 어떻게 빼내느냐가 됩니다. 열을 처리하지 못하면 성능은 유지되지 않고, 성능을 유지하려면 전력비와 설비비가 함께 올라갑니다.
 

Vertiv는 고밀도 데이터센터에서 액체 냉각이 공랭보다 IT 및 설비 시스템의 에너지 효율을 개선한다고 설명하면서, 최적화된 연구 조건에서 총 데이터센터 전력 사용량이 10.2% 감소하고 TUE가 15% 이상 개선됐다고 제시합니다. 또한 액체 냉각은 열전달 측면에서 공기보다 훨씬 높은 효율을 가지며, 오늘날 20kW를 넘는 랙 밀도에서 향후 50kW 이상으로 가는 시장 추세를 고려하면 전통적 공랭이 한계에 도달했다고 진단합니다. 이 수치는 냉각이 단지 운영비 절감 요소가 아니라, AI 인프라의 물리적 확장 가능성을 결정하는 핵심 설비라는 점을 보여줍니다.
 

Schneider Electric 역시 같은 방향의 판단을 내놓고 있습니다. 이 회사는 AI 워크로드가 기존 한계를 넘어서는 랙 밀도를 요구하면서, 열 포집부터 열 방출까지 이어지는 통합 액체 냉각 아키텍처가 필요하다고 설명합니다. 특히 NVIDIA와 공동 개발한 참조 설계에서는 Vera Rubin NVL72용 초고밀도 AI 클러스터를 랙당 최대 227kW 수준까지 지원하는 액체 냉각 청사진을 제시합니다. 여기서 중요한 것은 특정 수치 그 자체보다도, 데이터센터 설계 기준이 이미 공랭 중심 일반 서버실 에서 초고밀도 액체 냉각 기반 AI 설비로 이동하고 있다는 점입니다.
 

이 변화는 밸류체인의 범위를 넓힙니다. 과거 데이터센터 산업에서 냉각은 비교적 후방 설비로 여겨졌습니다. 그러나 AI 시대에는 냉각 장비, 냉각수 분배 장치, 열교환 시스템, 전력-냉각 통합 설계가 모두 핵심 전방 산업으로 올라옵니다. 다시 말해 AI 수요가 늘수록, 시장은 더 이상 반도체 회사만 키우지 않습니다. 열을 다루는 기업도 함께 키웁니다.

최종 병목은 전력입니다. AI의 확장은 이제 전력망과 금융시장의 문제이기도 합니다. AI 인프라 밸류체인의 가장 무거운 제약은 결국 전력입니다. 칩이 있어도, 네트워크가 있어도, 냉각이 가능해도, 전력이 없으면 데이터센터는 돌아가지 않습니다. 이 단순한 사실이 지금 AI 산업의 가장 구조적인 현실이 되고 있습니다.
 

IEA는 2024년 기준 전 세계 데이터센터 전력소비가 약 415TWh, 즉 글로벌 전력소비의 약 1.5% 수준에 이르렀다고 추산합니다. 또한 기본 시나리오에서 데이터센터 전력소비는 2030년 약 945TWh로 두 배 가까이 증가할 수 있다고 전망합니다. 특히 AI 도입에 따라 늘어나는 가속 서버의 전력소비는 연평균 30% 증가할 것으로 보며, 데이터센터 전력수요 증가의 거의 절반을 가속 서버가 설명한다고 분석합니다. 이는 AI가 단순히 소프트웨어 업그레이드가 아니라, 전력 수요 구조 자체를 바꾸는 산업 현상임을 뜻합니다.
 

모건 스탠리의 분석은 더 직접적입니다. 모건 스탠리는 AI 주도의 데이터센터 전력 수요가 빠르게 늘면서 2028년까지 미국 데이터센터 수요가 74GW에 이를 수 있고, 사용 가능한 전력 접근 기준으로 약 49GW의 부족분이 발생할 수 있다고 전망합니다. 또한 대형 기술기업들이 2025~2026년 두 해 동안 1조 달러가 넘는 지출에 나설 수 있다고 보고, 그 절반가량은 부채시장과 신용시장의 자금조달이 메워야 할 수 있다고 설명합니다. 이것은 매우 중요한 포인트입니다. AI 산업이 이제 기술기업의 R&D 예산만으로 움직이는 단계가 아니라, 전력설비 투자와 대규모 금융조달이 결합된 자본집약 산업으로 바뀌고 있다는 뜻이기 때문입니다.
 

이 지점에서 AI의 승자는 기술적으로만 결정되지 않습니다. 누가 더 좋은 모델을 만들었는가 못지않게, 누가 더 빠르게 전력을 확보하고, 더 긴 투자 회수기간을 감당하며, 더 낮은 자본비용으로 데이터센터를 증설할 수 있는가가 중요해집니다. 그래서 최근 AI 논의에서 원자력, 가스, 연료전지, 마이크로그리드, 변압기, 스위치기어, 송배전 장비, 전력 금융이 함께 거론되는 것입니다. AI가 전력산업을 바꾸는 것이 아니라, 더 정확히는 AI가 전력산업과 하나의 산업적 복합체를 형성하고 있다고 보는 편이 맞습니다.

결국 상단의 승자는 모델 기업이 아니라 시스템을 소유하고 운영하는 기업일 수 있습니다.
 

이 모든 밸류체인의 끝에는 소유자와 운영자가 있습니다. 아무리 좋은 칩과 장비가 있어도, 이를 대규모로 선구매하고, 데이터센터를 짓고, 전력을 계약하고, 냉각과 네트워크를 통합하고, 최종 고객에게 컴퓨팅 자원으로 제공하는 주체가 없다면 가치사슬은 완성되지 않습니다.
 

그래서 오늘의 AI 경쟁은 개별 기술기업 간 경쟁인 동시에, 자본시장과 인프라 운영능력의 경쟁이기도 합니다. 하이퍼스케일러들은 막대한 현금흐름과 높은 신용등급을 바탕으로 설비투자를 선도하고 있으며, 모건 스탠리는 바로 이 점 때문에 AI 인프라 구축에서 강한 대차대조표가 결정적이라고 지적합니다. 이 산업에서는 작은 기업이 “우리도 1GW급 데이터센터 사업에 들어가겠다”고 선언한다고 해서 쉽게 진입할 수 없습니다. 전력, 토지, 장비, 조달금리, 운영역량이 동시에 필요하기 때문입니다.
 

이런 맥락에서 데이터센터 리츠, 사모펀드, 코로케이션 사업자, GPU 특화 클라우드 기업들의 전략적 가치도 커집니다. 이들은 단순 하청업체가 아니라, AI 시대의 디지털 .산업용 부동산과 계산 자원의 유통망을 장악하는 플레이어이기 때문입니다. 앞으로 AI 시장에서 높은 협상력을 가지는 기업은 반드시 가장 혁신적인 모델 개발사만은 아닐 수 있습니다. 오히려 전력에 접근할 수 있고, 설비를 먼저 확보할 수 있으며, 병목이 생길 때마다 다른 구간을 우회할 수 있는 운영자가 더 강해질 가능성도 있습니다. 이것이 AI 밸류체인을 산업적으로 읽어야 하는 이유입니다.

AI 패권 경쟁의 본질은 ‘더 똑똑한 모델’이 아니라 병목을 해소하는 능력입니다

AI 산업을 보는 가장 흔한 오해는, 이 시장이 결국 몇 개의 초거대 모델 기업 중심으로 정리될 것이라는 믿음입니다. 물론 모델 경쟁은 계속 중요합니다. 그러나 공개 자료를 통해 확인되는 더 분명한 사실은, AI 산업의 성장 제약이 이미 알고리즘 내부보다 외부 인프라에서 더 자주 발생하고 있다는 점입니다. 첨단 반도체 공정은 ASML과 TSMC 같은 소수 기업의 기술 역량에 의존하고, 대규모 학습 효율은 NVIDIA와 Arista가 보여주듯 네트워크 설계에 좌우되며, 고밀도 서버의 운영 가능성은 Vertiv와 Schneider Electric이 설명하듯 냉각 기술에 달려 있습니다. 그리고 그 모든 것의 상한은 IEA와 모건 스탠리가 지적하듯 결국 전력과 자본조달 능력이 결정합니다.
 

따라서 향후 AI 산업의 승자를 가르는 질문은 의외로 단순할 수 있습니다. 누가 가장 뛰어난 모델을 만드느냐가 아니라, 누가 가치사슬 전체의 병목을 가장 안정적으로 풀어내느냐입니다. AI의 미래는 알고리즘만으로 오지 않습니다. 칩, 패키징, 네트워크, 냉각, 전력, 금융, 부동산, 운영 능력이 서로 맞물릴 때 비로소 현실이 됩니다. 화려한 인터페이스 뒤편의 이 거대한 인프라가 바로, 앞으로의 AI 산업 질서를 결정할 것입니다.

 조선규 | 칼럼니스트  

 

35여 년간 교육과 기업 경영, 그리고 지역 사회 발전의 현장에서 사람과 함께 성장해왔다. “삶의 문제는 결국 사람의 문제”라는 믿음을 바탕으로 교육을 통해 변화를 만들고, 기업을 통해 길을 열었으며, 현재는 사회 곳곳의 다양한 문제를 함께 풀어가며 더 따뜻하고 공정한 미래를 그려가고 있다.