글로벌 데이터센터 누적 투자액이 2030년까지 1조6000억달러에 육박할 것으로 전망되는 가운데, 주요 빅테크 기업들은 2026년 한 해에만 AI 인프라 설비투자(capex)로 6000억달러 이상을 집행할 것으로 예상된다. 이 같은 대규모 자본지출은 ‘AI 팩토리’ 시장이 이미 돌이킬 수 없는 임계점을 넘어섰음을 시사하며, 초고도 자본집약성과 강한 지정학적 속성, 복잡한 공학적 진입장벽을 특징으로 하는 새로운 형태의 산업 조직으로 진화하고 있음을 보여준다.

AI 팩토리로의 전환: 아키텍처 및 패러다임

옴디아는 AI 팩토리를 ‘인텔리전스 생산’을 유일한 목적으로 하는 새로운 형태의 중공업 인프라로 정의하며, 토큰을 핵심 산출 단위로 규정한다. 이에 따라 데이터센터는 규모와 무관하게 기업 지원 센터에서 디지털 제품 제조 센터로 전환되고 있으며 △에너지 및 물리적 인프라 △하드웨어 및 네트워크 패브릭 △스케줄링 및 가상화 오케스트레이션 △MaaS(서비스형 모델) 및 AI 애플리케이션 생태계의 4계층 아키텍처로 구성된다.

현재 이 생태계는 풀스택 퍼블릭 AI 클라우드 하이퍼스케일러, 컴퓨트 특화 AI 클라우드 전문업체, 턴키형 프라이빗 AI 파운데이션 공급업체, 지역·산업 특화 AI 인프라 운영사 등 4가지 솔루션 패러다임으로 구성돼 있다. Omdia가 200개 이상의 기업을 대상으로 실시한 설문조사에 따르면, 시장의 4대 핵심 과제로 △긴 시장 출시 기간 및 ROI 검증 △디지털 주권 △AI 인재 부족 △복잡한 시스템 공학적 난제가 꼽혔다.

2026년 AI 팩토리를 형성하는 5가지 시장 역동성

시장이 이러한 과제를 헤쳐 나가는 가운데, 옴디아는 올해 업계를 재편하는 5가지 주요 역동성을 확인했다.

· 역동성 1 — FLOPS에서 TTFT로: 기업들이 고가의 GPU가 I/O 대기 상태에서 유휴 상태로 머무르는 ‘좀비 GPU(Zombie GPU)’ 효과에 직면함에 따라, 컴퓨터 사재기 예산은 동결되었고, 평가 지표는 최초 토큰 도달 시간(Time-to-First-Token, TTFT) 및 벡터 검색 속도로 전환되고 있으며, 공급업체 사례 연구에서는 12배의 벡터 인덱싱 속도 향상과 최대 75%의 API 및 컴퓨팅 중복 비용 절감 효과가 보고되었다.
· 역동성 2 — 하이퍼스케일러, 민첩성과 주권 간의 균형: 두 가지 전달 패러다임이 존재하며, 하나는 풀스택 드롭인(AWS, 화웨이, GCP, OCI) 으로, 퍼블릭 클라우드 등급의 AI 역량을 통합된 물리적 장치로 고객의 데이터센터 내에 배포할 수 있고, 다른 하나는 소프트웨어/하드웨어 디커플링을 불리는데, 이는 소프트웨어 역량의 현지화 및 생태계 중심 하드웨어로 정의되는 하향식 경로이다.
· 역동성 3 — 컴퓨테이션 네이티브 AI 클라우드의 업그레이드: 랙 전력 밀도는 2024년 10~15kW에서 2026년 40~250kW로 증가했으며, 워크로드는 개념 증명(PoC) 단계에서 생산 등급 배치로 전환되고 있다. 유럽의 네비우스(Nebius)와 중국의 센스타임(SenseTime)은 비즈니스 모델을 베어 메탈(Bare Metal) 리스에서 서비스로서의 모델(Model as a Service)로 이미 전환한 대표적인 기업이며, 특별히 센스타임은 IaaS + MaaS + 에너지-컴퓨팅 시너지 전략의 통합 프레임워크를 수행하여 컴퓨팅과 에너지를 효과적으로 제어하고 있다.
· 역동성 4 — AI 산업화의 ‘마지막 마일’: 수직 통합 기업, 도메인 운영자 및 ISV(독립 소프트웨어 공급업체)는 장기적인 데이터 거버넌스, 레거시 통합, 시나리오별 에이전트 조립을 통해 최종 가치 계층을 확보하고 있고, 인스퍼 클라우드(Inspur Cloud)는 헤비 에셋 AI 인프라와 AI 산업 어셈블리 라인의 집중적인 시나리오 등급 운영을 통합하여 AI 산업화를 큰 도약으로 이끄는 전략을 취하고 있다.
· 역동성 5 — 소버린 데이터 팩토리의 부상: EU AI 법안, DORA 및 이에 상응하는 규제 준법 프레임워크와 같은 규제 프레임워크는 민감한 데이터가 물리적으로 격리된 시설 내에 보관되어 있어야 한다는 요건을 주도하고 있고, 이는 G42와 같은 지역 운영자를 단순한 캐비닛 임대업자에서 국가 수준 데이터의 물리적 관리자로 격상시키고 있다.

클라우드 및 AI 부문 수석 책임 애널리스트인 레이먼드 잔(Raymond Zhan)(옴디아)은 “미래 경쟁은 더 이상 모델 파라미터나 GPU 수로 정의되지 않을 것입니다. 대신 에너지, 액침 냉각, 칩, 자율 소프트웨어 스택, 주권 규정 준수, 장기적인 자본 지구력을 아우르는 종합적인 경쟁이 될 것입니다”라며 “기업 고객에게 AI 팩토리 공급업체 환경은 획일적인 게임이 아닙니다. 선택은 실제 비즈니스 규모와 정상 상태(steady-state) 및 혁신적 워크로드 간의 균형에 맞춰 이루어져야 합니다”라고 말했다.

앞으로 옴디아는 2026년과 2027년이 AI 팩토리 개발에 있어 중요한 기간이 될 것으로 예상하며, 지역 및 산업 운영이 향후 5년 동안 가장 확실한 성장 부문으로 부상할 것이다.

옴디아의 글로벌 AI 팩토리 시장 현황 2026(Global AI Factory Market Landscape 2026) 보고서는 상세한 아키텍처 프레임워크, 솔루션 패러다임, AI 인프라를 형성하는 주요 역동성에 대한 통찰력을 포함하여 AI 팩토리 시장에 대한 포괄적인 분석을 제공한다.

출처: 옴디아(Omdia)