​AI 스타트업, 클라우드 제공업체, 연구진, 투자자들로 구성된 연합체가 AI 인프라에 대한 천문학적인 지출을 초래하고 있는 반도체 공급난을 해소하기 위해 AI 연산 자원을 한데 모으는 '국가 컴퓨팅 그리드(National Compute Grid)'를 출범시키고 있습니다.

​주목할 이유 (Why it matters): AI 인프라 구축이 수조 달러 규모의 거대한 베팅이 된 주된 이유는 희소한 연산 자원에 접근하는 비용이 극도로 높기 때문입니다. 그러나 수많은 데이터센터가 낮은 가동률로 운영되고 있으며, 이는 일부 스타트업과 연구원들이 연산력 확보에 허덕이는 동안 극도로 값비싼 칩들이 그대로 방치(Sit idle)되어 있음을 의미합니다.

• 이 컴퓨팅 그리드의 설계자들은 유휴 연산 용량을 훨씬 쉽게 활용할 수 있도록 만드는 것을 목표로 하고 있으며, 이 구상이 본격화될 경우 AI 붐의 전개 방향을 근본적으로 바꿀 잠재력을 지니고 있습니다.
  
  

​주요 발언 (What they're saying): 이번 프로젝트를 주도하는 Anjney Midha는 Axios와의 인터뷰에서 이 프로젝트가 상업적 연구와 공공 부문 모두를 위해 연산 자원을 공유하는 방안이라고 설명했습니다. 그는 "미국에서 AI를 효율적으로 확장하고, 프론티어(최첨단) 입지를 유지하며, 중국과의 경쟁력을 지키는 최선의 길은 개방형 표준을 중심으로 조율(Coordinated)되는 것"이라고 말했습니다.

• ​과거 벤처 투자자 출신으로 현재 공익법인(PBC)인 AI 지주회사 Amp를 이끌고 있는 Midha는 "알고 보면 우리는 사람들이 생각하는 것보다 훨씬 더 많은 연산력을 이미 보유하고 있다. 단지 이 모든 자원이 상호 연결되고 조율되어야 할 뿐이다"라고 덧붙였습니다.
  
  

• ​휴머노이드 로봇을 위한 체화된 인공지능(Embodied AI) 전문 스타트업인 1X의 AI 총괄 Sam Sinha는 자사와 같은 신생 AI 기업들이 연산 자원을 확보하는 데 종종 극심한 어려움을 겪는다고 토로했습니다. 그는 OpenAI나 Anthropic 같은 거대 기업들은 훨씬 더 많은 비용을 지불할 수 있고, 중소 규모 기업은 불가능한 장기 독점 계약을 체결할 수 있기 때문이라고 지적했습니다.
  
  

• ​그는 OpenAI와 Anthropic을 겨냥하며 "우리는 건강한 AI 생태계를 장려해야 하며, 단 두 개 기업만이 모든 연산력을 독점하도록 내버려 두어서는 안 된다"고 강조했습니다.

​행간 읽기 (Between the lines): AI 기업들은 새로운 AI 시스템을 훈련(Training)할 때 막대한 연산 자원을 필요로 하며, 훈련 실행(Training runs) 기간 동안에는 가용 용량을 거의 100% 소진하곤 합니다. 그러나 이러한 훈련 주기 이외의 시간에는 수많은 칩이 유휴 상태로 방치됩니다.

• ​연합체가 이번 발표와 함께 공개한 백서에 따르면, 독립적인 단일 임차(Single-tenant) 데이터센터들의 순 연산 가동률은 평균 15% 미만에 불과하며, 연구자들이 극심한 연산 부족을 겪는 와중에도 막대한 비용이 투입된 설비가 쓰이지 않은 채 방치되고 있습니다.
  
  

​운영 방식 (How it works): 국가 컴퓨팅 그리드는 연구소, 클라우드 제공업체 및 다양한 칩 시스템으로부터 AI 연산 용량을 풀(Pool) 형태로 결집한 뒤, 공유 스케줄러(Shared scheduler)를 통해 이를 배분할 계획입니다.

• ​이 시스템은 참여 회원들에게 가용 용량, 칩 종류, 물리적 위치, 가격 정책 및 가동률을 투명하게 공개하고, 작업 부하(워크로드)를 이에 맞게 자동으로 매칭하도록 설계되었습니다.
  
  

• ​그리드 참여자들은 유휴 용량을 기여(제공)하는 대가로, 계획된 모델 훈련 작업을 위해 더 거대한 클러스터를 예약하여 사용할 수 있습니다.

• ​연합체 측은 현재 약 760메가와트(MW) 규모의 전력 용량이 이미 연결되었거나 확보 가시권에 있으며, 2030년까지 2기가와트(GW) 확보를 목표로 하고 있다고 밝혔습니다.

​향후 계획 (What's next): 백서에 따르면 이 그리드는 정부 기관, 교육계, 국립 연구소 사용자들을 포함한 공공 부문 재직자 및 연구팀으로 접근 권한을 개방하고 있습니다.

​결론 (The bottom line): 연산력을 보다 광범위하게 이용할 수 있도록 만드는 일차적 목표는 시작에 불과합니다. 기존에 존재하는 가용 자원을 온라인으로 끌어올리는 혁신적인 경로를 찾아내는 것은, 오늘날 전 세계에서 가장 희소하고 귀중한 핵심 전략 자원 중 하나의 실질적 공급을 대폭 늘리는 효과를 가져올 수 있습니다.