[현장] “미·중 이어 AI G3로”…NHN클라우드 김동훈, 국가대표 인프라 ‘팩토리X’ 공개

[한국금융신문 정채윤 기자] “NHN클라우드는 ‘대한민국 AI(인공지능) G3’, 즉 미국과 중국을 잇는 세 번째 AI 국가로 가는 길에서 국가대표 AI 인프라 기업이 되겠다.”

김동훈 NHN클라우드 대표이사는 26일 서울 중구 더플라자호텔에서 신규 AI 풀스택 브랜드 ‘NHN 팩토리X(factoryX)’ 중장기 사업 전략을 공개하며 이같은 포부를 밝혔다.

이날 김 대표는 “우리는 지금 거대한 전환점에 서 있다”며 “몇 년 전만 해도 기업들이 AI를 어떻게 ‘도입’할지에 대해 논의했다면, 지금은 AI가 없는 업무 환경을 상상할 수 없는 시대가 됐다. 이러한 환경의 전환점에서 NHN클라우드가 만들어갈 새로운 이정표를 제시하고자 한다”고 말했다.
이번에 출범한 팩토리X는 AI 인프라, 플랫폼, 서비스를 통합 제공하는 일종의 ‘AI 거대한 공장’이다. NHN클라우드는 이번 팩토리X 출범을 기점으로 삼아 AI 사업을 미래 핵심 성장축으로 집중 육성하겠다는 구체적인 로드맵을 전면에 내세웠다.

“AI 패권은 모델 아닌 인프라”

김 대표는 현재 AI 패권 경쟁의 중심이 거대언어모델(LLM) 자체에서 이를 뒷받침하는 인프라 경쟁력으로 급격하게 이동하고 있다고 진단했다.

김 대표는 “글로벌 AI 인프라 시장은 오는 2030년까지 약 3944억 달러(한화 약 540조 원) 규모로 성장할 것으로 예상되며, 연평균 성장률 역시 20% 이상을 상회하고 있다”고 밝혔다. 그러나 시장의 양적 팽창에 비해 기업들이 실제로 마주한 현실은 그리 녹록지 않다. AI 인프라 자원을 어렵게 확보한 기업들 중 상당수가 비효율성 늪에 빠져있기 때문이다.

김 대표가 제시한 실태조사 데이터에 따르면, AI 인프라를 확보한 기업 중 약 68%는 자원의 70% 미만을 활용하는 데 그치고 있다. 나아가 25%의 기업 역시 85% 미만의 활용률을 보였다. 결국 전체 기업 중 단 7%만이 그래픽처리장치(GPU) 인프라를 100%에 가깝게 제대로 활용하고 있다는 의미다.
김 대표는 “결국 100개 기업 중 7개 기업만이 GPU를 제대로 쓰고 있는 형국”이라며 “과거의 AI 전환이 어떤 모델을 선택할 것인가에 대한 문제였다면, 이제는 토큰을 얼마나 저렴하게 생산하고 효율적으로 활용하느냐가 중요한 인프라의 시대다. 인프라를 얼마나 단단하고 효율적으로 운영하느냐가 AI 사업의 성패를 가를 것”이라고 강조했다.

재무적인 성장 지표도 함께 제시됐다. 김 대표는 “지난해 전체 매출에서 AI 사업이 차지하는 비중은 13% 수준이었으나, 올해는 38%까지 치솟을 것으로 예상된다”며 “최근 3년간 연평균 24%의 성장세를 이어온 저력을 바탕으로 앞으로도 두 자릿수 성장률을 지속하겠다”고 말했다.

이어 “오는 2027년에는 전체 매출 중 AI 사업 비중을 50% 이상으로 끌어올려 명실상부한 AI 중심 기업으로 체질을 개선하겠다”고 덧붙였다.

‘수냉식’으로 발열·장애 잡았다

이날 공개된 NHN 팩토리X는 크게 ▲인프라 레이어 ▲플랫폼 레이어 ▲서비스 레이어 등 총 3개의 핵심 층위로 구성됐다.

가장 밑바탕이 되는 ‘인프라 레이어’는 고성능 수냉식 데이터센터를 기반으로 한다. 강민수 NHN클라우드 최고인프라책임자(CIO)는 현장 발표에서 “AI 인프라 구축은 도면 위의 그림만으로 가능하지 않다”며 “실제 전력을 어떻게 끌어오고, 냉각을 어떻게 설계하며, 수천 장의 GPU를 물리적으로 어떻게 연결할 것인가에 대한 치열한 엔지니어링의 결과물”이라고 정의했다.

특히 강 CIO는 차세대 GPU로 갈수록 급증하는 전력량과 발열 문제를 지적했다. 그는 “엔비디아 GPU의 전력 사용량은 호퍼(H100) 700W에서 블랙웰(B200) 1200W를 거쳐, 향후 출시될 루비(Rubin)에 이르러서는 1500W에 육박한다”라며 “과거의 공랭(공기로 열을 식히는) 방식으로는 더 이상 최신 GPU의 발열량을 감당할 수 없다”고 단언했다.

NHN클라우드는 이미 7년 전부터 GPU 서비스를 준비하며 수냉식 데이터센터 기술을 축적해왔다. NHN클라우드는 과거 판교 데이터센터(TCC1) 구축 당시, 업계 평균 전력 밀도가 랙당 3~4kW 수준에 머물 때 이미 랙당 8kW의 고밀도 외기 냉각을 도입해 전력효율지수(PUE)를 극대화했다. 이러한 기술력은 광주 국가 AI 데이터센터 구축으로 이어져 아시아 최초로 엔비디아 H100을 도입하고 국내 최초의 GPU 전용 센터를 탄생시키는 밑거름이 됐다.

최근에는 정보통신산업진흥원(NIPA)의 ‘AI 컴퓨팅 자원 활용 기반 강화 사업’을 통해 엔비디아 B200 기반의 전면 수냉식 공사를 성공적으로 완료했다. 현재 NHN클라우드가 운용 중인 인프라는 GPU 서버 957대, GPU 총 7656장 규모로 국내 최대 수준이다. 특히 이 사업에서 GPU 480장을 단일 클러스터로 묶는 초고난도 링크 기술을 선보였다.

강 CIO는 “수냉 방식을 적용한 결과, GPU 장애율은 기존 공랭 방식의 3분의 1 수준인 1.2~1.8%로 감소했으며, 평균 무고장시간(MTBF)은 18만 시간에서 48만 시간으로 약 2.6배 늘어나는 탁월한 안정성을 입증했다”고 밝혔다.

동적 자원 재분배 솔루션 ‘GPU 라이브’

팩토리X의 두 번째 허리 역할을 하며 인프라의 가치를 극대화하는 단계는 ‘플랫폼 레이어’다. NHN클라우드는 자원 효율 극대화를 위해 GPU 통합 관리 플랫폼인 ‘GPU 라이브(GPU Live)’를 전격 공개했다.

이 플랫폼은 앞서 김 대표가 지적했던 ‘국내 기업들의 극심한 GPU 자원 낭비 현상’을 기술적으로 정조준해 해결하기 위해 고안됐다. 실제 간담회 현장 영상에서는 과거 인프라 투자 결정을 앞두고 “이거 안 하면 우리는 일반 클라우드 업체로 겨우 살아남을 것이냐, 아니면 제대로 된 AI 클라우드 기업으로 성장할 것이냐”라며 고뇌했던 관계자들의 절박했던 순간이 상영되기도 했다.

이러한 고심 끝에 탄생한 GPU 라이브는 다수의 사용자와 조직 정책에 따라 워크로드의 우선순위를 지능적으로 관리하는 솔루션이다. 한정된 GPU 자원 속에서 갑작스럽게 중요한 연산이나 대규모 긴급 작업이 발생하면, 시스템이 자원을 동적으로 재할당해 리소스를 배분하고 긴급 작업을 우선 처리할 수 있도록 자원을 재분배한다.

이 모든 과정은 GPU 연산 자원뿐만 아니라 현재 구동 중인 워크로드의 상태, 그리고 대용량 데이터를 처리하는 스토리지의 현황까지 단일 통합 대시보드에서 실시간으로 모니터링된다.

김태형 NHN클라우드 최고기술책임자(CTO)는 “GPU 라이브를 현장에 도입하면 기업의 평균 GPU 이용률을 최소 2배 이상 끌어올릴 수 있다”며 “특히 거대 모델을 처음 구동할 때 발생하는 모델 최초 호출 지연(콜드 스타트 레이턴시) 시간을 기존 75초에서 1.2초로 최대 61배까지 혁신적으로 단축할 수 있다”고 발표했다.

보안과 시스템 연동 잡은 에이전트 ‘프로젝트X’

팩토리X의 가장 최상위 층위이자 기업의 실질적인 업무 혁신을 담당하는 마지막 단계는 ‘서비스 레이어’다. NHN클라우드는 이날 기업용 AI 에이전트 클라우드 서비스인 ‘프로젝트X(Project X)’를 선보였다. 프로젝트X는 하반기 본격 출시 예정이다.

발표자로 나선 안성민 NHN엔터프라이즈 최고경영자(CEO)는 현재 생성형 AI를 도입한 기업들이 맞닥뜨린 ‘재무적 딜레마’를 날카롭게 지적했다. 안 대표는 “최근 에이전틱 AI 서비스가 폭발적으로 성장하고 있지만, 실제 생성형 AI를 도입한 기업의 무려 95%가 매출 증가나 비용 절감 같은 실질적인 재무적 성과를 전혀 내지 못하고 있는 것이 냉정한 현실”이라고 꼬집었다.

안 대표는 기업들이 AI를 쓰고 있으면서도 비즈니스 임팩트를 창출하지 못한 원인으로 ‘AI 에이전트가 실제 직원처럼 유기적으로 일할 수 있는 환경의 부재’를 꼽았다. 사내 보안과 시스템 연동이 분리돼 있어 AI가 단순한 ‘말동무 챗봇’ 수준에 머물러 있다는 지적이다.

그는 “진정한 업무 혁신이 일어나려면 회사가 설정한 강력한 보안 영역 안에서 AI 에이전트가 활동해야 하며, 외부로 정보가 새어나가지 않도록 철저한 권한 제어와 기록 관리가 선행돼야 한다”며 “AI 에이전트는 추론으로 대답하는 것이 아니라 사내 문서나 고객 데이터 등 내외부 시스템에 직접 연결돼 효율적이고 안전하게 일해야 한다”고 강조했다.

이러한 문제를 해결하기 위해 고안된 프로젝트X는 기업의 실제 업무 환경과 규모에 맞춰 유연하게 적용할 수 있도록 ‘프라이빗’과 ‘퍼블릭’ 두 가지 하이브리드 방식으로 시장에 공급된다. 프라이빗 형태는 강력한 보안을 원하는 대기업이나 금융권, 공공기관 등을 타깃으로 삼아 맞춤형 워크로드를 구축해주는 방식이다. 반면 퍼블릭 형태는 개인, 팀 단위 프로젝트, 스타트업을 겨냥한 서비스로 표준화된 인프라 위에서 최신 상용 모델이나 오픈소스를 안전하고 민첩하게 활용하도록 지원한다.

이날 간담회 전반을 관통한 키워드는 단연 ‘절박함에 기반한 선제적 투자’와 ‘실증된 기술력’이었다. 남들이 가보지 않은 7년 전부터 GPU 시장을 바라보며 묵묵히 다져온 NHN클라우드의 뚝심이, 국내 최대 규모의 AI 인프라 풀스택 브랜드 팩토리X라는 결실로 이어져 향후 대한민국을 넘어 글로벌 클라우드 시장에서 어떤 반향을 일으킬지 귀추가 주목된다.

정채윤 한국금융신문 기자 chaeyun@fntimes.com