카카오, 정부 사업용 GPU 2040장 구축 완료…“연내 목표 초과 달성”

[한국금융신문 정채윤 기자] 카카오(대표이사 정신아닫기정신아기사 모아보기)는 정부 주도 ‘그래픽 처리 장치(GPU) 확보 사업’ 최종 사업자로 선정된 이후, 최신 GPU 인프라 구축을 성공적으로 진행하며 국내 인공지능(AI) 연구 및 개발 환경 지원에 본격 나선다고 29일 밝혔다.

이번 사업은 정부가 AI 3대 강국을 위한 핵심 인프라인 GPU를 민간에 지원하는 국책사업으로, 카카오는 지난 8월 최종 사업자로 선정됐다. 카카오는 총 2424장의 엔비디아 블랙웰 기반 최신 GPU ‘B200’을 확보・구축하고 이를 5년간 위탁 운영하며 국내 AI 연구 및 개발 환경을 지원할 계획이다.

GPU 인프라는 경기도 안산에 위치한 카카오 데이터센터 안산을 기반으로 구축됐다. 카카오는 자체 데이터센터 운영 경험과 GPU 클러스터 구축 노하우를 바탕으로 장비 조기 확보, 사전 기술 검증(PoC) 등을 통해 구축 일정을 앞당겼다고 설명했다.
카카오는 현재 전체 할당량의 약 84%에 해당하는 255노드(GPU 2040장)의 인프라 구축을 완료했다. 이는 당초 제출했던 연내 구축 목표치인 64노드 대비 4배를 상회하는 규모다. 또한 고집적 GPU 서버 운영을 위해 안정적인 전력 공급과 함께 ‘열복도 밀폐 시스템’을 적용해 냉각 효율도 높였다.

카카오는 하드웨어 뿐만 아니라 소프트웨어 환경도 지원한다. 국가 AI 컴퓨팅 자원 지원 포털과 연동된 통합 플랫폼을 통해 이용자가 포털에서 카카오엔터프라이즈가 운영하는 카카오클라우드로 손쉽게 진입할 수 있도록 했으며, 머신러닝 워크플로우를 자동화할 수 있는 AI 플랫폼 쿠브플로우(Kubeflow)를 제공한다.

현재 카카오는 구축을 완료한 255노드에 대해 네트워크 및 성능 테스트를 진행 중이다. 내년 1월 2일부터는 과학기술정보통신부와 정보통신산업진흥원이 베타서비스 공모를 통해 선정한 산·학·연 과제에 최신 컴퓨팅 자원을 제공할 예정이다.

김세웅 카카오 AI시너지 성과리더는 “대규모 GPU 인프라를 안정적으로 구축하고 운영하는 것은 AI 경쟁력의 핵심”이라며 “카카오의 데이터센터 및 클라우드 역량을 바탕으로 안정적이고 효율적인 AI 개발 환경을 제공해 국내 AI 생태계 발전에 기여해 나가겠다”고 말했다.

정채윤 한국금융신문 기자 chaeyun@fntimes.com