LG유플러스, AWS 기반 AI 운영 자동화 플랫폼 구축

[한국금융신문 정채윤 기자] LG유플러스(대표이사 홍범식)는 아마존웹서비스(AWS)가 주최한 ‘2026 모던 에이전틱 애플리케이션 데이(Modern Agentic Applications Day)’ 행사에서 인공지능(AI) 모델을 실제 서비스로 안정적으로 운영하기 위한 플랫폼 구축 사례를 공개했다고 10일 밝혔다.

이번 행사는 ‘생성형 AI와 에이전트 기술을 활용한 인프라 운영 자동화’를 주제로 열렸다. LG유플러스는 기존 온프레미스(자체구축형) 중심의 AI 개발 환경을 클라우드와 연계한 유연한 구조로 전환하고, AI 개발부터 서비스 운영까지 전 과정을 효율적으로 연결한 플랫폼 구축 경험을 공유했다.

이번에 소개한 플랫폼은 AI 모델 개발과 서비스 운영 단계 사이에서 발생하던 단절을 줄이는 데 초점을 맞췄다. 그동안 AI 모델의 학습, 평가, 배포, 운영 등이 각각 분리돼 진행되면서 서비스 전환 과정마다 반복 작업이 발생했는데 하나의 흐름으로 통합한 것이다.
LG유플러스는 AI를 한 번 개발하고 끝내는 구조가 아니라, 항상 서비스에 바로 활용할 수 있는 ‘모델 준비 상태(Model Ready)’를 유지하는 것이 중요하다고 보고 플랫폼을 설계했다.

이를 위해 LG유플러스는 AWS의 관리형 쿠버네티스 서비스인 ‘아마존 EKS’를 기반으로 한 하이브리드 인프라 아키텍처를 도입했다. 자체 보유한 온프레미스 그래픽처리장치(GPU) 인프라를 아마존 EKS 클러스터의 하이브리드 노드로 통합하고 클러스터 전체를 중앙에서 제어하는 쿠버네티스 컨트롤 플레인은 AWS 완전 관리형 서비스로 운영해 플랫폼 관리 부담을 줄였다.

GPU 자원 활용 방식을 개선한 점도 이번 플랫폼의 특징이다. 기존처럼 GPU를 장비 단위로 고정 할당하는 방식 대신, 필요한 만큼 유연하게 배분해 미사용 시간을 줄였다.

권기덕 LG유플러스 AX엔지니어링랩장은 “LG유플러스는 AX 서비스 가속화를 위해 데이터 수집부터 모델 개발·배포·운영, GPU 운영까지 아우르는 AI-DLC(AI 주도 개발 라이프사이클) 기반의 엔지니어링 플랫폼 역량을 강화하고 있다”며 “앞으로도 AWS와의 기술 협력을 통해 AI 서비스 품질과 운영 안정성을 지속적으로 높여 나가겠다”고 말했다.

정채윤 한국금융신문 기자 chaeyun@fntimes.com