“맞춤형 설계해요”…SKT, 기업·공공용 멀티LLM AI 추진

[한국금융신문 김형일 기자] SK텔레콤(대표이사 유영상)이 기업·공공용 ‘생성형 AI 시장’ 공략을 위한 ‘멀티 LLM(Large Language Model)’ 전략을 23일 발표했다.

SKT는 기업 및 공공기관 등의 요구에 맞춰 ▲대화 및 고객센터 등 통신사 기반 서비스를 중심으로 자체 개발해온 에이닷 LLM ▲윤리적 답변 및 대용량 텍스트(Text) 입력에 강점이 있는 엔트로픽(Anthropic)의 LLM ▲한국어 데이터가 풍부한 코난 LLM 등을 조합해 고객 맞춤형으로 제공하기 위한 기술 및 사업적 준비를 진행 중이라고 밝혔다.

현재 국내 LLM 시장은 오픈AI를 필두로 다수 기업들이 자사 LLM 기반의 사업을 준비 중이다. 이에 SKT는 자체 LLM과 더불어 업계에서 인정받는 타사의 LLM까지 포함한 라인업으로 ‘멀티 LLM’ 사업 추진 계획을 내놨다.
우선 SKT는 자강(自强)의 측면에서 한국어 기반의 에이닷 LLM은 8월부터 엔터프라이즈(Enterprise)용 기본모델(Foundation Model)을 출시하고 고객사 대상 모델을 학습시키고 최적화 작업을 진행하고 있다.

LLM 기본모델(Foundation Model)은 문서요약, 문서생성, 질의응답(Q&A) 등을 수행할 수 있는 기본 기능을 갖춘 (인공지능)AI 소프트웨어다. 기본 기능이 제대로 발휘하려면 이 모델을 필요로 하는 고객사의 실제 데이터(주로 문서형태)를 넣어서 학습시키고 고객이 원하는 방향으로 조율(Tuning)하는 과정을 거쳐야 한다.

SKT는 협력(協力)의 측면에선 지분투자 이후 다양한 분야에서 협력을 확대하고 있는 코난의 LLM도 활용할 계획이다. 또 지난 13일 지분 투자를 발표한 엔트로픽(Anthropic) LLM의 경우 SKT의 주요 기업 간 거래(B2B) 서비스에 LLM 기능을 결합해 판매하는 방식을 우선 협의 중이다. 기능 통합 작업이 완료되는 4분기부터 실제 서비스 제공이 가능할 것으로 기대된다.

SKT 엔터프라이즈 사업을 이끌고 있는 김경덕 CIC장(부사장)은 “중요한 것은 고객의 요구 사항(Needs)으로 다양한 멀티 LLM 조합을 기반으로 고객들이 실제 필요로 하는 서비스를 신속하게 제공하는 것이 중요하다”고 말했다.

김형일 기자 ktripod4@fntimes.com