SKT ‘누구’ 용량 5배 늘려주는 ‘AI 가속 솔루션’ 최초 상용화

[한국금융신문 김승한 기자] SK텔레콤이 인공지능(AI) 서비스 처리 속도를 높이는 ‘AI 가속 솔루션’을 개발해 자사 AI 서비스 ‘누구’에 적용했다고 21일 밝혔다.

솔루션 적용으로 SK텔레콤 AI 서비스 ‘누구’는 기존 대비 서비스 용량이 약 5배 늘어날 것으로 기대된다. 국내에서 데이터센터 기반 AI 서비스에 해당 솔루션을 상용화한 기업은 SK텔레콤이 최초다.

SK텔레콤 AI 가속 솔루션은 손바닥 크기의 소형 카드 형태 가속기에 탑재된다. 데이터센터 내 기존 AI 서버에 장착하면 딥러닝 연산 속도가 20배 빨라진다.
AI 사용자 증가는 물론, 금융 · 보안 · 쇼핑 · 인터넷 검색 등 생활 전 분야로 AI서비스가 확대되고 있다. 이에 따라 기업들이 AI 서비스를 제공하기 위해 수집·처리해야 할 데이터도 폭증하고 있어, 추가 서버 증설이 필요하다.

SK텔레콤이 개발한 AI 가속 솔루션을 활용하면 별도 서버 증설 없이 AI 전체 서비스 용량을 기존 대비 약 5배 늘리는 효과를 기대할 수 있다. GPU 방식 가속 솔루션 대비 전력 효율성이 16배 뛰어나, 데이터센터 운용비 절감도 가능하다.



◇자체기술로 글로벌 AI 경쟁력 확보

SK텔레콤이 AI 가속 솔루션을 개발한 이유는 자사 AI 서비스 ‘누구’의 월간 실 사용자 수가 급증했기 때문이다. 지난해 8월 11만명이었던 ‘누구’ 월간 실 사용자수(Monthly Active User)는 올해 1분기 기준 300만명을 돌파하는 등 빠른 속도로 증가했다.
이는 SK텔레콤이 자사 AI 서비스 ‘누구’를 스피커에 이어 내비게이션, 키즈폰, 셋톱박스 등으로 서비스 영역을 대폭 확대한 데 따른 것이다.

SK텔레콤은 약 2년 간의 연구개발 끝에 AI 가속 솔루션을 개발하고 상용화하는 데 성공했다. SK텔레콤은 자체 기술만으로 △하드웨어 및 소프트웨어 설계 △솔루션 최적화 △상용 클라우드 서비스 적용 등을 완료했다.

◇AI 가속 솔루션 적용 가능 서비스 분야 다양

미국 시장조사업체 트랙티카(Tractica)가 지난 3월 발표한 보고서*에 따르면 가속 솔루션을 포함한 글로벌 AI 칩셋 시장 규모는 오는 2025년까지 660억달러에 이를 것으로 예상된다.
엔비디아, 구글, 마이크로소프트 등 글로벌 기업들도 AI 가속 솔루션 개발 및 상용화에 적극 나서고 있다.

AI 가속기가 활용될 수 있는 AI 분야는 다양하다. 예를 들어 AI 비서 서비스용 서버에 솔루션을 적용하면 응답시간이 빨라지며 보다 많은 고객들을 동시에 응대 할 수 있다. CCTV 등 보안 서비스 영역에서도 더 많은 영상을 정확히 분석 할 수 있어 위험상황 발생 시 적시에 대응할 수 있다.

SK텔레콤은 AI 연산 속도 및 전력 효율성을 보다 향상시킬 수 있는 ‘차세대 AI 가속 솔루션’도 개발할 예정이다.

박진효 SK텔레콤 ICT기술원장은 “서비스 성능을 높이고 운용비 절감도 가능한 AI 가속 솔루션을 성공적으로 개발하며 글로벌 톱 수준의 AI 기술 경쟁력을 확보했다”며, “AI 서비스 ‘누구’를 시작으로 향후 확장될 다양한 인공지능 응용 서비스에 솔루션을 적용하여 고객들에게 고품질의 서비스를 제공할 것”이라고 밝혔다.

김승한 기자 shkim@fntimes.com