AI와 어깨동무하는 금융사들…코스콤 "AI 서비스 구축 파트너" [코리아 핀테크 위크 2024]

[한국금융신문 정선은 기자] "앞으로 금융 AI(인공지능) 서비스 모델은 AI 기반 기술 최적화를 통해, 비용 효율적이며, 데이터 외부 유출에 대한 위험성 이슈를 해결하는 AI 아키텍처를 제시하는 것입니다."

코스콤은 29일 동대문 디자인 플라자(DDP)에서 열린 '코리아 핀테크 위크 2024'의 '금융업계 AI 서비스 실증사례 및 발전방향 세미나'에서 이같이 설명했다.

코스콤은 지난 27일부터 열린 이번 행사를 통해, 금융업계에서 실제 진행되고 있는 AI서비스 기술 분석 및 도입 사례를 공유하고, 금융회사가 AI 기술을 도입하는데 따르는 현실적인 고민거리에 대해 해결책을 제시하는 데 초점을 맞췄다.
AI와 클라우드를 기반으로 고객 콜상담을 디지털화한 AICC(AI Contact Center) 및 고객 경험 분석용 데이터 플랫폼 구축사례 등을 토대로 멀티-모달 환경에서 다양한 언어모델을 활용할 수 있는 생성형 AI 서비스 구축 방안도 제시했다.

이날 세미나에서 이정훈 코스콤 클라우드 서비스 팀장은 "코스콤은 금융기관에서 즉시 활용 가능하고, 규제 적합성, 비욜 효율성을 갖춘 AI서비스, AI 인프라를 제공하고 있다"고 설명했다.

알파고(AlphaGo)에서 최근 생성형 AI '챗(Chat) GPT'까지 AI 기술의 변화를 전하고, 코스콤의 AI 서비스에 대해 소개했다.

백(back)오피스, 미들(middle)오피스에서 테스트베드 센터는 로보어드바이저 심사에 기여하고 있으며, 프론트(front) 오피스에서 클라우드 기반 콜센터, AI 가상상담원 등을 올인원(All in One) 서비스한다고 소개했다. D-테스트베드는 데이터 셋과 분석환경을 제공한다.

테스트베드에서는 2024년도 하반기에 로보어드바이저 투자 일임 서비스도 예정돼 있다.
이어 이지훈 코스콤 클라우드 AI 리더는 기술적인 측면에서 LLM(대규모언어모델) 모델, LLM 라우터, 래그(RAG, 검색증강생성기술), AI 인프라에 대해 안내했다.

금융사에서 클라우드를 활용해서 래그 기반 AI 서비스를 구축할 때 참고할 만한 아키텍처를 설명했다. 래그는 환각(hallucination) 현상을 억제하고, 최신 데이터를 소화해서 기존 LLM을 보완할 수 있는 기술로 꼽힌다.

이지훈 리더는 "금융사에서 래그 기반의 AI 서비스를 구축할 때 고려할 게 많아서 든든한 파트너가 필요한데 코스콤이 그 파트너가 될 수 있다"고 강조했다.

AI 사용의 분명한 목적이 중요하다고 강조됐다. 이정훈 팀장은 "결국 어떤 비즈니스를 만들어 나갈 지 부분을 먼저 결정하고 나서, 걸맞는 AI에 대한 기술들을 선택해서 사용하는 게 중요하다"고 설명했다.

이번 행사동안 코스콤은 홍보관에서는 금융 클라우드를 기반으로 제공되는 데이터 플랫폼 및 AI 기반 콜·상담 시스템 등 디지털 전환 서비스를 소개하고, 핀테크 혁신 생태계 조성을 위해 운영 중인 핀테크지원사업(금융클라우드 지원사업, D-테스트베드 사업, 핀테크 교육 사업)에 대해 상담도 실시했다.

정선은 한국금융신문 기자 bravebambi@fntimes.com