최원석 BC카드 대표, 글로벌 AI 생태계 진입 본격화… 초거대 언어모델 19종 공개 [금융권 AI]

스타트업·소상공인 활용 가능한 양자화 LLM 기술 개발
상품 정보·가맹점 데이터 자동화… 맞춤형 마케팅 강화

최원석 BC카드 대표. 사진제공=BC카드

[한국금융신문 강은영 기자] 최원석 BC카드 대표가 경쟁력 확보 방안으로 AI 기술에 집중하고 있다. 양자화 기술을 적용한 초거대 언어모델(LLM) 18종을 글로벌 AI 플랫폼 ‘허깅페이스(Hugging Face)’에 공개하고, 자체 개발 기술을 기반으로 한 AI 혁신 서비스도 잇따라 선보이고 있다.

9일 BC카드는 국내 금융사 최초로 양자화된 초거대 언어모델(이하 LLM) 18종을 글로벌 AI 플랫폼 허깅페이스(Hugging Face)에 공개했다.

‘동적 양자화’ 기술로 고성능·저비용 구현

이번에 공개된 LLM 18종은 고가의 GPU 장비 없이 누구나 초거대 AI를 활용할 수 있도록 동적 양자화 기술을 적용했다. 동적 양자화는 AI 모델이 사용하는 수치를 압축해 배포한 뒤 실제 활용 시점에 이를 복원해 연산 성능과 효율성을 동시에 높였다.

BC카드는 해당 기술을 통해 GPU 사용량 감소에 따른 처리 속도 향상과 산출 결과물의 품질 저하 없이 안정적인 AI모델 구동이 가능해졌다고 설명했다.

실제 글로벌 기업의 최신형 GPU에서 BC카드의 양자화 LLM을 실행한 결과, AI 연산 속도가 최대 3.5배 빨라졌다. 4000만원대 고가 GPU에서만 구동 가능했던 320억개 파라미터 규모 모델도 300만원대 GPU에서 원활히 작동하는 성능을 입증했다.

BC카드는 고가 장비 도입에 부담을 느꼈던 중소기업, 스타트업, 소상공인들이 보다 저렴한 환경에서 초거대 AI 기술을 실질적으로 활용할 수 있게 됐다고 밝혔다.

BC카드는 이 기술을 자사 서비스에도 적극 도입하고 있다. 현재 AI 에이전트 '모아이(MoAI)'를 통해 사내 지식 질의 응답, 가맹점 심사 자동화, 고객 민원에 대한 분류 및 처리 등 직원들의 반복된 업무를 줄이고 있다. 개인 맞춤형 마케팅 서비스 ‘페이북 AI핫딜’, 생활 콘텐츠 추천 서비스 ‘리빙+’ 등을 통해 결제 기능을 넘어 소비생활을 지원하는 AI 서비스로 확장하고 있다.

향후 BC카드는 소상공인 가맹점주를 위한 AI기반 가맹점 추천 및 마케팅 캠페인 기획 등 가맹점 지원 서비스도 연내 출시할 계획이다. 아울러 AI에 익숙하지 않은 사용자도 손쉽게 사용할 수 있도록 MCP(Module Context Protocol) 기반의 다양한 기능들을 간편한 인터페이스로 제공하는 통합 솔루션도 선보일 예정이다.

카드업계 최초 AI 기반 '혁신금융서비스' 2건 지정

BC카드는 지난달 금융위원회로부터 AI 기반 '혁신 금융서비스' 두 건을 신규 지정받는 성과를 얻었다.

국내 카드사 중 AI 관련 두 건의 혁신 금융서비스로 지정된 사례는 이번이 처음이다.

이번에 지정받은 서비스 중 하나인 ‘생성형 AI 기반 광학문자인식(OCR) 서비스’는 BC카드 11개 회원사 개별 카드상품안내장 이미지 파일에서 텍스트를 자동 추출해 데이터베이스(DB)화하는 작업이다.

기존 수작업으로 진행되던 상품 정보 입력, 등록, 검토 작업 등을 자동화함으로써 오류를 최소화하고 회원사 상품 정보의 검색성과 일관성을 높여 회원사 카드 프로세싱 업무 효율성을 개선할 수 있다.

다음으로 ‘소비자 친화적 추론 데이터 생성 서비스’는 카드사가 가지고 있는 가맹점 정보를 생성형 AI 기술을 통해 최신 정보로 업데이트한다. 기존에는 해외 가맹점 정보를 글로벌 결제 브랜드사에 의존했는데 직접 확보가 가능해 최근 늘어난 해외결제건에 대한 고객별 맞춤형 특화 상품 및 마케팅을 제공할 수 있는 기반이 마련됐다.

BC카드는 혁신금융서비스로 지정 받은 서비스를 향후 2년간 임시 서비스 운영을 통해 본격 출시에 앞선 테스트를 진행한다. 연말까지 해당 서비스를 실제 서비스에 적용해 보고 개선해 나간다는 방침이다.

최원석 BC카드 사장은 “앞으로도 금융소비자 중심의 디지털 금융 혁신을 지속적으로 추진해 금융 AI기술을 선도하는 금융사로 역할을 다할 것”이라고 말했다.

강은영 한국금융신문 기자 eykang@fntimes.com