"은행 생성형 AI 도입하려면"…거버넌스 수립에 초점 맞춰야 [AI 혁명이 금융을 바꾼다]

[한국금융신문 신혜주 기자] 국내 은행들이 생성형 인공지능(AI)을 도입하기 위해서는 AI 개발과 활용뿐만 아니라 정확성과 투명성, 보안성을 토대로 한 거버넌스 수립에 초점을 맞춰야 한다는 주장이 나왔다. 특히 기업의 리더가 지속해서 AI 중요성을 강조할 때 초반 AI 전략 수립이 수월하다는 연구 케이스도 제시됐다.

안상혁 딜로이트컨설팅 파트너는 12일 '2024년도 은행부문 금융감독 업무설명회'에서 '은행업에서의 AI 활용방안과 리스크 요인'에 대해 발표했다.

안 파트너는 "최근 전통 금융사의 경쟁자는 MZ세대"라며 "이들은 플랫폼 간 이동이 거리낌 없으며 하나의 플랫폼에 대한 충성도는 굉장히 낮다"고 설명했다.
이어 "은행들은 지난해 슈퍼앱 등 다양한 금융 플랫폼을 만들었지만 만드는 게 다가 아니다"라며 "MZ세대의 요구사항을 끊임없이 파악하고 이들의 니즈에 맞춰 앱을 개선하려는 노력을 지속해야 한다"고 강조했다.

그는 "2017년 금융권에서 최초의 AI 기술 적용이 시도됐다"며 "신용평가 영역을 중심으로 맞춤형 상품 추천 등 고객 경험과 업무 자동화 순으로 은행 가치 사슬 전반에 AI가 활용되고 있다"고 말했다.

현재 국내 은행권이 도입한 AI 사례를 살펴보면 챗봇과 로봇 Advisory, 업무 자동화(RPA), 신용평가, 이상거래탐지(FDS), 자금세탁방지(AML) 등이 있다. 로봇 Advisory의 경우 AI 전문가가 고객에게 최적의 포트폴리오를 제공하거나, 퇴직연금 상품에 로보어드바이저 업체를 도입하는 식이다.

그는 "챗(Chat) GPT가 발표된 후 작년 한 해 동안 생성형 AI가 화두였다"며 "기존 AI는 대량의 학습데이터를 통해 의사결정과 예측 모형을 만들어 냈다면, 생성형 AI는 새로운 콘텐츠를 창조하는 단계까지 도달했다"고 했다.

생성형 AI는 국내 여러 금융권에 적용돼 쓰이고 있다. 교보생명의 경우 아직 PoC 단계이기는 하지만 보험약관에 대해 상품과 가입 기간별 요약 정보를 제공하고 있다.
BC카드는 주식 종목과 뉴스 등 투자 관련 정보를 브리핑해 주고 있으며, 24시간 질의응답이 가능한 'AI 투자 비서'를 운영하고 있다. DB손해보험은 올 하반기 출시를 목표로 내부 직원용 'AI 명함' 및 'AI 손비서' 서비스를 준비하고 있다.

그는 "은행업과 보험업에서의 생성형 AI 활동은 각 산업 전체를 봤을 때 가장 활발할 것이라는 예측도 있다"며 "다만 업 특성상 여러 제한사항으로 인해 타 산업군처럼 신기술에 대한 다양한 시도가 어렵다"고 전했다.

이어 "활용도 극대화를 위해서는 명확한 목적에 따라 적절한 Use Case 발굴과 적합한 기술 요소를 채택하는 선택과 집중이 필요하다"고 덧붙였다.

모건스탠리 케이스에 따르면 AI 전략 수립에 있어 리더가 지속해서 AI 중요성을 강조하는 게 큰 역할을 한다고 봤다. 새로운 기술을 탐색 및 연구하고 AI 매니저를 신규 채용하는 등 AI 도입을 목표와 세부 방안 수립, 필요 인력을 식별하고 확충하는 데 도움이 됐다.
안 파트너는 금융권에서 생성형 AI를 도입하기 위해서는 정확성과 투명성, 보안성 이슈를 반드시 생각해야 한다고 강조했다.

그는 "생성형 AI의 경우 정확성과 투명성 보안성 측면에서 잠재적 리스크를 보유하고 있다"며 "이러한 리스크는 특히 금융권에서 발생할 시 기업의 신용과 고객과의 신뢰 측면에서 상당한 영향을 미칠 가능성이 존재한다"고 언급했다.

과거 데이터 학습을 기반으로 해 학습 데이터가 거짓일 경우 잘못된 허위 정보를 결과물로 제공할 수 있으며, 편향된 정보를 학습할 경우 특정 성별이나 인종, 민족에게 차별적이거나 비하적인 결과물을 제공할 수 있다는 것이다.

또 수많은 매개변수와 복잡한 알고리즘으로 결과 도출을 위해 처리되는 과정을 구체적이고 투명하게 알 수 없으며, 대고객 서비스 시 개인 정보를 포함한 주요 기밀 정보를 유출할 수 있는 가능성도 존재한다.

그는 "결국 생성형 AI 개발과 활용이 중요한데, 거버넌스 수립도 발맞춰 가야 하는 숙제"라고 강조했다.

국내의 경우 AI 관련 법률은 점진적으로 개정되고 있으며, 이와 함께 금융당국이 주요 가이드라인을 제공하고 있다. 대부분의 국가는 활성화에 초점을 맞춘 자율규제 방식을 채택하고 있으며, 유럽연합회는 규제 중심으로 정책이 전환될 예정이다.

국내 최초로 AI 기본법이 발의된 건 2007년이다. 당시 '인공지능 연구개발 및 산업 진흥, 윤리적 책임 등에 관한 법률'이 발의됐다. 이후 2022년 7월 금융위원회는 금융분야 AI 가이드라인을 발간했으며, 그해 8월 금융분야 AI 개발 및 활용 안내서를 발간했다. 2022년 12월 AI 산업 육성 관련 법률안이 발의됐으며, 지난해 2월에는 개인정보법이 개정됐다.

금융분야 AI 보안과 관련해서는 지난해 4월 금융보안원에서 가이드라인을 발표했다. 지난해 6월에는 국가보안기술연구소에서 챗 GPT 등 생성형 AI 활용에 대한 보안 가이드라인을 내놓은 바 있다.

안 파트너는 "지난해 국내 금융권에서의 AI 거버넌스 수립은 부진했으며 AI 개발 및 활용 가이드라인 준수율은 미진했다"며 "많은 금융권이 개발과 활용에 초점을 뒀는데, 리스크를 해결하기 위해서는 가이드라인을 통해 AI 거버넌스를 수립하는 데 집중해야 한다"고 설명했다.

신혜주 한국금융신문 기자 hjs0509@fntimes.com