AI가 펀드 팔고 대출 내준다…오류 나면 책임은?

[한국금융신문 한아란 기자] 금융권의 인공지능(AI) 활용이 폭발적으로 늘고 있다. 시중 은행들은 신용평가나 펀드 판매나 대출 심사 등의 업무에 AI를 적용하는 한편 주요 영업점에 ‘AI 은행원’을 도입하기 위한 개발에 나섰다. 이 같은 변화에 문제점도 덩달아 커지자 금융당국은 AI와 관련한 원칙·기준, 책임 소재 등을 명확히 하기 위한 가이드라인을 내놨다.

앞으로 AI를 통한 신용평가나 대출 심사에 불만이 있는 소비자는 사람을 통해 재평가·재심사를 받을 수 있게 된다. 금융사는 신용평가나 대출 심사 등에 AI를 활용할 때 내부통제·승인 절차 등을 마련하고 별도의 책임자를 지정해야 한다. AI 시스템 개발·운영을 외부에 위탁했을 때도 소비자 피해 발생 시 빠른 피해구제가 가능하도록 명확한 손해배상 처리절차를 마련해야 한다.

◇ 은행권 ‘AI 은행원’ 도입 분주…AI가 대출 한도도 산출
9일 금융권에 따르면 신한은행은 오는 9월 서울 서소문·여의도중앙·홍제동·의정부점 등 수도권 40개 점포에 AI 은행원을 설치하고 내년 3월까지 도입 점포를 200개 내외로 늘릴 예정이다. 이후 전국 모든 점포에 AI 은행원을 도입한다는 계획이다.

국민은행도 하반기부터 AI 은행원을 적용한 키오스크를 영업점에 시범 배치한다. 국민은행은 지난 3월 서울 여의도 신관에 ‘AI 체험존’을 설치하고 AI 키오스크를 선보인 바 있다. AI 은행원은 딥러닝 기반 음성 합성·영상 합성·자연어 처리·음성 인식 등을 융합한 실시간 대화형 AI 기술을 적용해 실제 사람 은행권과 비슷한 수준의 상담 및 안내 서비스를 제공한다.

우리은행은 영상합성 기술 스타트업인 라이언로켓과 함께 AI 은행원을 개발해 내년 영업점에 도입하기로 했다. AI 은행원 개발은 딥러닝 기술을 기반으로 영상과 음성의 합성을 통해 특정 인물의 외모, 자세 및 목소리를 반영해 가상의 은행원을 구현하는 것을 목표로 한다. 상담하는 고객의 음성을 분석하고 이해해 실제 은행원이 상담하는 것과 같은 역할을 수행하도록 할 예정이다.

우리은행은 또 하반기 중 AI 기반 시장예측시스템과 AI 상담 통합 플랫폼을 구축한다. AI 기반 시장예측시스템은 AI를 활용한 금융시장 동향 분석으로 고객 수익률을 제고하고 리스크 관리를 강화하는 시스템이다. 포트폴리오 추천과 리밸런싱 기능도 탑재될 예정이다. AI 상담 통합 플랫폼은 AI 상담봇과 챗봇, 고객센터 내 ‘AI 전담 운영팀’ 등으로 이뤄진다. 우리은행은 AI 상담봇 도입과 챗봇 고도화를 위해 지난 3월 우선협상대상자를 선정하고 개발을 진행하고 있다.

하나은행은 최근 AI를 활용해 대출 한도를 산출하는 ‘AI 대출’을 선보였다. AI 대출은 하나은행과 하나금융융합기술원이 공동 개발한 대출 한도 모형에 데이터를 스스로 학습하는 머신러닝을 적용해 대출 한도를 산출한다. AI가 고객의 하나은행 거래 패턴을 분석하고, 200여 개의 변수 및 복수의 알고리즘 결합을 통해 리스크를 분석, 적정 한도를 부여하는 점이 특징이다.
◇ 금융사, AI 내부통제 장치 마련하고 책임자 지정해야

금융당국도 은행 등 금융권의 AI 적용 확대에 발맞춰 AI와 관련한 원칙·기준, 책임 소재 등을 제시하는 가이드라인을 마련했다. 금융위원회가 전날 발표한 가이드라인에 따르면 AI를 금융거래 및 대고객 서비스에 활용하고자 하는 금융사는 자체적으로 윤리 원칙과 관련 조직, 위험관리정책 등 내부 통제장치를 만들어야 한다.

우선 회사별 가치와 AI 활용 상황 등에 따라 AI 서비스 개발·운영 시 지켜야 할 원칙과 기준을 수립해야 한다. 또 AI의 잠재적 위험을 평가· 관리할 구성원의 역할과 책임, 권한을 기획-설계-운영-모니터링 등 서비스의 전 단계에 걸쳐 구체적으로 정의해야 한다.

특히 AI의 의사결정이 신용평가, 보험·대출·카드발급 심사 등 개인의 금융거래계약에 중대한 영향을 미치는 경우에는 이에 대한 내부통제와 승인절차 등을 마련하고 별도의 책임자를 지정하는 등 위험관리를 강화하도록 했다.

AI가 사람의 의사결정과정을 대체하는 경우 필요 시 사람에 의한 AI 시스템 감독·통제가 가능하도록 시스템을 설계해야 하고 주기적인 AI 시스템 성능 모니터링과 AI 개발 환경의 보안 취약성 점검 시스템 마련 등 위험 완화조치를 시행해야 한다.

◇ AI 평가결과 불만족 시 이의제기·재심사 가능

가이드라인에는 AI 학습에 사용되는 데이터의 출처·품질·편향성·최신성 등을 조사·검증하고 지속적으로 개선하도록 하는 내용도 포함됐다. 이와 함께 사생활정보 등 민감한 개인정보를 활용할 때는 비(非)식별조치 등을 거치고 해당 정보에 대한 활용 필요성을 면밀히 평가해 재식별·유출 등을 방지하도록 했다.

또 AI 활용결과 불합리한 소비자 차별 등이 나타나지 않도록 서비스 특성별로 위험요인을 통제하고 공정성을 높이도록 했다. 금융소비자에게는 AI가 활용된다는 사실을 사전에 고지하고, 소비자의 권리와 이의신청·민원제기 등 등 권리구제 방안도 안내하도록 했다.

금융사는 AI를 통해 신용평가, 보험가입 등 금융거래·계약체결 여부를 결정한 경우에 고객에게 ‘설명요구·정정요구권’이 있음을 고지해야 한다. 소비자는 AI 평가결과와 주요 평가기준, 사용된 기초정보에 대한 설명을 들을 수 있고, AI 평가에 활용된 자신에 대한 정보의 정정·삭제요구, 결과 재산출 등을 요구할 수 있다.

예컨대 AI를 통한 신용평가나 여신심사시스템을 운영하려면 대출 신청 단계에서부터 ‘신용평가가 AI에 의해 이뤄진다는 사실’을 안내하고, AI 평가결과에 불만족할 경우 이의제기·설명요구를 할 수 있다는 사실 및 이의제기·민원제기 채널 등을 알려야 한다.

이후 금융사는 미리 마련된 위험관리정책 등에 따라 금융소비자에게 신용평가결정의 기준, 사용된 정보의 종류 등에 대한 충분한 설명을 제공하고, 필요 시 금융소비자가 제공한 신규 데이터를 반영하여 재평가·재심사 등을 실시해야 한다.

금융사가 AI 시스템 개발·운영을 외부 기관에 위탁하는 경우에도 수탁기관이 준수해야 할 위험관리지침을 마련하고 주기적으로 보고·점검해야 한다. 또 AI 서비스로 인한 소비자 피해 발생 시 조속한 피해구제가 가능하도록 문제사례별 명확한 책임 주체와 손해배상 절차 등을 마련하도록 했다.

◇ 컨설팅 중심 가이드라인 시행…실무지침 3분기 마련

가이드라인은 준비 기간을 거쳐 연내에 시행된다. 다만 금융당국은 이번 가이드라인에 강제성은 부여하지 않기로 했다. 금융위 관계자는 “AI 가이드라인은 모범규준으로 컨설팅 위주의 접근을 통해 금융사에 과도한 부담이 없도록 할 계획”이라며 “금융사도 소비자 보호 이슈가 발생하지 않도록 책임감 있는 AI 도입을 당부드린다”고 말했다.

각 금융업권 협회는 금융서비스 특성에 맞춰 가이드라인을 구체화한 실무지침을 3분기 내 마련할 예정이다.

도규상닫기도규상기사 모아보기 금융위 부위원장은 “올 초 AI 챗봇 ‘이루다’ 논란에서 볼 수 있듯이 AI로 인한 차별 발생 가능성 등에 대한 우려가 있고, AI기술의 안전성에 대한 사회적 신뢰도 충분하지 못한 상황”이라며 “금융분야 AI 가이드라인은 이러한 문제 인식을 바탕으로 신뢰를 근간으로 하는 금융서비스가 AI 기술을 접목함에 있어 지켜야 할 최소한의 방향성을 제시하고자 했다”고 강조했다.

한아란 기자 aran@fntimes.com