[기자수첩] AI 대전환, 금융의 핵심은 ‘신뢰’

[한국금융신문 우한나 기자] 금융권은 현재 ‘인공지능(AI) 대전환’이라는 말이 나올 만큼 도입 경쟁이 치열하다. 여신 심사부터 챗봇, 사기탐지(FDS), 투자자문까지 적용 범위도 다양하다.생성형 AI 기술이 빠르게 발전하면서 은행권에서 AI 활용은 더 이상 선택이 아닌 기본 역량으로 받아들여지고 있다.

정부와 금융당국 역시 “AI가 금융 경쟁력을 좌우할 것”이라고 강조하며 금융권의 AI 도입 속도는 더욱 빨라지는 분위기다.

실제로 은행권은 이미 상당수 업무에 AI를 적용하고 있다. 기업대출 심사 과정에서 AI를 도입하고, 의심거래보고(STR)에 AI 모델을 활용하는가 하면 생성형 AI를 탑재한 AI 뱅커 서비스를 내놓는 곳도 있다.
나아가 AI 챗봇 기반 금융상품 상담, AI 수출환어음 매입 전산 자동화, 대안 신용평가 모형(ACSS) 고도화, 자체 AI 신분증 검증 시스템 등 AI가 들어오지 않은 영역이 거의 없을 정도다.

하지만 AI는 ‘잘 쓰면 혁신’, ‘못 쓰면 사고’가 되는 양날의 검이다. 금융은 단 한 번의 오류가 곧 사고로 이어지는 만큼 기술 도입보다 리스크에 대한 사전 점검을 통해 신뢰할 수 있는 시스템을 구축하는 것이 절대적으로 중요하다. 정부의 규제나 가이드라인만으로는 모든 위험에 대비할 수 없기 때문에 금융회사 스스로 리스크를 세분화해 대응 체계를 갖추는 것이 필요하다.

우선 AI 도입 과정에서 가장 큰 문제는 책임소재의 모호함이다. 예를 들어 AI가 신용평가를 잘못해 대출이 부당하게 거절되거나 승인될 경우 최종 책임이 누구에게 있는지 명확히 규정하기 어렵다. 책임구조가 불분명하면 분쟁 발생 시 소비자 보호 공백이 생길 수밖에 없다.

두 번째는 정확성 리스크, 특히 생성형 AI 특유의 환각 문제다. 생성형 AI는 자연스러운 답변을 만들기 위해 정보를 추론하는 특성이 있다. 이 과정에서 사실이 아닌 내용을 그럴듯하게 제시하는 환각 문제가 발생한다. 아무리 방대한 고품질 데이터를 학습해도 사각지대는 존재한다.

특히 질문이 복잡해질수록 환각 발생 확률은 더 높아진다. 보안·개인정보 유출 위험 역시 금융권에서는 민감한 문제다. AI 시스템은 학습·운영 과정에서 방대한 개인정보와 금융데이터를 다루기 때문에 데이터 유출, 악용, 사이버 공격에 노출될 가능성이 상존한다.

따라서 금융권은 AI 확산이 초래할 수 있는 위험을 면밀히 파악하고 이에 대한 대응책을 선제적으로 마련해야 한다.

AI의 편리함과 효율성에만 집중할 것이 아니라 오류 가능성은 없는지, 편향된 판단이 개입되지는 않는지, 제도적·기술적 사각지대는 없는지 지속적으로 점검해야 한다.

AI는 강력한 도구지만, 결코 만능이 아니다. 금융의 본질은 ‘신뢰’다. 빠른 AI 도입 경쟁보다 중요한 것은 ‘정확한 도입’이다. AI 활용 과정에서 발생한 오류나 편향, 보안 취약점이 현실화될 경우 그 피해는 고스란히 소비자와 시장에 전가될 것이다.

금융권이 신뢰를 기반으로 한 AI 활용을 통해 보여주기식 속도 경쟁이 아닌 실질적 금융 혁신을 이뤄나가길 바란다.
우한나 한국금융신문 기자 hanna@fntimes.com