[기자수첩] 생성형 AI 시대, 규제 완화 앞서 리스크 대응 필수

[한국금융신문 한아란 기자] “새로운 비즈니스에 따르는 리스크를 어떻게 관리할지도 감독당국이 고민해야 할 부분입니다.”(김주현닫기김주현기사 모아보기 금융위원장)

“얼마나 위험분리를 잘 하는지, 윤리 원칙을 잘 운영하는지가 AI 발전을 다지는 초석이 될 것입니다.”(곽범준 금융감독원 디지털혁신국장)

“AI 도입에 따른 효익이 아무리 크더라도 100% 완전한 답과 금융 정보 등이 포함된 개인정보 보호는 양보할 수 없는 부분입니다.”(장일호 하나금융지주 AI데이터본부장 상무)
지난 21일 서울 중구 은행연합회에서 열린 ‘2024 한국금융미래포럼 : AI 혁명과 금융혁신 3.0’에서 참석자들은 인공지능(AI) 기술 도입에 따른 리스크 관리를 최우선 과제로 꼽았다.

금융권의 디지털 전환과 비대면 금융이 가속화하고 있는 가운데 주요 금융사는 미래 성장 동력을 끌어올릴 혁신 기술로 AI에 주목하고 있다.

한국금융신문이 지난 2월 국내 금융사 총 74곳 최고경영자(CEO)를 대상으로 ‘2024년 AI 활용과 전망’ 설문조사를 실시한 결과 현재 금융사의 업무·사업상 AI 활용 수준은 미미하지만 앞으로 50~80% 비중으로 높여갈 의사가 많은 것으로 나타났다.

AI가 앞으로 금융권에 끼칠 파급력과 영향력 정도에 대해 응답자의 81.1%는 인간과 기계 간 협업 시너지 기대를 꼽았다. 금융권 AI 도입에 따른 긍정적 효과로는 응답자의 절반가량(48.6%)이 업무 효율성 제고 및 시간 절약을 지목했다.

금융권은 특히 생성형 AI 기술에 주목해 주요 업무와 서비스에 적용하기 위한 개발·도입에 적극적으로 뛰어드는 중이다. 생성형 AI를 활용해 업무 효율성을 획기적으로 높이고 대고객 서비스 경쟁력도 강화할 수 있다는 판단에서다.
금융당국은 금융권의 AI 활용 활성화를 뒷받침하고 나선다. 김주현 금융위원장은 이번 포럼에서 “금융사의 모든 경쟁력은 데이터와 AI를 활용해 어떻게 생산력을 높일지에서 나올 것”이라며 “데이터와 AI로 고객과 시장 을 이해하고 빠른 시간 내에 효과적으로 분석함으로써 우리 기업이 경쟁에서 이길 수 있도록 지원할 것”이라고 강조했다.

금융위원회는 지난 3월 말 '금융권 AI 협의회'를 발족한 데 이어 지난달에는 ‘금융부문 망 분리 TF’ 1차 회의를 열고 AI 활용 관련 시스템 내용을 포함한 개선 방안을 마련하기로 했다.

금융위는 챗(Chat) GPT 등 생성형 AI 기술을 통한 업무 활용 및 금융 서비스 개발 수요가 크지만 AI 기술 특성상 외부망과 연계가 필수적이라 현행 망 분리 규제와 상충하는 부분이 있다고 보고, 금융회사 등 AI 기술 활용에 제약이 되는 내·외부 시스템 간 연계 및 내부 업무처리 자동화 등에 있어 개선 방안을 모색하기로 했다.

앞으로 보다 전향적인 규제 완화 정책이 필요하다는 목소리도 나온다. 정유신 디지털경제금융연구원장은 “현재 금융당국이 AI 가이드라인을 발표하고 있지만, 가상자산에서와 마찬가지로 소비자·투자자보호의 관점에서 접근하고 있다”며 “AI의 적극적 활용을 위한 금융관련 법·제도의 빠른 정비가 중요한 시점”이라고 강조했다.
다만 AI 도입 확산과 함께 환각(할루시네이션), 보안 등의 문제는 리스크 요인으로 떠오르고 있다.

오순영 KB국민은행 금융AI센터장 상무는 “생성형 AI의 답변 정확도에 대해 솔루션을 계속 만들어내고 있지만 100가지 질문에 100가지 정확한 답변을 하느냐는 것은 아직은 확실하지 않은 상황”이라며 “생성형 AI의 장점은 분명히 있지만 하나라도 문제가 생기면 산업을 죽이거나 기술 활용이 확 죽을 수 있어 내부에서 충분히 활용해봐야 하고, 생성형 AI가 설사 잘못된 답변을 하더라도 후속 조치나 앞단 대응에 있어 노하우가 필요하다”고 강조했다.

장일호 하나금융지주 AI데이터본부장 상무 역시 환각 문제를 첫번째 리스크 요인으로 꼽았다. 장 상무는 “생성형 AI는 학습 데이터상 다음에 올 확률이 가장 높은 단어를 예측해 문장을 생성함으로써 그럴듯한 오답을 만드는 기술적 한계를 갖고 있다”며 “100% 정확한 정보를 제공해야 하는 금융업에서 잘못된 정보 제공은 곧 금융사고가 될 수 있다”고 우려했다.

AI 학습을 위한 외부 클라우드 사용 시 개인정보를 포함한 데이터 유출 가능성도 커질 수 있다. 장 상무는 “보안 역시 큰 걱정거리”라며 “정보보호에 있어서는 최근 내규 등 덜 민감한 정보는 외부 퍼블릭 클라우드 등 보안된 영역에서 활용할 수 있지만 민감한 금융개인정보는 아직 자신할 수 없다”고 말했다.

전문가들은 AI 도입에 따른 각종 리스크 요인에 대응할 방안이 필수적이라고 입을 모은다. 곽범준 금감원 디지털혁신국장은 “AI가 데이터를 스스로 활용했을 때 해당 데이터를 어떻게 활용하는지 처음에는 알지 못하더라도 사후에는 문제가 될 수 있다”며 “발전된 시스템이 뒷걸음질치는 상황이 올 수 있어 윤리 문제는 굉장히 중요하다”고 강조했다. 금융당국은 AI 관련 윤리 원칙이 잘 운영되는지에 초점을 두고 감독하겠다는 방침이다.

금융위는 기술 태스크포스(TF)를 통해 금융 분야에 도입·활용되는 신기술의 영향 및 리스크를 점검하고 혁신 서비스 창출 및 성장동력 마련, 리스크 관리 관점에서 정책과제를 발굴하기로 했다. 김 위원장은 데이터·AI 분야에서 양질의 데이터 확보, 책임감 있는 AI 구축(거버넌스·XAI), 개인정보 보호와 조화 등을 중심으로 정책을 추진하겠다고 했다. 특히 사이버 보안 리스크 대응 차원에서 데이터 유출 방지, AI 활용 보안, 망분리 대체 수단, 제3자 리스크 관리 등을 과제로 꼽았다.

AI가 금융권의 변곡점이 된 현시점에서 새로운 기술 발전을 뒷받침할 유연한 규제 완화는 필수적이다. 하지만 장기적으로 지속가능한 금융혁신을 위해서는 속도보다는 디테일이 중요하다. 긴 호흡을 갖고 접근해보자.

한아란 한국금융신문 기자 aran@fntimes.com