곽범준 금융감독원 디지털혁신국장 “거버넌스가 AI 발전 다지는 초석” [2024 한국금융미래포럼]

[한국금융신문 전하경 기자] "신기술을 도입에는 윤리적 문제가 내재되어 있습니다. 윤리 원칙 작동하는 거버넌스 구축이 AI 발전을 다지는 초석이 될 것입니다"

곽범준 금융감독원 디지털혁신국장은 21일 오후2시 은행연합회 국제회의실에서 열린 한국금융신문 주최 '2024 한국금융미래포럼 : AI(인공지능) 혁명과 금융혁신 3.0, 생성형 AI가 몰고 오는 금융의 미래’ 패널토론에서 이같이 밝혔다.

곽범준 디지털혁신국장은 "신기술 도입에는 윤리적 문제가 내재되어 있다"라며 "AI 도입 후 사후 윤리적 문제가 제기됐을 때 오히려 발전이 후진할 수 있으므로 AI 거버넌스 구축이 중요하다"라고 말했다.

AI 윤리 문제 국제적 이슈…금융당국 거버넌스 구축 초점

곽 국장은 AI 활용 시에 나타날 수 있는 윤리 문제를 미리 대응해야 한다고 강조했다.

곽범준 국장은 "관련이 없어보일 수도 있으나 배아 줄기세포 이야기 자율주행 등에서 (윤리와 관련된) 논란들이 있었다"라며 "기술 발전에서 (윤리) 논란이 발생했을 때 자율주행에서 정말로 중요했던 문제는 사고 직전에 이 시스템이 드라이버를 먼저 보호할 것인가 보행자를 보호할 것인가 가치 판단 문제"라고 말했다.

곽범준 국장은 AI 신용평가 시스템만 하더라도 어떤 데이터를 처리하느냐에 따라 윤리 문제가 발생할 수 있다고 설명했다.

곽 국장은 "사람이 신용평가를 하는 경우에는 국적이나 주소 정보를 사용하지 못하게 돼있다"라며 "그런데 AI가 데이터를 스스로 활용하기 시작할 때 국적, 주소 등의 데이터로 어떻게 하는지 처음에는 알지 못하더라도 사후적으로 문제가 될 수도 있다"라고 말했다.

그는 "이런 문제들이 지금 크게 화두로 전면적으로 드러나고 있지는 않지만 사후적으로 나중에 이슈가 됐을 때 많이 발전된 시스템들이 뒷걸음질쳐야 할 수 있는 상황이 올 수 있으므로 윤리 문제는 중요하다"라고 말했다.
그는 금융당국도 AI 운영에서 윤리 원칙이 잘 지켜지는지를 중점을 두고 있다고 말했다.

곽범준 국장은 "위험 분리를 얼마나 잘 하는지, 그 다음에 윤리 원칙을 얼마나 잘 정립하는지, 윤리 위원회를 잘 운영하는지 이런 문제들이 결국 AI 발전을 다지는 초석이 될 것"이라며 "금융감독원에서도 이 부분에 중점을 두고 소임을 다하려고 한다"라고 말했다.

AI 라이브러리로 데이터 활용 지원

금융권에서도 이미 생성형 AI 열풍이 불고 있는 만큼 AI 활성화를 위한 규제 개선 요구도 높아지고 있다.

한 포럼 참석자는 "AI 기술 개발과 데이터 협력이 지금보다 원활해질 필요가 있다는 얘기가 있다. 그런데 국내 금융회사들은 감독기관 가이드라인을 보수적으로 해석해서 외부 기관과 데이터 협력을 제한적으로 진행하고 있다"라며 "이에 대한 감독당국 입장은 무엇인지"라고 질의했다.

그는 금융당국에서도 가명·익명 처리된 데이터를 다시 활용할 수 있다면 AI 활성화에 도움이 될 수 있어 이를 다시 활용할 수 있도록 '금융 AI 데이터 라이브러리'를 혁신금융서비스로 지정했다고 말했다.

금융 AI 데이터 라이브러리는 가명·익명 처리된 데이터를 파기하지 않고 저장했다가 다시 사용할 수 있는 인프라다. 신용정보원, 금융보안원이 데이터를 저장·관리하고 개인정보 재식별을 방지하기 위해 데이터 적정성을 평가한다.

금융당국 차원에서는 AI를 활용해 보이스피싱을 예방할 수 있는 '금융거래 안심차단 서비스'를 시행할 예정이다.

곽 국장은 "금융거래 안심차단 시스템은 대출을 받을 때 미리 금융기관에 신청하면 제3자가 어떤 방법으로든 대출을 신청하려면 미리 입력한 전화번호로 연락해 본인 여부를 이중으로 확인한다"라며 "AI 발전 장점도 있지만 여러가지 위험 요인들도 있는데 그거에 대한 대응도 여러 각도로 하고 있으므로 신뢰를 많이 가지고 같이 노력해나갔으면 한다"라고 말했다.

전하경 한국금융신문 기자 ceciplus7@fntimes.com