신용평가, AI 통한 혁신 선행 조건은…“제도적 수용성 제고·기업 AI 거버넌스 구축” [KODATA-핀산협 AI신용평가 포럼]

공정성·설명가능성 및 제도적 수용성 높여야
소비자 AI 기반 평가 구조·한계 이해 능력 필요

한국평가데이터와 한국핀테크산업협회가 서울 여의도 한국경제인협회 컨퍼런스센터에서 ‘AI(인공지능)를 활용한 신용평가’ 포럼을 개최했다고 3일 밝혔다./사진 제공 = 한국핀테크산업협회

[한국금융신문 김다민 기자] AI를 통한 신용평가 혁신을 위해 공정성과 설명가능성 및 제도적 수용성 등을 높여야 한다는 제언이 나왔다.

김영도 한국금융연구원 선임연구위원이 3일 서울 한국경제인협회 컨퍼런스센터에서 열린 ‘KODATA-한국핀테크산업협회 공동 포럼’에서 “AI가 신용평가 혁신의 핵심도구인 만큼, 공정성과 설명가능성 및 제도적 수용성 등을 높이고 기업 내 AI 거버넌스를 구축해야 한다”며 “AI 특성에 맞춘 유연한 규제 체계, 기업 및 소비자 권리 보장을 위한 기술 표준화, 정보 비대칭 해소 방안이 병행되어야 할 필요가 있다”고 밝혔다.

김영도 위원은 핵심 과제로 공정성과 설명 가능성, 제도적 수용성을 꼽았다. 또한 소비자의 AI 문해력 향상 필요성도 강조했다.

김 위원은 “AI는 신용 평가의 정밀도와 효율성, 금융 포용성과 편의성을 비약적으로 향상시킨다”며 “그러나 기술의 발전만큼 윤리적 고려와 법 제도의 정비가 중요하고, 소비자가 AI 기반 평가의 구조와 한계를 이해할 수 있는 능력이 필요하다”라고 지적했다.

김영도 위원은 AI 도입으로 비정형 데이터를 활용함에 따라 정밀성과 효율성을 향상해 신용 평가의 예측력과 자동화 수준을 크게 개선할 수 있다고 진단했다.

김 위원은 “전통적 방식의 신용평가 방식은 정형화된 데이터를 기반으로 통계 모델을 통해 예측하는데, 이러한 방식은 활용 가능한 데이터 범위가 한정적이고 평가 과정에서 평가자의 주관이 개입될 가능성이 높다”라고 말했다.

그는 이어 “AI 기술은 비정형 데이터를 포함한 다양한 정보를 빠르고 정밀하게 분석해 신용 평가의 예측력과 자동화 수준을 크게 개선할 수 있다”고 말했다.

김 위원은 AI를 개인 신용평가에 적용할 경우 대안 데이터의 활용으로 정교한 개인 평가가 가능해지고 평가 사각지대를 해소할 수 있다고 설명했다. 기업 신용평가의 경우 비재무 정보의 활용으로 기업 리스크의 조기 감지는 물론, 정량화도 가능하다고 언급했다.

그는 “현재 국내외적으로 AI를 활용한 신용평가를 진행하는 사례는 꾸준히 발생하고 있어 업계에서 AI 활용의 이점은 충분히 인정되고 있다”며 “금융분야의 한 부분인 신용평가를 비롯해 금융분야의 AI 시장 전망은 상당히 긍정적”이라고 분석했다.

김영도 위원은 AI 신용 평가의 주요 쟁점으로 ▲AI 알고리즘 편향의 위험성과 차별 가능성 ▲국내 법·지침 정비 등 제도적 대응 ▲복잡한 AI 모델의 불투명성 ▲해석·설명 가능한 AI 기술(XAI) 균형 적용 필요 ▲단순 정확도 평가의 한계 등을 꼽았다.

김 위원은 “AI는 데이터에 내재된 편향이 그대로 모델에 반영될 수 있어 이는 특정 계층에 대한 차별적 결과로 이어질 수 있다”며 “국내 ’신용정보법‘과 은행연합회 ‘불합리한 차별 행위 방지 모범 규준’을 통해 성별, 학력 등을 이유로 한 차별을 명확히 금지했으나, 유사 변수에 의한 간접 차별 가능성이 남아 있어, 지속적인 모형 검증과 제도 개선이 필요하다”고 강조했다.

그는 이어 “AI 모델은 복잡한 구조를 가져 평가 결과에 대한 금융소비자의 이해를 어렵게 할 수 있으며, 생산자들도 해석하기 어려운 문제점이 있다”며 “이를 해결하기 위해 해석·설명 가능한 AI 기술을 균형적으로 적용할 필요가 있다”고 설명했다.

김영도 위원은 “전통적인 성능 평가 지표로 AI의 결과물을 평가하기엔 한계가 명확하다“며 ”종합적인 평가 체계가 마련이 필요하며 이는 제도적 대응이 필요하다“고 강조했다.

김다민 한국금융신문 기자 dmkim@fntimes.com