피플펀드, 업계 최초 ‘설명가능한 AI모델’ 자체 개발

[한국금융신문 신혜주 기자] 피플펀드(대표 김대윤)가 여신심사 및 평가 분야에서 사용될 '설명가능한 인공지능 모델(XAI)' 4종을 자체 개발해 사용화한다고 29일 밝혔다. 이로써 블랙박스 형태로 개발된 피플펀드의 AI신용평가시스템은 AI 설명 체계를 갖추게 됐다.

XAI는 AI의 작동원리와 의사결정 근거 등을 사용자가 이해하고 믿을 수 있게 하는 방법론을 말한다. 피플펀드의 XAI모델은 AI신용평가시스템의 차입자 평가 근거를 설명해 준다.

사용중인 신용평가모형이 동일 시점의 시장 상황 변화에 잘 적응하고 있는지, 모형 성능이 유지되고 있는지에 대한 판단과 설명 기능까지 포함하고 있다.
피플펀드의 XAI모델은 총 4가지다. ▲차입자 신용평가에 대해 각 변수들이 미치는 긍/부정 요인 및 영향도 설명 ▲잠재 우량도 설명 ▲차입자 데이터 과거-현재 비교 ▲모형 성능 저하 정도 및 교체 필요성 평가 모델로 구성돼 있다.

강민승 피플펀드 최고기술책임자(CTO) 겸 AI연구소장은 "아직 AI의 투명성과 공정성에 대한 사회적 신뢰가 충분치 않은 상황에서 알고리즘의 판단 결과를 충분히 설명하지 못하면 AI신용평가기술이 지속적으로 확대되기 어렵다고 판단해 XAI모델들을 개발하게 됐다”고 말했다.

이어 "피플펀드의 향후 XAI 기술 개발의 키워드는 ‘편향성’으로, AI신용평가시스템에서 새롭게 발견되는 차별과 불공정 요소들을 빠르게 탐지하고 해결하기 위한 기술 연구에 집중할 것"이라고 덧붙였다.

신혜주 기자 hjs0509@fntimes.com