신한銀, 이상징후 탐지 고도화…AI 활용 판단사유까지 쫓는다

[한국금융신문 정선은 기자] 신한은행이 이상징후 탐지를 위해 인공지능(AI) 기술을 활용할 때 명확한 탐지 사유까지 파악할 수 있도록 시스템 고도화를 추진하고 있다.

ICT(정보통신기술) 분야 신기술로 보안을 강화하되 금융업은 고객의 신뢰가 최우선이라는 점에서 인공지능의 판단 결과가 타당성을 확보할 수 있도록 초점을 맞추고 있다.

◇ ‘AI 발자국’ 분석 가동
7일 금융권에 따르면, 신한은행은 최근 머신러닝·인공지능 같은 ICT 신기술을 활용한 정보보호 이상징후 모니터링 체계 고도화 사업을 추진하고 있다.

입찰 세부 내용 중 눈에 띄는 항목으로 ‘설명 가능한 인공지능 탐지 체계(XAI, eXplainable AI)’ 구축이 꼽힌다. 설명 가능한 인공지능 탐지 체계(XAI)란, 이상징후 탐지 이벤트에 대한 명확한 탐지 사유와 상세 내역을 안내할 수 있는 시스템이다. 인공지능이 어떤 과정으로 해당 결과물을 냈는 지 확인할 수 있어서 결과의 신뢰성을 높일 수 있다.

APT(지능형지속위협)·웹공격 등 대고객 접점 통신망의 해킹 시도 탐지, 부정접속(로그인) 탐지, 악성 프로토콜/파일 유입 등 침해 위협 시도 탐지부터, 회색(gray)영역의 이상징후 탐지도 맡는다. 또 네트워크 주소 변환(NAT) IP 맵핑 정보 관리도 보안 고도화에 포함된다.

신한은행은 이번에 인공지능 탐지 체계를 갖춤으로써 하이브리드(Hybrid) 탐지 체계를 구축할 방침이다.

신한은행 측은 “현재 운영 중인 빅데이터 기반의 이상징후 모니터링 시스템과 새 인공지능 탐지 체계를 연계해서 모니터링을 강화할 계획”이라고 밝혔다.
◇ 다시 주목받는 XAI

보안을 강화하기 위해 새로운 ICT기술을 활용할 때 이처럼 ‘설명 가능한’ 체계 구축은 점점 더 중요해질 것으로 보인다.

금융업에 필수적인 신뢰성 확보는 물론, 법적 대응력과도 연관이 깊기 때문이다.

금융보안원의 ‘설명 가능한 인공지능(eXplainable AI, XAI) 소개’ 리포트에 따르면, 설명 가능한 인공지능은 1970년대부터 연구가 시작돼 최근 딥러닝이 세계적으로 확산되고 다양한 분야에 도입되면서 다시 주목받고 있다.
일부 머신러닝 기술의 경우 알고리즘이 복잡해 도출한 최종 결과의 근거나 도출과정의 타당성 등을 제공하지 못하는 이슈가 생겼기 때문이다.

금융보안원 보안기술연구팀 측은 “인공지능 기술이 미래 핵심기술로 인식되고 있지만 인공지능같이 빅데이터를 활용하는 기술로 인해 발생할 수 있는 사회적 차별이나 불평등은 우려 요소”라며 “설명가능한 인공지능으로 인해 금융·보험 등 다양한 분야의 인공지능 시스템이 사용자와 고객의 신뢰를 얻고 사회적 수용을 위한 공감대를 형성할 수 있을 것으로 예상된다”고 내다봤다.

아울러 법적 책임과 준수 여부를 확인하는 효과도 기대할 수 있다. 금융보안원 보안기술연구팀은 “인공지능 시스템의 잘못된 결과로 분쟁이 발생할 경우 원인 파악을 할 수 있다”며 “GDPR(유럽연합(EU) 개인정보보호 규정)과 같은 규정 준수 여부 검증도 가능하다”고 설명했다.

정선은 기자 bravebambi@fntimes.com