이은미號 토스뱅크, AWS AI로 장애 잡고 ZeroOps로 운영 효율화 [망분리 넘어서는 인뱅]

[한국금융신문 장호성 기자] 이은미닫기이은미기사 모아보기 대표가 이끄는 토스뱅크는 생성형 인공지능(AI)의 활용 무대를 은행의 핵심 IT 운영 영역으로 넓히고 있다. 문서 처리나 코드 리뷰처럼 사람이 반복적으로 수행해왔던 업무를 AI로 자동화하는 데서 나아가, 시스템 장애가 발생했을 때 원인을 찾아내고 대응 방법을 제시하는 역할까지 생성형 AI에 맡기는 방식이다.

금융당국의 망분리 규제 완화가 적용될 경우, 그동안 외부 통신망과 분리돼 있던 내부 정보처리시스템의 로그와 운영 데이터를 외부 고성능 생성형 AI와 연결할 수 있게 된다.

고객 1600만명을 넘어선 토스뱅크 입장에서는 늘어나는 서비스와 시스템을 인력 확충만으로 관리하기보다 AI를 활용해 운영 생산성과 안정성을 함께 끌어올리는 전략이 더욱 중요해지고 있다는 평가다.

내부망 로그·코드까지 AI가 분석…ZeroOps로 장애 원인 찾는다

금융위원회는 지난 7월 1일 토스뱅크의 ‘생성형 AI 기반 시스템 장애 원인 분석 서비스(ZeroOps)’를 혁신금융서비스로 지정했다. 임직원이 사용하는 서비스로, 아마존웹서비스(AWS)가 제공하는 생성형 AI 플랫폼 ‘AWS Bedrock’을 시스템 장애 원인 분석에 활용하는 것이 골자다.

ZeroOps의 특징은 생성형 AI가 단순히 직원의 질문에 답하는 수준을 넘어 실제 장애 분석에 필요한 여러 시스템 정보를 직접 조회·분석한다는 데 있다.

토스뱅크의 서비스에서 시스템 에러나 장애가 발생하면 AI Agent가 ▲Elasticsearch 로그 ▲Prometheus·Grafana 메트릭 ▲GitHub 코드 변경점 ▲Sentry 에러 정보 등을 자동으로 조회한다. 이후 서로 다른 정보를 종합해 장애가 발생한 원인을 추정하고 임직원에게 필요한 조치 권장사항을 제공한다.

가령 서비스 장애 직전 특정 코드가 변경됐다면 해당 코드와 당시 시스템 로그, 서버 성능지표, 실제 발생한 오류 정보를 사람이 각각 찾아 대조하는 대신 AI Agent가 이를 한꺼번에 분석하는 식이다. 장애 대응 인력이 원인을 찾는 데 들이는 시간을 줄이고 문제 해결에 보다 집중할 수 있는 구조다.

ZeroOps가 이번 망분리 규제 완화와 직접 맞닿아 있는 이유도 여기에 있다. 서비스의 업무 대상은 전자금융감독규정에 따라 외부 통신망과 물리적으로 분리된 내부 전산실의 정보처리시스템이다. 기존 망분리 체제에서는 외부 생성형 AI가 이 같은 내부 정보를 활용하는 데 제약이 있었지만, 혁신금융서비스 지정을 통해 AWS Bedrock을 연계해 활용할 수 있는 길이 열린 셈이다.
토스뱅크는 직원 수가 1000명에 미치지 못해 지난 6월 1차 보안목적 망분리 규제 완화 테스트의 신청 대상에서 제외됐지만, 2차부터 인력 기준이 300명으로 낮아지면서 참여 문턱이 열렸다.

코드리뷰·OCR서 효과 확인…AI 활용 중심 ‘내부 업무’로

이번 ZeroOps는 토스뱅크가 추진해온 AI 기반 업무 자동화의 연장선에 있다.

토스뱅크는 지난해 12월에도 AWS Bedrock을 활용하는 ▲코드 리뷰 ▲마케팅·법률 검토 ▲경영·재무 분석 ▲Text to SQL 등 4개 서비스를 혁신금융서비스로 지정받았다. 고객을 대상으로 새로운 AI 금융상품을 내놓기보다 우선 내부 임직원이 수행하는 개발·준법·데이터 분석 업무의 생산성을 끌어올리는 데 생성형 AI를 적용한 것이 특징이다.

코드 리뷰에서는 자연어로 작성된 요구사항과 실제 코드가 일치하는지를 AI가 분석해 개발자의 검토 업무를 지원한다. 마케팅·법률 검토에는 마케팅 소재 생성과 법률 위반 여부 검토를 결합했고, Text to SQL을 통해서는 직원이 일반적인 언어로 질문해도 필요한 데이터를 추출할 수 있도록 했다.

신분증 위변조 탐지나 이상거래탐지시스템(FDS)에도 AI가 활용되고 있다. 토스뱅크는 지난 2년간 자체 AI 모델을 통해 410만장 이상의 신분증을 검증하고 약 2만건의 위변조 시도를 탐지했다. 자체 테스트 기준 탐지 정확도는 99.5% 수준이다. 고객 상담에서도 AI Agent를 구축해 상품·절차·정책 문서를 분석하고 상담 답변 초안이나 실시간 요약 등을 지원하고 있다.

최근에는 금융사기 예방에서도 외부 데이터와 AI를 결합하는 실험을 확대하고 있다. 토스뱅크는 금융보안원과 연합학습을 활용한 보이스피싱 탐지 AI 공동모델 개발에 참여했으며, 해당 모델은 지난 7월부터 실제 FDS와 병행해 현장에 적용됐다.

원본 금융거래 데이터를 외부 기관에 전달하지 않고 기관별 AI 모델의 학습 결과만 결합하는 방식으로 프라이버시를 유지하면서 탐지 성능을 높인 것이 특징이다. 공동모델 전체 기준 탐지 정밀도는 개별 모델 대비 최대 205% 향상된 것으로 나타났다.

AIOps 엔지니어 채용…폐루프 자동화로 업무 안정성 제고

토스뱅크가 AI 활용을 장애 대응과 IT 운영으로 넓히는 배경에는 빠른 외형 성장에 걸맞은 시스템 안정성을 확보해야 한다는 과제도 자리한다.

토스뱅크의 'AIOps' 플랫폼은 인프라 운영 데이터를 AI와 연결해 장애를 예측하고 자동 대응하는 것을 골자로 하고 있다. 구체적으로는 메트릭·로그·트레이스 등의 데이터를 사내 LLM 및 장애 지식베이스와 연동하고 시계열 분석으로 용량 부족이나 성능 저하를 선제적으로 탐지하는 것이 목표다.

궁극적인 목표는 ‘탐지→진단→대응→검증’이 이어지는 폐루프(Closed-loop) 자동화다. 반복적으로 발생하는 장애의 경우 시스템이 스스로 대응하는 Self-Healing 정책의 적용 범위도 확대한다는 계획이다.

현재 ZeroOps가 생성형 AI를 활용해 사람이 수행하던 장애 원인 분석을 자동화하는 단계라면, 향후에는 이상징후를 사전에 탐지하고 대응과 사후 검증까지 AI가 보조하는 방향으로 IT 운영의 자동화 수준을 높이려는 것으로 풀이된다.

망분리 규제 완화 역시 이러한 변화의 속도를 높이는 요인이다. 외부 고성능 AI가 은행 내부의 코드와 시스템 운영정보까지 분석할 수 있는 길이 열리면서 생성형 AI의 활용 대상이 단순한 문서 작성이나 직원 질의응답에서 핵심 IT 인프라 운영으로 이동하고 있기 때문이다.

토스뱅크가 반복 업무 자동화에서 출발한 AI 전략을 개발, 준법, 데이터 분석에 이어 장애 대응까지 넓히는 것은 같은 인력과 자원으로 더 많은 서비스를 안정적으로 운영하기 위한 생산성 경쟁으로 읽힌다. 망분리의 벽을 넘어선 AI가 토스뱅크의 ‘보조 도구’에서 은행 운영을 떠받치는 핵심 인프라로 자리 잡을 수 있을지가 다음 과제가 될 전망이다.

장호성 한국금융신문 기자 hs6776@fntimes.com