[김의석의 단상] ‘속도와 신뢰 사이’ 금융 AX 딜레마 해법 찾기

[한국금융신문 김의석 기자] 최근 AI의 진화 속도는 인간의 예측 범위를 가볍게 넘어섰다. 성능이 18~24개월마다 두 배로 뛴다는 ‘무어의 법칙(Moore’s Law)’조차 이 흐름을 온전히 설명하기 어렵다. 기술은 폭주하듯 진화하고 있지만 금융의 제도와 신뢰 구조는 여전히 그 속도를 따라가지 못하고 있다.

이러한 격차 속에서 이재명 정부의 ‘AI 3대 강국 도약’ 비전이 본격화되며 금융권의 AI 전환(AX)도 속도를 내고 있다. 그러나 AX의 본질은 단순한 기술 경쟁이 아니다. 그것은 새로운 기능의 추가가 아니라, 금융의 운영 체제(OS)와 책임 구조를 AI 시대에 맞게 다시 짜는 구조적 전환에 가깝다.

그럼에도 현장의 체감은 여전히 더디다. 본지 창간 34주년 설문에서 금융권 CEO들은 자사 AX 진행률을 10~20% 수준으로 평가했다. 투자는 늘었으나 성과는 미진하다. 규제의 관성, 인력 부족, 조직 내부의 심리적 저항이 발목을 잡고 있다.
이는 기술이 아닌 구조의 문제다. 기술 장벽보다 더 높은 벽은 경직된 권한 체계와 파편화된 워크플로우다.

금융권은 이미 여신심사부터 챗봇, 이상거래탐지(FDS), 투자자문, 대안신용평가에 이르기까지 다양한 영역에 AI를 도입하고 있다. 생성형 AI의 급속한 발전으로 은행권에서는 AI 활용이 더 이상 선택이 아닌 기본 역량으로 자리잡고 있다.

정부와 금융당국도 “AI가 금융 경쟁력을 좌우할 것”이라며 도입 속도를 끌어올리고 있다. 다만 AI는 ‘잘 쓰면 혁신, 못 쓰면 사고’가 되는 양날의 검이다. 금융은 단 한 번의 오류가 소비자 피해와 시장 신뢰 붕괴로 직결되는 만큼, 기술 도입에 앞서 사전 리스크 점검과 신뢰 가능한 시스템 구축이 필수다.

머지않아 금융의 고객은 사람이 아닐 수도 있다. AI 에이전트가 판단을 대신하고 알고리즘이 거래의 중심에 서는 ’에이전트 경제(Agent-to-Agent)’가 도래하면, 금융회사가 마주하는 상대는 본질적으로 달라진다.

그때의 AX는 IT 고도화를 넘어 제도와 인력, 조직문화를 통째로 바꾸는 전사적 전환이어야 한다. 문제는 금융의 본질과 AI가 여전히 팽팽한 긴장 관계에 있다는 점이다.
금융은 ‘설명 가능한 신뢰’ 위에서만 존재할 수 있다. AI가 아무리 정교해도 의사결정 과정을 소명하지 못하고 책임의 경계가 흐려지면, 혁신은 통제 불가능한 리스크로 변질된다.

특히 대출 심사나 자산 배분처럼 재산권과 직결된 영역에서 알고리즘이 불신을 낳는 순간 금융의 토대는 흔들린다. 설명할 수 없는 금융은 신뢰받을 수 없다.

망분리 규제 완화와 SaaS(서비스형 소프트웨어) 확산은 신뢰 구조를 다시 설계할 기회다.

그러나 규제의 울타리가 낮아진 자리에는 ‘자기 책임’이라는 더 무거운 시험대가 놓인다. 생성형 AI가 확산돼도 핵심 판단은 여전히 경직된 보고 체계에 묶여 있고, 알고리즘이 아무리 고도화돼도 이를 해석하고 책임지는 거버넌스가 바뀌지 않으면 AX는 공허한 구호에 그친다. 경쟁력은 기술력이 아니라 데이터를 이해하는 경영진의 안목과 유연한 조직 문화에서 비롯된다.

책임 거버넌스 확립은 AX 지속 가능성의 핵심이다. AI 판단에 대해 누가 어디까지 책임질 것인가에 대한 합의 없이는 혁신도 일시적이다. 오판이 발생할 경우 즉각 차단·복구할 수 있는 ‘기술적 셧다운 권한’과 고위험 의사결정에 인간이 직접 개입하는 ‘휴먼 인 더 루프(Human-in-the-loop)’ 구조가 반드시 뒷받침돼야 한다.

감독 방식의 패러다임 전환도 시급하다. 사후 적발 중심의 규제로는 초(秒) 단위로 진화하는 AI 환경을 감당하기 어렵다. 감독의 초점은 규제 준수를 넘어 알고리즘의 편향성과 데이터 무결성을 상시 점검하는 방향으로 옮겨가야 한다. 섭테크(SupTech) 기반 실시간 감독 체계가 정착돼야만 혁신과 안정이 공존할 수 있다.

금융 AX는 단순한 기술 경쟁이 아니라 시장 질서의 재편이다. 결과가 합리적이어도 과정이 불투명하면 시장은 공정하다고 보지 않는다. 금융의 신뢰는 결과값이 아니라 과정의 투명성에서 형성된다.

이제 금융 경영진은 “어떤 AI를 쓸 것인가”보다 “이 AI의 판단을 누가, 어떻게 책임질 것인가”라는 질문에 먼저 답해야 한다.

지금 필요한 것은 화려한 선언이 아니라 ‘작동하는 규칙’이다. 금융권은 신뢰의 원칙을 세우고, 정부와 당국은 새로운 질서를 설계해야 한다. 결국 금융 AX의 승부처는 기술이 아니라 신뢰에, 시스템이 아니라 의지에 달려 있다.

오는 5월 19일 ‘2026 한국금융미래포럼’은 그 해법을 가늠할 분수령이 될 전망이다. 금융·정책·감독·학계가 모여 ‘AI 3대 강국을 위한 금융정책 방향’을 주제로 머리를 맞댄다. AI 혁신과 망분리 완화 속에서 금융 신뢰 구조를 어떻게 재설계할지 치열한 논의가 이어질 것이다.

이번 포럼의 본질은 분명하다. 속도를 넘어 구조로, 기술을 넘어 신뢰로 나아가는 금융 AX의 이정표를 세울 수 있느냐다. 보여주기식 속도 경쟁보다 신뢰 기반의 정확한 도입을 통해 금융의 본질을 먼저 지키는 선택이 필요하다. 기술은 도구일 뿐이다. 최후의 승부는 결국 그 도구를 다루는 인간의 의지와 책임 시스템의 완성도에 달려 있다. 이제 금융권과 정부가 그 물음에 답할 차례다.

김의석 한국금융신문 기자 eskim@fntimes.com