• 구독신청
  • My스크랩
  • 지면신문
FNTIMES 대한민국 최고 금융 경제지
ad

금융보안원, AI 에이전트 보안 위협 보고서 공개…"보안체계 구축 필요"

우한나 기자

hanna@fntimes.com

기사입력 : 2025-06-10 16:00

'에이전트 하이재킹', '도구 오염' 위협 상세 분석
AI 에이전트 위험에 대응하는 보안 체계 필요성↑

사진=금융보안원

사진=금융보안원

[한국금융신문 우한나 기자] 금융보안원이 추론 AI 모델의 출현 및 기술의 발전으로 금융권 내 AI 에이전트 도입이 증가할 것으로 전망됨에 따라 AI 에이전트 기능을 가로채 악용하거나 사용하는 도구를 오염시키는 등의 보안 위협을 체계적으로 정리한 보고서를 공개했다.

AI 에이전트는 사용자 의도에 따라 목표를 설정한 뒤 환경을 분석하고 필요한 도구를 활용해 인간의 개입 없이 자율적으로 목표를 수행하는 AI 시스템을 의미한다.

기존 LLM 기반 AI가 정보를 제공해 사람의 판단과 결정을 지원했다면 AI 에이전트는 여러 가지 외부 도구를 통해 필요한 조치를 스스로 실행할 수 있다는 점에서 차이가 있다.

금융보안원, AI 에이전트 보안 위협 보고서 공개…"보안체계 구축 필요"이미지 확대보기

이에 안전한 에이전트를 활용하려면 AI 모델에 대한 위협뿐만 아니라 외부 도구 연동에 따른 위험도 함께 고려할 필요가 있다.

AI 에이전트 대상 주요 보안 위협은 독립적 의사결정에 수반되는 위협과 공격 표면 증가에 따른 위협으로 분류된다.

우선 AI 에이전트가 독립적으로 의사결정을 내리는 과정에서 조작되거나 거짓된 정보를 참조해 의도치 않은 행위를 수행하도록 유도하는 AI 에이전트 하이재킹 공격의 우려가 증가했다.

금융보안원, AI 에이전트 보안 위협 보고서 공개…"보안체계 구축 필요"이미지 확대보기

AI 에이전트가 사용자의 정당한 지시와 외부 데이터에 숨겨진 공격자의 악의적인 지시를 구분하지 못할 경우 사용자 지시를 처리하기 위해 외부 데이터를 참조하는 과정에서 악의적인 지시를 사용자의 요청으로 착각해 수행할 가능성이 존재한다.

또한 AI 에이전트에 연동되는 도구의 수와 종류가 증가함에 따라 공격 표면이 확장되고 공격 발생의 가능성이 높아진다.

금융보안원, AI 에이전트 보안 위협 보고서 공개…"보안체계 구축 필요"이미지 확대보기

예를 들어 에이전트가 참조하는 도구 설명에 조작된 내용을 끼워 넣어 악성 행위를 수행하도록 유도할 수 있다.

일반적으로 사용자는 에이전트가 사용하는 도구 설명 전체를 확인하기 어려워 숨겨진 악성 행위를 식별하기 어렵다.

향후 금융권에 AI 에이전트가 도입이 본격화돼 이러한 보안 위협에 노출되면 비정상적인 대출 승인, 공격자 계좌로의 자금 이체 등 직접적인 피해가 발생할 우려가 있다.

특히 현재 법체계는 AI가 독립적으로 행동한 문제를 명확히 다루지 못해 AI 에이전트 행동에 대한 책임 소재도 불분명하다.

AI 에이전트의 독립적 의사결정, 공격 표면 증가 등으로 인해 기존 보안 체계로 충분한 검증·제어하기 어려운 한계가 있어 위협 평가를 바탕으로 적절한 보안 체계를 마련할 필요성이 커지고 있다.

기본적으로 AI 에이전트의 의사결정 과정을 기록·추적하는 체계 구축, 사람의 검토·승인 절차 도입, 최소 권한 부여 및 관리, 요청 작업에 대한 실시간 모니터링 및 검증 등이 필요하다.

금융보안원은 금융회사가 AI 에이전트의 자동화 편의성을 적극 활용하는 동시에 잠재적 보안 위협을 충분히 인지하고 종합적인 AI 보안 체계를 구축할 수 있도록 지속적으로 지원할 계획이다.

우한나 한국금융신문 기자 hanna@fntimes.com

데일리 금융경제뉴스 FNTIMES - 저작권법에 의거 상업적 목적의 무단 전재, 복사, 배포 금지
Copyright ⓒ 한국금융신문 & FNTIMES.com

기자의 기사 더보기 전체보기

가장 핫한 경제 소식! 한국금융신문의 ‘추천뉴스’를 받아보세요~

금융 다른 기사

1 양종희 전 KB 회장, 아름다운 마무리..."하나의 KB로 고객 약속 지키길" [금융권 이슈] “첫 출근의 설렘을 안고 들어섰던 이곳에서, 오늘은 여러분과 함께한 시간에 대한 감사와 자부심을 안고 떠납니다”양종희 전 KB금융그룹 회장이 금융인으로 첫발을 내디딘 KB국민은행 여의도영업부에서 3년간의 회장 임기를 마무리했다. 양 전 회장은 은행·증권·보험·카드의 전문성을 모아 고객 앞에서 ‘하나의 KB’가 되고, 고객의 자산과 정보를 지키며 한 번 한 약속은 끝까지 책임져 달라고 당부했다. KB금융그룹은 20일 오후 KB국민은행 여의도영업부에서 양 전 회장의 이임식을 열었다. 양 전 회장은 고객과 주주, 임직원들에게 감사를 전하고 이재근 신임 회장에게 그룹 경영의 바통을 넘겼다.총주주환원율 52.4%···4대 금융지주 2 금감원, 가상자산업계에 AI 해킹 경고…"전산시스템 전반 원점 점검" 금융감독원이 인공지능(AI)을 활용한 해킹 위협에 대응해 가상자산업계에 이용자 정보와 자산 보호를 위한 철저한 보안 관리를 당부했다. AI가 전산시스템에 잠재된 취약점을 찾아내 공격하는 사례가 확산되는 만큼 외부접점을 비롯한 정보기술(IT) 자산 전반을 원점에서 점검하고, 침해사고 예방에 전사적인 역량을 집중해야 한다는 주문이다.20일 금감원은 서울 여의도 본원에서 이종오 디지털·IT 부원장보 주재로 가상자산사업자 침해사고 대응 간담회를 열었다. 간담회에는 전체 28개 가상자산사업자의 정보보호최고책임자(CISO)와 보안 담당자, 디지털자산거래소 공동협의체(DAXA) 관계자 등이 참석했다.이번 간담회는 최근 금융권과 가상자 3 임지숙 우리은행 차장 "로또 13억, 한 번에 투자 말고 6~12개월 분할 매수" [로또 1등도 은행갑니다⑤] 최근 종영한 티빙 드라마 '로또 1등도 출근합니다'처럼 평범한 직장인이 하루아침에 세후 로또 당첨금 13억원을 손에 쥔다면 어떻게 운용해야 할까. 우리은행은 갑작스럽게 생긴 목돈을 한꺼번에 투자하기보다 6~12개월에 걸쳐 분할 매수하고, 연령별 자금 수요에 맞춰 주식과 채권 비중을 조정하는 전략을 제시했다.임지숙 우리은행 WM영업전략부 차장(포트폴리오 매니저)은 한국금융신문과의 서면 인터뷰에서 2030세대에는 주식형 상품 46%를 담은 성장 중심 포트폴리오를, 40대에는 채권 비중을 높인 균형형, 60대 이상에는 채권·머니마켓펀드(MMF) 60%를 활용한 안정형 자산배분을 제안했다. 임 차장은 높은 수익률을 좇아 성급하게 투자하기
ad
ad
ad

한국금융 포럼 사이버관

더보기

FT카드뉴스

더보기
[카드뉴스] 새우젓 따라 만나는 옛 마포나루
[카드뉴스] 성북동 언덕길, 만해의 집을 만나다
[카드뉴스] 약재 향 따라 걷는 서울약령시
[그래픽 뉴스] ‘순대’가 경제용어라고? 순(純)대외자산, 한국의 진짜 해외자산은 얼마일까?
[그래픽 뉴스] ISA 대개편! 나에게 유리한 계좌는?

FT도서

더보기