AI 위험 보험으로 보장하려면…"위험별 보장체계 구축 필요" [사이버리스크 TF 세미나]

[한국금융신문 강혜린 기자] 인공지능(AI) 관련 위험을 보험으로 보장하기 위해서는 손실 데이터 축적과 위험별 인수기준 마련이 필요하다는 제언이 나왔다. AI 사고가 빠르게 증가하고 있지만 피해 규모를 파악할 수 있는 자료는 부족한 상황이다. 특히 동일한 AI 시스템에 문제가 생기면 여러 기업이 동시에 피해를 입을 수 있어 보험사의 위험분산에도 어려움이 따를 수 있다는 분석이다.

9일 코리안리재보험과 한국리스크관리학회는 서울 광화문 생명보험교육문화센터에서 '사이버리스크와 보험: 글로벌 연구와 시장의 시각'을 주제로 공동 세미나를 개최했다.

이날 마틴 엘링 스위스 생갈렌대학교 교수는 '사이버위험에서 AI 위험으로: 위험관리와 보험산업에 주는 시사점'을 주제로 발표하며 AI 위험의 특성과 보험화 가능성, 보험산업의 대응 방향을 제시했다.
엘링 교수는 “AI 위험 가운데 일부는 원칙적으로 보험으로 보장할 수 있지만, 여러 기업에 동시에 피해를 주거나 책임 소재가 불분명한 위험은 아직 보장하기 어렵다”며 “보험사와 재보험사는 모든 AI 위험을 하나의 상품으로 보장하기보다 위험 유형에 따라 보장범위를 단계적으로 확대해야 한다”고 제언했다.

AI 사고 급증에도 손실 규모 파악은 한계

그는 현재 사고 건수나 증가율은 현재 데이터로 파악이 가능하지만, 손실 규모에 대한 정보가 없어 보험으로 손해액을 파악하기 힘들다고 지적했다.

엘링 교수가 AI 사고와 소송 사례를 수집한 데이터베이스 4개를 분석한 결과, 기록된 사례의 연평균 증가율이 데이터베이스별로 30~62%에 달했다고 밝혔다. 분석에는 AI 사고 데이터베이스(AIID), 경제협력개발기구(OECD)의 AI 사고 모니터 등이 활용됐으며, 특히 AIID에 기록된 사고 건수는 연평균 38.8% 증가한 것으로 나타났다.

보험사가 보험료를 산정하려면 사고 발생 빈도와 예상 손해액을 함께 파악해야 한다. 그러나 AI 관련 통계는 피해 규모에 관한 정보가 부족해 적정 보험료와 보장한도를 결정하기 어렵다는 설명이다.

그는 "현재 확보된 데이터로는 사고 발생 빈도를 파악할 수 있지만 손실 규모에 대한 정보는 없다"며 "이는 보험상품을 개발하려는 연구자와 계리사들에게 문제가 된다"고 지적했다.
AI 위험은 다른 사이버 위험과 달리, 기업 내부 시스템을 통해 침투돼 파악이 더 힘들다고 설명했다.

엘링 교수는 "사이버위험은 주로 외부 공격에서 비롯되는 반면, AI 위험은 기업 내부에서 사용하는 시스템 자체에서 발생할 수 있다"라며 "사이버사고는 정보 유출이나 시스템 장애처럼 특정 사건을 중심으로 발생하는 경우가 많지만, AI는 잘못된 판단이 반복되면서 피해가 점진적으로 누적될 수 있다"라고 말했다.

여기에 사고 발생 시 책임 소재를 규명하기 어렵다는 문제도 있다.

그는 "AI 시스템에 오류가 발생했을 때 기반모델 개발사와 서비스 제공업체, 시스템 도입 기업, 최종 이용자가 얽혀있다"라며 "이 가운데 누가 책임을 부담해야 하는지 명확하지 않다"라고 말했다.

AI 사고 동시다발 발생 우려…

위험별 보장 확대 필요

여러 기업이 동일한 AI 시스템에 의존할 경우 피해가 한꺼번에 발생할 수 있다는 점도 문제로 제기됐다. AI 클라우드 서비스나 기반모델에 오류가 생기면 이를 이용하는 기업들이 동시에 영향을 받을 수 있다는 것이다.

엘링 교수는 "AI 클라우드 서비스나 기반모델에 시스템적 결함이 발생하면 이를 이용하는 모든 사용자에게 영향을 미칠 수 있다"며 "손실이 한꺼번에 집중된다"라고 지적했다.

AI 위험의 보험화 가능성을 사고 유형별로 구분할 필요가 있다고 봤다.

그는 "보험사는 여러 계약을 인수해 위험을 분산하지만, 공통 시스템에 의존하는 기업들이 동시에 피해를 입으면 이러한 효과가 제한될 수 있다"라며 "계약을 늘려도 보험금 지급 부담이 함께 커질 수 있어 보험사와 재보험사가 위험을 인수하는 데 제약이 생긴다"라고 설명했다.

엘링 교수는 ▲발생 원인과 손실 범위가 명확한 개별 운영사고 ▲AI 관련 지식재산권 분쟁 및 전문가 과실에 따른 배상책임 ▲AI를 이용한 사이버 공격 등을 보험으로 보장할 수 있는 위험으로 분류했다.

반면 ▲여러 기업이 사용하는 AI 시스템의 동시 오류 ▲사고 책임 소재가 불분명한 손실 ▲과거 통계가 부족한 초대형 사고 등은 보험사가 인수하기 어려운 위험으로 꼽았다.

기업의 AI 관리 수준도 중요한 인수심사 기준으로 제시됐다. 과거 손실 데이터가 충분하지 않은 만큼 기업이 AI 시스템을 얼마나 체계적으로 관리하는지도 위험을 판단하는 데 활용할 수 있다는 설명이다. 특히 시스템의 오류를 점검하고 AI의 판단을 사람이 감독하는지 등이 주요 평가 요소로 꼽혔다.

엘린 교수는 "보험사와 재보험사는 보장 조건과 면책사항을 명확히 하고, 사고 유형에 따라 인수한도를 설정할 필요가 있다"라며 "AI 보험상품을 개발할 때 거버넌스는 가장 중요한 위험평가 변수가 될 수 있다"고 밝혔다.

강혜린 한국금융신문 기자 hazi99@fntimes.com