‘전 세계 최초’ AI 기본법 전면 시행…가이드라인은?

[한국금융신문 정채윤 기자] ‘인공지능(AI) 기본법’이 이날부터 본격 시행된다. AI 산업 진흥과 함께 안전·윤리 규제를 아우르는 첫 법률이 현장에 적용되면서 기업들의 대응 방향과 시장 전반에 미칠 파급력에 관심이 쏠린다.

22일 과학기술정보통신부에 따르면 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)’이 이날부터 시행에 들어갔다.

이 법률은 AI 산업 진흥과 규제를 모두 포괄한 세계 최초의 국가 단위 AI 기본법 시행 사례로 주목받고 있다. 유럽연합(EU)의 ‘AI 법(AI Act)’은 2024년 발효됐지만 법 적용은 단계적으로 진행된다. 이에 따라 한국어 AI 기본법을 가장 먼저 시행하는 첫 국가가 됐다.
정부는 시행 초기에 규제보다는 지원에 무게를 두며 주요 조항에 약 1년 이상의 유예 기간을 설정했다. 산업계 역시 ‘워터마크 기준’이나 ‘고영향 AI 범위’의 세부 기준이 불명확하다는 점을 지적하며 일정한 적응 기간이 필요하다고 보고 있다.

진흥과 규제, 두 축으로 구성된 첫 AI 법

AI 기본법은 ▲AI 연구개발(R&D) 지원 ▲학습용 데이터 구축 ▲전문인력 양성 ▲AI 융합 생태계 조성 ▲창업·투자 활성화 등 산업 육성 조항을 다수 포함하고 있다. 과기정통부는 관련 인프라와 예산 지원을 통해 국내 기업의 글로벌 경쟁력 확보 기반을 조성한다는 방침이다.

반면 규제 영역에서는 ▲AI 투명성 확보 ▲검증 및 인증 제도 ▲윤리·안전성 기준 ▲고영향 AI 지정과 관리 체계 도입을 규정했다. 과기정통부는 특히 ‘안전하고 신뢰받는 AI 활용 기반’ 확보를 초점으로 법령과 시행령을 구체화했다.

김경만 과기정통부 AI정책실장은 “AI 기본법 조항의 80% 이상이 산업 진흥에 초점을 두고 있다”며 “규제는 최소한으로 운영할 것”이라고 강조했다.

AI 생성물 표시 의무 신설, 워터마크 도입 예고

가장 눈에 띄는 변화는 AI 생성물에 표시를 의무화하는 워터마크 제도의 도입이다. AI로 만들어진 이미지·영상·텍스트 등 생성물에는 반드시 ‘AI 생성물’임을 인식할 수 있는 표시가 포함돼야 한다.

과기정통부는 딥페이크처럼 실물과 구분하기 어려운 콘텐츠에는 이용자가 명확히 인지할 수 있는 가시적 워터마크나 안내 문구를 부착해야 하는 방안을 검토 중이다.

반면 웹툰, 애니메이션, 단순 이미지 등 비교적 식별이 쉬운 경우에는 ‘비가시적 디지털 워터마크(메타데이터 방식)’를 허용할 전망이다. 구체적 워터마크 부착 방식은 올해 상반기 중 시행령과 기술 표준으로 확정될 예정이다.
다만 일부 업계에서는 생성물의 일부만 AI가 개입했을 때도 워터마크를 의무화하는 것이 현실적이냐는 문제를 제기하고 있다. 콘텐츠 제작 과정이 복합적이기 때문에 표시 기준이 불명확하면 창작자의 부담으로 이어질 수 있다는 지적이다.

‘고영향 AI’ 10개 영역 우선 검토 대상

AI 기본법상 두 번째 핵심 개념은 고영향 AI다. 이는 국민의 생명·안전·기본권에 중대하게 영향을 미칠 수 있는 시스템으로, 정부는 10개 주요 영역을 우선 지정했다.

해당 영역은 ▲에너지 ▲먹는 물 ▲의료 ▲원자력 ▲범죄 수사 ▲채용 ▲대출 심사 ▲교통 ▲공공서비스 ▲교육 등이다. 다만 세부 영역은 시행령과 고시에서 조정될 수 있다.

AI 사업자는 스스로 해당 AI가 고영향 AI에 해당하는지를 사전에 검토해야 한다. 판단이 어려운 경우 과기정통부에 확인 요청을 받으면 된다.

고영향 AI로 판단되면 ▲위험 관리 방안의 수립·운영 ▲주요 기준에 대한 설명 방안 마련 ▲이용자 보호 방안 수립·운영 ▲사람의 관리·감독 체계 확보 ▲안전성·신뢰성 확보 조치 내용의 문서 작성·보관 등 안전성과 신뢰성 확보를 위한 의무를 부담하게 된다.

사업자 중심 규제, 개인 이용자는 제외

법 적용 대상은 원칙적으로 AI 모델을 개발하거나 서비스를 제공하는 사업자에 한정된다. 단순히 AI를 활용해 콘텐츠를 제작하거나 서비스를 사용하는 개인 이용자는 규제 대상에서 제외된다.

다만 국내 이용자에게 서비스를 제공하는 해외 AI 사업자는 국내 대리인을 지정해야 한다. 상세한 지정 요건은 아직 확정되지 않았으며 정부가 마련 중인 시행령 고시안에는 글로벌 매출, 국내 매출, 이용자 수 등 일정 기준 이상으로 정의될 예정이다.

1년 계도 중심 운영…지원데스크 가동

정부는 AI 기본법 시행을 규제보다 진흥 중심의 출발로 규정하고 있다. 법 위반 시 사실조사와 시정명령, 최대 3000만원 과태료 부과가 가능하도록 규정돼 있지만, 최소 1년 이상의 계도 기간을 두고 사실조사는 유예하기로 했다.

사실조사의 경우 규제 유예 기간 동안 인명 사고나 중대한 인권 침해, 국가적 피해로 이어질 수 있는 경우 등 극히 예외적인 상황에 한해서만 진행할 계획이다. 이는 기업들이 법 적용에 적응할 시간을 확보하도록 하고 초기 혼란을 완화하기 위한 조치다.

과기정통부는 기업의 문의사항을 지원하기 위해 ‘AI 기본법 지원데스크’를 개설·운영한다. 법 적용 여부, 이행 방식, 기술적 해석 등에 대해 컨설팅을 제공하며 기업 정보 보호를 위해 익명 상담도 허용된다.

김경만 과기정통부 AI정책실장은 “정부도 AI 기본법이 완전하다고 생각하지 않는다”며 “국회 통과 당시 언급했던 ‘개문발차’라는 말처럼 법이 안정적으로 정착될 수 있도록 개정 작업을 병행하고, 산업계와 시민단체가 함께 논의하는 구조를 만들어 가곘다”고 말했다.

정채윤 한국금융신문 기자 chaeyun@fntimes.com