EU는 연내 EU 집행위원회와 이사회가 참여하는 제3자 협상 타결을 목표로 하고 있다. EU에서 AI 시스템을 개발하고 배포하는 모두가 규제 대상이다.
가결된 법안에는 ▲공공장소 실시간 생체인식 시스템 사용 금지 ▲인터넷이나 CCTV에서 비표적으로 이미지를 따와 얼굴 인식 데이터베이스를 생성·확장하는 시스템 등이 포함됐다.
생성형 AI와 관련된 규제 방안도 포함됐다. 생성형 AI를 운영하는 기업은 위험성 판단 평가를 받아야 하고, 챗봇이 불법 콘텐츠를 생성하지 않도록 보호 장치를 제공해야 한다. 또 AI 프로그램이 만든 창작물에는 ‘AI로 생성’ 등을 표시하고, AI 데이터 학습에 사용한 자료를 공개해야 한다. 이를 위반하면 연간 매출의 최대 6%를 벌금으로 부과하게 된다.
다만 EU가 통과시킨 AI 규제안이 세계 최초인 만큼, 타국에서도 AI 규제를 마련할 때 이를 참고할 가능성이 크다는 전망이 나온다. 업계에서는 이를 두고 EU가 가결한 법안은 '규제'에 초점을 맞추고 있 혁신을 저해할 수 있다는 우려가 제기된다.
14일(현지시간) 미국 상원 소속 리처드 블루먼솔 의원과 조시 홀리 의원이 생성형 AI가 만든 콘텐츠에 대해 사업자가 법적 책임을 지도록 하는 법안을 발의했다. 법안이 통과되면, 오픈AI나 구글 등 AI 챗봇 제작업체는 답변에 대한 법적 책임을 지게 된다.
중국은 생성형 AI 도구 관리를 위해 ▲프라이버시 보호 ▲차별 방지 ▲지적재산권 보호 등을 의무화하는 내용이 담긴 규제 초안을 발표했다. AI 챗봇 사업자는 AI가 생성한 콘텐츠임을 명확히 밝히고 서비스 공개 전에 보안 평가를 거쳐야 한다. 해당 규정을 준수하지 않으면 강력한 법적제재를 가하는 등 본격적인 통제 강화에 나섰다.
저작권 침해 등 창작 영역에서 부작용 방지를 위한 가이드라인은 제작 중이다. 문화체육관광부는 지난 2월 저작권 학계와 법조계, 창작자 등 전문가가 참여하는 ‘AI 저작권법 제도개선 워킹그룹’을 출범시키고 논의에 나섰다. 오는 9월까지 저작권법 가이드라인을 발표할 계획이다.
이주은 기자 nbjesus@fntimes.com