NC AI, 챗봇에 ‘AI 사고 방지’ 기술 도입해 시장 선점

[한국금융신문 정채윤 기자] NC AI가 자체 개발한 인공지능(AI) 안전성 기술을 도입해 국내 AI 안전성 분야 시장 주도권 확보에 나선다.

NC AI는 고객 상담 챗봇 서비스 ‘엔써(NCER)’에 자체 개발한 AI 신뢰성 기술 ‘세이프가드(Safeguard)’를 정식 적용했다고 30일 밝혔다. 이는 국내 AI 기업 중 최초로 종합적인 AI 안전 시스템을 상용 서비스에 도입한 사례다.

세이프가드 기술은 삼중 보안 체계를 기반으로 운영된다. 레드팀이 새로운 악성 공격 패턴을 연구하고, 블루팀은 이에 대한 방어 기술을 개발한다. 퍼플팀은 두 팀 결과를 종합해 정책에 반영하는 순환 구조다.
특히 엔씨소프트 퍼블리싱코디네이션 센터와 협력해 게임 산업 특성을 반영한 ‘챗봇 네거티브 규제 정책’을 수립했다. 이 정책은 게임 서비스 관련 부적절한 내용, 유료 재화 관련 편법 등 산업 맞춤형 보안을 구현했다.

세이프가드가 적용된 엔써는 ML 커먼스와 국제 벤치마크 연구에서 제시하는 차별, 혐오, 욕설, 외설 등의 일반적 부적절 내용 차단 기준을 충족한다.

NC AI의 AI 안전성 연구는 2022년부터 시작됐다. 회사는 ‘NC AI 윤리 프레임워크’를 통해 데이터 프라이버시, 비편향성, 투명성이라는 세 가지 가치 중심 AI 윤리 경영을 실천해왔다.

‘리니지W’와 ‘리니지2M’ 등 실제 게임에서도 NC AI 기술이 적용돼 있다. 13개 언어의 광고 패턴을 탐지하고 차단하는 스팸 필터링 시스템이 대표적이며, 게임 내 채팅 환경 건전성 유지에도 핵심적인 역할을 담당하고 있다.

올해 2월 독립 법인으로 분사한 NC AI는 반년 만에 정부 주관 ‘독자 AI 파운데이션 모델 프로젝트’의 주관사로 선정됐다. 한국전자통신연구원 등 주요 연구기관과 포스코DX, 롯데이노베이트 등 총 54개 기관이 참여하는 '그랜드 컨소시엄'에서 AI 안전 기술 개발을 이끈다.

또 에이아이웍스와 협력해 ‘AI 세이프티 얼라인먼트 데이터셋’을 구축하고 있다. 전쟁, 폭력, 차별, 허위정보 등 고위험 상황에 대한 안전한 AI 응답 시스템을 개발해 국가 차원의 AI 안전성 표준 확립에 기여할한다는 방침이다.

NC AI 기술 역량은 게임 챗봇을 넘어 다양한 산업으로 확장되고 있다. 신작 역할수행게임(RPG) '아이온 2'에는 자연어 기반 애니메이션 생성과 감정 표현이 가능한 음성합성(TTS) 기술을 선보이기도 했다.

이연수 NC AI 대표는 “이번 세이프가드 기술 적용은 NC AI가 AI 안전성 분야에서 기술적 우위를 확보하고, 책임감 있는 AI 개발 기업으로서의 위치를 공고히 하는 중요한 출발점”이라며 “앞으로도 기술 독립과 산업 실증, 글로벌 공헌을 동시에 실현하는 대한민국 AI 전문 기업으로서의 소명을 다할 것”이라고 강조했다.

정채윤 한국금융신문 기자 chaeyun@fntimes.com