“욕설·비방 없는 게임 채팅창 만든다”…넥슨의 AI 활용법

[한국금융신문 이주은 기자] 넥슨(대표 이정헌)이 AI(인공지능)를 활용한 게임 내 유해 채팅 탐지와 제재 성과를 공유했다. AI 기반 시스템으로 탐지 효율을 높여 이용자들이 유해 채팅으로 느낄 수 있는 불쾌감을 사전에 차단, 온전히 게임에 집중할 수 있는 환경을 조성한다는 목표다.

남현민 넥슨 인텔리전스랩스 인게이지먼트팀 연구원은 7일 한국게임산업협회가 개최한 ‘게임산업 종사자 대상 K-GAME 전문 역량 강화 세미나’에 참석해 AI 텍스트 탐지 서비스와 라이브 적용 노하우를 발표했다.

욕설과 비방성 댓글, 혐오 발언 등 유해 댓글에 대한 게임 이용자 반발감은 상당하다. 남현민 연구원은 “연구 결과에 따르면 게임 플레이 중 욕설로 인해 불쾌한 경험을 겪은 경우 이용자의 플레이 시간은 평균 84분 감소한다”며 “하지만 욕설 이외 사유로 불쾌한 경험을 한 경우 플레이 시간은 평균 29분 줄었다는 걸 발견했다”고 설명했다.
비속어 노출 정도에 따라서도 리텐션(재접속률)에 차이가 생겼다. 단위 시간 당 비속어 노출 지수를 계산해 본 결과, 비속어에 많이 노출될수록 이용자 리텐션이 떨어졌다.

넥슨은 AI 텍스트 탐지 서비스를 개발해 이를 게임 내 유해 채팅 탐지에 적극 활용하고 있다. 앞뒤 문맥을 학습할 수 있고, 패턴 학습으로 우회 시도를 탐지할 수 있다는 AI의 강점을 활용한 것이다. 무엇보다 일반적인 운영자 관리 방식과 비교해 압도적인 양의 채팅 수를 소화할 수 있다.

AI 모델에 텍스트가 입력되면 모델은 텍스트 유해도를 0과 1 사이 스코어로 예측하는 과정을 거쳐 정상 채팅과 유해 채팅 두 가지 중 하나로 분류한다. 즉, 이용자 채팅 입력→텍스트 탐지 API 통해 탐지 여부 질의→AI 모델이 0과 1 사이의 값으로 계산해 반환→해당 스코어 바탕으로 게임 서버에서 후속 액션 결정 등의 과정을 거치는 거다.

AI 텍스트 탐지 서비스의 효과도 명확했다. 광고성 채팅이 심각했던 넥슨 게임에 서비스를 적용한 결과 광고 채팅 수는 99.9%, 광고 계정 수는 90.4% 줄었다. 남 연구원은 “일 평균 128개 계정이 15만개 광고 채팅을 쏟아내던 게 12개 계정이 180개 채팅을 입력하는 수준으로 대폭 감소하는 효과를 보였다”고 했다.

이어 그는 “욕설 신고가 많았던 게임에도 AI 텍스트 탐지 기반 실시간 유해 채팅 탐지·제재 시스템을 도입한 결과 욕설 신고 비중이 30%에서 18％로 줄었다”고 말했다.
다만, AI 텍스트 탐지 시스템이 동시다발적으로 발생하는 수많은 채팅을 처리해야 하는 만큼 속도와 트래픽 처리에 대한 이슈는 불가피하다. 남 연구원은 “이용자가 체감할 정도의 채팅 지연이 발생하지 않도록 라이브 서비스에 적합한 컴팩트한 모델인 CNN 모델을 택했다”고 설명했다.

트래픽이 특정 시간에 확 몰리거나, AI의 오탐지·미탐지 문제에 대한 대응책 등도 고려해야 한다. 넥슨은 현재 고빈도 반복 채팅이나 AI 모델에서 이미 추론한 적 있는 채팅은 정리해 캐시(임시 저장공간)에 저장하는 방식을 택하고 있다. 추론 횟수를 감소시켜 속도를 빠르게 하고 트래픽을 감소시키는 것이다. 또 문제 상황 발생 시 여러 채널에서 오탐지, 미탐지 리포트를 받아서 대응하고 있다.

남 연구원은 “AI 서비스의 다양한 사용처도 생각해볼 수 있다”며 “유해 이미지나 저작권과 초상권 침해 판별 등 이미지에도 (AI를) 적용할 수 있고 이용자들이 제작하고 업로드한 콘텐츠의 저작권과 초상권 침해 여부나 유해 여부 등도 확인할 수 있다”고 덧붙였다.

한편 넥슨은 게임 개발 초기부터 서비스 단계까지 적용할 수 있는 플랫폼 및 데이터 솔루션 등의 운영 노하우를 ‘게임스케일(GameScale)’을 통해 공유하고 있다.

이주은 기자 nbjesus@fntimes.com