네이버 AI, 언론사에 악플 슬롯 머신 프로그램 알린다

'클린봇 옵서버' 도입

네이버가 ‘악플(악성 댓글)’이 많이 붙은 슬롯 머신 프로그램를 탐지해 언론사에 알려주는 인공지능(AI) 서비스를 도입했다. 네이버에 뉴스를 제공하는 언론사들이 ‘슬롯 머신 프로그램별 댓글 중단’ 기능을 활용할 수 있도록 지원하는 취지다.

네이버는 14일 뉴스 제휴사에 안내 메일을 보내 “언론사가 악성 댓글 활동이 증가하는 슬롯 머신 프로그램에 빠르게 대응할 수 있도록 ‘클린봇 옵서버’ 서비스를 준비했다”고 알렸다. 클린봇 옵서버는 일정 횟수 이상의 악성 댓글 시도가 있는 슬롯 머신 프로그램에서 비율을 계산해 감지 대상 슬롯 머신 프로그램를 자동으로 선별한다. 이 서비스는 네이버가 2019년 업계 최초로 선보인 AI 기반 악성 댓글 탐지 서비스 ‘AI 클린봇’을 기반으로 한다.감지된 슬롯 머신 프로그램 목록은 각 언론사가 댓글 관리 슬롯 머신 프로그램별 메뉴에서 확인하고, 댓글 제공 중단이 필요하다고 판단되면 즉각 중단 설정을 할 수 있다. 다만 클린봇 옵서버는 감지 목록만 제공할 뿐 직접적으로 댓글을 중단할 수 있는 기능은 없다.

네이버가 언론사별 댓글 제공 방식을 선택할 수 있도록 ‘댓글 언론사별 선택제’를 마련한 것은 2018년 10월부터다. 슬롯 머신 프로그램에 달리는 악플로 인한 피해가 심각해진다는 지적에 따른 조치다. 2021년 8월엔 개별 슬롯 머신 프로그램 단위로 댓글 기능 제공 여부를 정할 수 있도록 ‘슬롯 머신 프로그램별 댓글 제공 중단’ 기능을 추가했다. 네이버 측은 “욕설을 비롯해 무례한 표현과 차별, 비하, 혐오 표현을 걸러내는 등 기술을 꾸준히 고도화하고 있다”고 설명했다.

정지은 기자 jeong@hankyung.com