악플을 걸러주는 AI 클린봇

악플을 걸러주는 AI 클린봇

대학생 선플기자단 이승린

1. 악플을 걸러주는 AI 클린봇

 

2. AI 클린봇이란?

불쾌한 욕설이 포함된 댓글을 AI 기술로 감지하여 자동으로 숨겨주는 기능입니다. 클린봇을 활성화하면 ‘클린봇이 악성댓글을 감지합니다’라는 안내와 함께 악성 댓글이 자동으로 숨겨집니다.

 

3. AI 클린봇의 등장배경

댓글창은 사회적 공론장으로서의 역할을 하지만 최근 폭언과 욕설이 난무하는 공간으로 변질되었습니다. 네이버는 악플 문제를 심각하게 받아들여 악플을 ‘숨김처리’하는 AI 클린봇을 도입했습니다.

 

4. AI 클린봇의 효과

실제로 AI 클린봇을 도입하고 2달 뒤, 뉴스 댓글창은 유의미한 변화를 보였습니다

악플 생산 감소: 자동 블라인드하는 AI 클린봇의 처리 건수가 16% 감소한 사실을 통해 악플 생산이 감소했음을 확인

댓글러 차단 기능 사용 증가: 반복적인 악플 작성자를 쉽게 인지할 수 있게 되면서 차단 기능 사용이 30% 급증

 

5. AI 클린봇의 발전

2.0버전: 악성 댓글 판단 기준이 ‘욕설 단어’에서 ‘문장 맥락’을 고려하는 것으로 확대되어, 비속어를 포함하지 않아도 모욕적인 표현, 무례한 댓글을 탐지할 수 있게 되었습니다.

2.5버전: 2.5버전은 2.0버전에 비해 악성댓글 탐지 정확도는 15%가량 향상했으며 과도한 성적 표현까지 댓글 차단 범위를 넓혔습니다.

 

6. 악플 근절을 위한 노력

네이버는 AI클린봇 외에도 댓글 이력이나 프로필 공개 등 다양한 시도를 통해 악플 근절과 건전한 댓글 문화 조성에 힘쓰고 있습니다. 그러나 무엇보다 가장 중요한 것은 올바른 댓글 문화를 위한 여러분의 관심과 노력입니다.

 

악플이 전염병이라면, 선플은 백신입니다.