보편화되어가는 '클린' 시스템

보편화되어가는 '클린' 시스템

 

선플기자단 3기 안소희

 

‘클린’ 시스템의 확립

도쿄 올림픽이 개최되면서 국가대표로 선출하는 스포츠 선수들에 대한 관심이 높아지고 있다. 대중의 관심이 쏠림과 동시에 네티즌의 이목이 집중되는 것은 필연적이다. 그동안 알려지지 않았던 선수들의 개인사나 감동적인 준비과정들이 드러나면서 올림픽에 대한 재미가 배가 되고 있다. 하지만 그들에 대한 정보가 늘면 늘수록 그들을 향한 격려와 응원뿐만 아니라 야유도 쏟아지기 마련이다. 스포츠 기사에 달리는 댓글이 올림픽 개최 전에 막힌 것이 다행이라고도 보인다.

한 편, 코로나 19 바이러스가 일상에 침투하면서 배달에 의존도가 높아진 덕분에 리뷰 시스템에도 열이 오르고 있다. 더 다양한 사람들이 참여하면서 더 다양한 리뷰 문화가 생겨나고 있는 요즘, 별점과 코멘트로 점수를 매기는 시스템 덕분에 가게 운영자와 손님 간의 갈등이 심화하고 있다.

이러한 갈등 양상에 사회적인 움직임이 대두되고 있다. 바로 '클린' 시스템 도입이다. 네이버는 악성 댓글을 ai로 찾아내서 삭제하는 '클린봇'을 운영하고 있다. 음식 배달 앱으로 선두를 달리고 있는 배달의 민족은 '클린 리뷰 시스템'을 도입하여 악의적으로 작성된 리뷰를 감추는 기능을 하도록 운영하고 있다. 또 다른 배달 앱 요기요의 경우 2013년부터 배달업 업계 최초로 ‘클린 리뷰’ 제도를 도입하여 깨끗한 리뷰 창을 만드는 데에 일조하고 있다. 기업에서 이루고 있는 '클린 문화'는 어느새 우리 사회에 당연한 리플 양상으로 자리 잡게 되었다.

출처: 해럴드 경제 유동현 기자

 

‘클린봇’이란?

네이버 클린봇은 불쾌한 악성 댓글을 감지해 자동으로 가리는 네이버의 AI 기술이다. 재작년 4월부터 웹툰·스포츠·연예·뉴스 기사의 댓글에 차례대로 도입되며 이제는 네티즌에게 친숙히 접해지는 기술이다. 클린봇은 단순히 욕설·비속어가 포함된 댓글뿐 아니라 문장 맥락을 고려해 모욕적이거나 무례하다고 판단되면 댓글을 가리는 수준으로 고도화됐다. 클린봇의 악성 댓글 실시간 감지 시스템은 연중 24시간 작동되며, 계속해서 진화하는 욕설/음란 댓글도 꾸준한 AI 학습을 통해 탐지정확도를 높인다. 올해 상반기 기준으로 욕설 사이에 일부러 이모티콘이나 오타를 넣은 사례까지 모두 거르는 클린봇 2.0의 정확도는 95%에 달했다. 클린봇 도입 이전 대비 악플 탐지 건수는 2배가량 늘었고, 악성 댓글 신고 건수는 19% 줄었다. 작년 발생한 N번방 사건 등 아동·청소년 관련 성범죄, 성 착취물 관련 성적 표현에 대한 관리를 강화하기 위해, 지난 1월 29일 업그레이드된 ‘AI 클린봇 2.5’를 적용하기도 했다. 또한, 네이버는 음란 이미지를 실시간으로 감지해 노출을 막는 ''엑스아이 2.0 ''을 올해 7월부터 도입한다.

배달 앱 배달의 민족에서는 지난해 11월에 ‘허위 의심 리뷰 실시간 모니터링 시스템’을 도입했다. 이 시스템은 배달의 민족 앱에 등록되는 리뷰를 실시간으로 탐지해 허위리뷰로 의심될 경우 자동으로 노출을 일시 제한시키는 기능을 한다. 의심 리뷰는 ‘부정거래감시팀’이라는 전담 인력 검수를 통해 24시간 이내에 최종 공개 또는 차단이 결정된다. 이 전담 인력 조직을 통해 2018년부터 불법 리뷰 조작 업자들이 작성한 약 15만 건의 의심 리뷰를 차단했다.

 

출처: 컨슈머 타임스 이화연 기자

 

배달 업계에서는 이러한 인공지능 시스템과 더불어 다양한 악성 리뷰 대안들을 마련하고 있다. 최근 요기요 앱에서는 ‘요기요 식후감 대회’를 기획했다. 요기요 앱에서 음식을 주문한 후 사진과 함께 #식후감 해시태그를 달고 리뷰를 작성하면 우수 리뷰를 선정해 요기요 할인 쿠폰을 증정하는 내용이다. 위메프에서 운영하는 배달 앱 위메프오에서도 자체 모니터링을 강화하고 사장님 신고 제도를 운용하여 악성 리뷰는 직접 삭제 처리가 가능하도록 하였다. 쿠팡이츠도 악성 소비자로 피해를 본 점주를 보호하기 위한 별도 전담조직을 신설하고, 악성 리뷰에 점주가 직접 해명 댓글을 달 수 있는 기능을 도입하는 등의 노력을 기울이고 있다.

 

‘클린’ 시스템의 전망

클린봇 혹은 클린 리뷰 인공지능 시스템의 기능에 대해 대중은 막연히 ‘악플 근절’만을 기대해선 안 된다. 악성 리뷰와 댓글을 자동으로 차단하고, 더욱 아름다운 댓글 리뷰 창을 만들 수 있다는 점에서 인공지능의 선 기능은 무한하지만, 정확한 근거 없이 오로지 시스템상으로 소비자의 댓글과 리뷰가 삭제된다는 점에서 표현의 자유 문제가 발생할 수 있다. 악성 리뷰와 개인의 견해 표현 간의 기준이 모호해질 수 있기 때문에 악성 댓글 감지 시스템의 판단이 항상 올바르고 도덕적이라고 볼 수 없다. 시스템 개발자의 개인적 사심에 따라 댓글 조작과 비윤리적 선동이 이뤄질 가능성도 있다. 좋은 취지로 개발된 시스템으로서 주목받고 박수받을 가치가 있지만, 피치 못할 새로운 역기능이 언제든지 발생하기 마련이다. 무조건 수용할 것이 아니라 시스템의 정당성에 대해 다시 한번 돌아보는 시선도 필요하다.

‘클린’ 이름을 단 시스템들이 각종 웹사이트에 도입되고 있지만, 그럼에도 불구하고 악플러의 행동반경은 점점 넓어지는 추세이다. 도쿄 올림픽 시즌인 지금, 전국을 뜨겁게 달구고 있는 상황들을 중계하는 네이버 실시간 중계 창에도 차별과 혐오, 성적 대상화 댓글이 곳곳에서 눈에 띄었다. 이들은 앞서 말한 네이버의 ‘AI 클린봇‘의 감지를 피하기 위해 일부러 맞춤법을 어기면서까지 양국 선수들에게 비난과 욕설을 서슴지 않았다. 고도화된 불특정 다수의 악플이 현존하는 리플 문화의 갱생 제도들이 밑 빠진 독의 경우가 되지 않도록 사회적으로 더더욱 주의를 기울여야 할 것이다.

클린봇 시스템이 보편화되어가는 현 상황은 그만큼 인터넷상에서의 무분별한 악플의 범위가 넓어진 것이라고 볼 수 있다. 주어진 제도에 안주하지 않고, 네티즌 개인으로서의 역할을 하며 악플 근절의 필요성을 상기하는 자세가 중요하다.

.