AI의 혐오 논란, 해결해야 할 숙제

AI의 혐오 논란, 해결해야 할 숙제  

선플 기자단 2기 송가윤

   
국내 스타트업인 스캐터랩이 소수자에 대한 혐오 발언과 개인 정보 유출 논란을 받고 있다. 특히, 인공지능 챗봇 ‘이루다’가 소수자에 대한 혐오 발언으로 서비스를 잠정 중단하였다. ‘이루다’는 스캐터랩이 출시한 페이스북 메신저 기반 AI 챗봇을 의미한다. 자연스러운 대화 흐름으로 70만 명이라는 이용자를 기록하였으나, 동성애·장애인·여성차별 발언으로 논란이 됐다. 이로 인해 윤리적인 AI 개발 및 점검에 대한 항의가 지속해서 나타나고 있다.

먼저 혐오 발언과 관련하여 이루다는 장애인, 임산부 좌석, 성 소수자에 대해 소름 끼친다는 식의 답변을 하였다. 이는 올바른 윤리의식을 갖추지 못한 것이며, 혐오가 가득한 사회의 모습을 대변하고 있다. 그러나, 이러한 모습들을 AI에서 전파하는 것은 정당화할 수 없다. 사회의 나쁜 모습을 잘못 배운 AI는 사회에 부적절한 모습으로 남게 된다. 따라서, 사회 구성원들의 반성과 AI의 올바른 윤리의식 촉구가 필요한 시점이다. 

이와 관련하여 남궁훈 카카오 게임즈 대표는 자신의 페이스북에 “이 캐릭터가 현세대와 동떨어진 이야기를 하면 모르겠지만 사실은 현 세대에 분명히 현존하는 혐오와 차별이 노출된 것뿐”이라며 “오히려 문제라면 이 AI가 현세대를 통해 학습되었기 때문에 현세대가 가지고 있는 혐오와 차별이 문제”라고 밝힌 바 있다. 
출처 : 시사 위크

또한 스캐터랩이 제공하는 연애의 과학 앱의 개인 정보 유출 및 사생활 침해는 명백히 잘못된 일이다. 이용자와의 연애 대화를 무분별하게 사용하는 것은 옳지 않다. 스캐터랩 측에서는 이용약관을 통해서, 콘텐츠 제공을 위해 회원의 정보를 활용할 수 있다고 표기했다고 밝혔다. 그러나 대부분의 이용자는 약관을 자세하게 읽지 않는다. 앱을 실행하기 위해 거쳐야 하는 하나의 과정일 뿐이다. 또한 약관을 읽어보아도 이용자는 자신의 개인정보가 어디까지 활용되는지에 대한 범위는 알 수 없다. 

따라서 이번 모습들을 통해 개인 정보 유출에 대한 경각심을 가질 필요성이 있다. 반복되는 문제들을 단순히 기업의 문제로 국한하는 것은 옳지 않다. 기업들이 이용자의 개인 정보들을 잘 보호하고 있는지 지속적으로 관심을 가지고, 합리적인 의심의 과정을 거쳐야 한다. 이를 바탕으로 ‘사회적 신뢰’가 강화되어야 할 것이다.