각종 혐오·차별 발언과 개인정보 유출 등의 논란이 일었던 인공지능(AI) 챗봇 이루다의 서비스가 잠정 중단됐다.

 

개발사인 스타트업 스캐터랩 입장에서는 오랜 시간 공들여 출시한 이루다가 서비스 3주 만에 중단되는 사태가 일어나면서 유무형의 손해가 발생했을지 모른다.

 

하지만, 역으로 보면 이를 상쇄하고도 남을 홍보 효과를 톡톡히 본 것만은 분명하다.

 

좋지 않은 내용이긴 했지만 여러 언론사 뉴스를 통해 수차례 노출되는 '노이즈 마케팅'이 이뤄졌으며, 아울러 논란이 지속될 수록 실시간 검색어 상위권에 오랜 시간 머무르며, 이루다를 모르는 사람까지 이제는 알게 됐다.

 

게다가 개선을 위한 '잠시 중단'이다. 스캐터랩은 11일 입장문에서 “부족한 점을 집중적으로 보완할 수 있도록 서비스 개선 기간을 거쳐 다시 찾아뵙겠다”고 밝혔다.

 

이루다 서비스의 재개를 알릴 때가 되면 또다시 수많은 보도가 이뤄지면서 다시 한번 홍보 효과를 누릴 것은 불 보듯 뻔한 일이다.

 

그러나 이루다 논란은 그저 한 개발사의 챗봇 서비스가 시작됐다, 논란이 생겨 잠시 중단됐다 정도 수준의 해프닝으로 넘어가기에는 생각보다 큰 고민해야 할 거리를 남겼다.   

 

◇ 이루다 논란, 개발사는 예상하고 있었다 

 

돌이켜 보면, 이루다는 '20살 여자 대학생'이라는 개발사의 초기 설정부터 문제가 될 소지가 충분했다.

 

이는 개발사도 예상하고 있었다. 성착취·혐오 논란이 초기에 불거지자 김종윤 스캐터랩 대표는 8일 핑퐁 블로그에 올린 공식 입장에서 "성희롱을 예상했다"고 밝혔다.

 

김 대표는 앞서 서비스했던 고양이 챗봇 '드림이'와 구글 어시스턴트에서 서비스한 '그 남자 허세중', '파이팅 루나'를 사례로 들면서 "그 동안의 서비스 경험에 비추어봤을 때, 인간이 AI에게 사회적으로 용인되지 않는 인터랙션을 한다는 건 너무 자명한 사실이었고, 충분히 예상할 수 있는 일이었다"며 "(이루다의) 성별과는 무관하다"고 강조했다. 

 

이어 이루다의 페르소나를 '20살 여자 대학생'으로 설정한 것에 대해서는 " 사용자층이 넓게는 10~30대, 좁게는 10대 중반~20대 중반으로 생각했기 때문에 가운데인 20살 정도가 사용자들이 친근감을 느낄 수 있는 나이라고 생각했다"고 설명했다.

 

다시 말해 차별·혐오 표현을 이루다에게 반복 주입한 이용자들의 탓이지, 개발사가 설정한 이루다의 성별, 나이와는 관계가 없다는 인식이다. 

 

하지만 인터넷 포털 '다음' 창업자인 이재웅 전 쏘카 대표의 생각은 다르다. 그는 9일 본인의 페이스북을 통해 "성적 악용 문제도 20세 여성 캐릭터로 정하는 순간 일어날 수밖에 없는 문제였다"고 꼬집었다.

 

범용 서비스를 하면서 나이와 젠더를 정한 것부터 바람직하지 않았다는 지적이다.

 

◇ 스캐터랩이 구현한 '20살 여자 대학생' 상(狀)은

 

개발사의 말대로 이용자의 문제도 배제할 수 없지만, 20살 여자 대학생에 대한 개발사의 인식 수준을 적나라하게 보여주는 것은 이루다와의 대화 투에서 충분히 찾아볼 수 있다.

 

혀 짧은 말투, 자학, 칭얼거림, 떼쓰기, 울먹이기 등 이루다가 대화 중 보인 말투는 개발사가 20살 여자 대학생을 주체성을 가진 인격체가 아닌 피동적이고 보조적인 여성상으로 구현했음을 알 수 있게 하는 대목이다.

 

이는 소위 '말 잘 듣고, 대꾸하지 않는 여자'다. 오히려 이루다는 차별을 받는 것을 거부하지 않고, 당연히 받아들이며, 학습 과정을 통해 역으로 주장하는 수준으로까지 발전했다.

 

때문에 권김현영 이화여대 한국여성연구원 연구기획위원은 8일 페이스북에 "(이루다를 둘러싼 논란은) 피해자를 만드는 문제로 접근할 게 아니라 (AI가) 가해자를 만들어 내는 주체의 수행성 문제가 쟁점이 돼야 한다"라고 지적했다.

 

◇ 개발사만의 문제 아냐…AI 챗봇 과도기 시대 함께 고민할 것

 

성차별과 혐오 논란에 대해서는 "적절한 학습을 통해, 나쁜말이 나쁜말임을 알게 될 것이다"며 의연하게 방어하던 개발사는 뒤 이어 개인정보 유출 문제와 같은 위법성의 사안이 터지고 나서야나 서비스 잠정 중단을 결정했다.

 

개발사가 '개선하겠다' 한 만큼 서비스는 다시 돌아올 것이고, 논란이 컸던 만큼 더 큰 관심을 받으며 서비스를 재개할 것이다. 

 

스캐터랩 측은 “특정 소수집단에 대해 차별적 발언을 한 사례가 생긴 것에 진심으로 사과드린다”면서 “그런 발언은 회사의 생각을 반영하지 않고 있으며, 차별·혐오 발언이 발견되지 않도록 지속해서 개선”을 약속했지만, 그 결과물을 현재로서는 기대하기 어렵다.

 

우리는 이 논란을 그저 한 개발사가 출시한 AI 챗봇의 해프닝으로 삼아서는 안 된다. 기술의 발전과 함께 AI 챗봇 서비스는 갈 수록 더 많아지고, 활용 범위 역시 일상으로까지 확대될 것이다.

 

이루다 논란은 그 과도기에서 벌어진 일이다. 같은 논란이 재발되지 않기 위해서는 AI 윤리나 차별금지법에 대한 고민이 함께 이뤄져야 할 필요가 있다.

 

이재웅 전 쏘카 대표는 12일 페이스북을 통해 "스캐터랩 측의 빠른 서비스 중단 후 개선 결정 잘했다"라고 평가하면서, "AI를 공공에 서비스할 때의 사회적 책임, 윤리에 대해서 다시 생각해보고 여러 가지를 재점검하는 기회가 됐으면 한다"고 당부했다.

 

특히 그는 "이러한 문제가 회사 지배구조의 다양성 부족이나 회사 구성원의 젠더(사회적 성) 감수성이나 인권 감수성의 부족에서 온 것은 아닌지 한 번 더 점검하고 보완했으면 좋겠다"며 한 단계 진일보한 고민점을 제시했다.

또 그는 이루다 논란을 시작으로 포괄적 차별금지법 제정 등 제도 개선에도 나서자고 제안했다.

이 전 대표는 "AI 챗봇, 면접·채용, 뉴스 추천 등이 인간에 대한 차별, 혐오를 조장하고 있는 것은 아닌지 사회적으로 점검하고, 포괄적 차별금지법 제정 등을 통해 AI 를 학습시키는 우리 인간들의 규범과 윤리도 보완했으면 좋겠다"고 덧붙였다.

 

[ 경기신문 = 유연석 기자 ]