김상희 국회의원(더민주·부천병)은 17일 인공지능의 비윤리적인 학습을 막는 '이루다 방지법'을 대표 발의했다.

개정안은 과학기술정보통신부가 '지능정보사회윤리준칙'을 제정해 인권 인공지능의 윤리적 검증에 필요한 내용을 담아 보급 및 확산시키도록 했다. 

비윤리적인 인공지능으로 인한 사회적 부작용이 예방될 것으로 기대된다.

실제로 올해 초 20대 여대생을 모방한 인공지능 챗봇 '이루다'는 무분별한 데이터 학습으로 여성과 소수자에 대한 차별·혐오적 메시지 출력과 개인정보 활용 문제로 인해 서비스를 중단된 바 있다.

김 의원은 "최근 문제가 되었던 이루다의 이용자 85%가 10대인 것으로 나타나 편향적인 인공지능이 아동·청소년에게 혐오와 차별 등 악영향을 끼칠 수 있다"며 "아동·청소년을 대상으로 하는 인공지능 교육 프로그램이 많이 개발되고 있어 이와 같은 사건이 또 발생할 가능성이 있다"고 경고했다.

그러면서 "해외의 경우 인공지능이 차별·혐오적 표현이나 비윤리적인 상황을 연출할 경우, 즉각적인 서비스 중단을 하고 있다"며 "하루빨리 개정안이 통과되어 제2의 이루다 사태 방지하고 인공지능의 윤리 신뢰성 확보 기대한다"고 밝혔다.

[ 경기신문 = 박진형 기자 ]