최근 인공지능(AI) 챗봇 ‘이루다’를 둘러싼 논란이 좀처럼 수그러들지 않는 분위기다.
최근 혐오발언, 카카오톡 대화 유출 논란을 빚은 '이루다'는 소수자 차별 혐오 및 개인정보보호법 위반 논란으로 출시 20여일 만에 서비스를 중단했다.
스캐터랩은 '이루다'를 선보인 뒤 서비스를 중단한 것은 소수자 혐오 및 개인정보보호법 위반 때문이다.
개인정보보호위원회는 스캐터랩에 대한 조사에 착수했다.
스캐터랩이 수집한 개인정보가 대단히 많은 양으로 드러나 조사가 길어지고 있다.
조사 결과는 이르면 3∼4월경에 나올 가능성이 크다는 분석이 나오고 있다.
스캐터랩의 '텍스트앳', '진저 포 비트윈, '연애의 과학' 앱의 누적 사용자는 310만명이다. 대화 상대방을 포함하면 620만명의 대화를 수집한 것이다.
‘이루다’ 등 인공지능(AI) 서비스 관련 개인정보 침해도 대책도 마련했다. ‘AI 환경의 개인정보보호 수칙’을 신설하기로 했다.
최근 ‘연애의과학’ 앱에서 수집된 카카오톡 대화를 제3의 서비스인 이루다 개발에 사용하는 과정에서 “이용자에게 개인정보 이용 목적이 명확히 통보되지 않았다”, “비식별처리가 안된 것 아니냐”는 등 문제가 제기된 게 영향을 미쳤다.
참여연대·진보네트워크센터·민주사회를위한변호사모임은 개인정보보호위원회에 이루다 개발사인 스캐터랩을 철저히 조사하라는 민원을 최근 제기했다.
시민단체들은 개인정보위가 '이루다'뿐 아니라 '연애의 과학', '텍스트앳', '진저 포 비트윈', '핑퐁 빌더' 등 스캐터랩의 모든 제품을 조사해야 한다고 요구했다.
그러면서 정보 주체(이용자)에 대한 권리 침해가 발견될 경우 시정 조치 명령, 과태료 및 과징금 부과, 형사 고발 등 적정한 처분을 취해야 한다고 강조했다.
이 단체들은 스캐터랩이 개인정보 수집·이용 동의를 소홀히 받은 혐의뿐 아니라 포괄 동의 위반, 중요 내용 표시 위반, 고유식별정보 및 주민등록번호 처리 위반 등 개인정보보호법의 여러 조항을 전방위적으로 위반했다고 주장했다.
무엇보다 이용자들의 비공개 사적 대화가 챗봇 학습 등에 이용된다는 사실을 명확히 인지하지 못했던 부분도 주목할 만하다.
개인정보보호법 취지에 따르면 정보 주체인 시민은 자유로운 의사에 기반해 개인정보 처리에 동의할 수 있어야 하는데, 스캐터랩 제품은 이런 법 취지에 어긋났기 때문이다.
윤리적 AI 개발·활용에 대한 관심이 높아진 가운데 정부가 AI 윤리 실천을 위한 주요 과제와 방향을 모색하는 세미나를 개최한다.
특히 AI 윤리에 대한 폭넓은 사회적 숙의·토론과 함께 AI 윤리 이슈가 기술·산업 발전을 저해하지 않도록 현장의견에 기반한 균형적 정책방향을 모색한다는 취지다.
이번 행사 등을 통해 정보 주체의 동의 없는 가명정보 이용을 제한하는 등 관련 제도를 개선하고 AI 투명성을 대한 명확한 기준을 마련해야 한다.
