UPDATED. 2024-03-28 16:55 (목)
개보위, 60만 개인정보 무단이용 AI 챗봇 개발사 제재
개보위, 60만 개인정보 무단이용 AI 챗봇 개발사 제재
  • 이길주 기자
  • 승인 2021.04.30 11:14
  • 댓글 0
이 기사를 공유합니다

카톡 대화 무단 도용 활용
14세미만 20만명 정보수집

스캐터랩 과징금 1억원 철퇴
기업 자체 감독 강화 계기 마련
스캐터랩의 AI 챗봇 서비스 이루다. [사진=이루다 홈페이 캡쳐]
스캐터랩의 AI 챗봇 서비스 이루다. [사진=이루다 홈페이 캡쳐]

[정보통신신문=이길주 기자]

60만 개인정보를 무단으로 이용해 논란이 됐던 인공지능(AI) 챗봇 '이루다' 개발사에 제재가 내려졌다.

이번 처분으로 AI 기술 기업이 개인정보를 이용할 때에 올바른 개인정보 처리 방향을 제시하는 길잡이가 되고 기업이 스스로 관리·감독을 강화해 나가는 계기가 될 것으로 전망된다.

개인정보보호위원회는 최근 제7회 전체회의를 열고 챗봇 ‘이루다’ 개발사 ㈜스캐터랩에 대해 총 1억 330만원의 과징금과 과태료 등을 부과했다.

AI 기술 기업의 무분별한 개인정보 처리를 제재한 첫 사례로 기업이 특정 서비스를 목적으로 수집한 개인정보를 이용자의 명시적 동의 없이 다른 서비스를 위해 이용하는 것을 제한하고 이를 통해 AI 개발과 서비스 제공 시 올바른 개인정보 처리 방향을 제시할 수 있을 것으로 보인다.

개인정보위는 지난 1월 언론보도를 통해 조사에 착수했고 국민과 산업계에 미치는 영향을 고려해 AI 개발과 서비스 제공 과정에서의 개인정보 처리현황과 법리적·기술적 쟁점에 대해 산업계, 법·학계, 시민단체 의견을 수렴하고 수차례의 위원회 논의 과정을 거쳐 행정처분을 의결했다.

개인정보위 조사 결과 스캐터랩은 자사의 앱 서비스인 ‘텍스트앳’과 ‘연애의 과학’에서 수집한 카카오톡 대화를 2020년 2월부터 올 1월까지 페이스북 이용자 대상의 챗봇 서비스인 이루다 의 AI 개발과 운영에 이용한 것으로 확인됐다.

스캐터랩은 이루다 AI 모델의 개발을 위한 알고리즘 학습 과정에서 카카오톡 대화에 포함된 이름, 휴대전화번호, 주소 등의 개인정보를 삭제하거나 암호화하는 등의 조치를 전혀 하지 않고 약 60만명에 달하는 이용자의 카카오톡 대화문장 94억여 건을 이용했다.

이루다 서비스 운영 과정에서는 20대 여성의 카카오톡 대화문장 약 1억건을 응답 DB로 구축하고 이루다가 이 중 한 문장을 선택해 발화할 수 있게 운영했다.

개인정보위는 스캐터랩이 이루다 서비스 개발과 운영에 이용자의 카카오톡 대화를 이용한 것에 대해 텍스트앳과 연애의 과학 개인정보처리방침에 신규 서비스 개발을 포함시켜 이용자가 로그인함으로써 동의한 것으로 간주하는 것만으로는 이용자가 이루다와 같은 신규 서비스 개발 목적의 이용에 동의했다고 판단했다.

신규 서비스 개발이라는 기재만으로 이용자가 이루다 개발과 운영에 카카오톡 대화가 이용될 것에 대해 예상하기도 어려우며 이용자의 개인정보 자기결정권이 제한되는 등 이용자가 예측할 수 없는 손해를 입을 우려가 있다는 이유로 스캐터랩이 이용자의 개인정보를 수집한 목적을 벗어나 이용한 것이라고 판단했다.

개인정보위는 스캐터랩이 개발자들의 코드 공유와 협업 사이트로 알려진 깃허브(Github)에 2019년 10월부터 올 1월까지 이름 22건과 지명정보 34건, 성별, 대화 상대방과의 관계 등이 포함된 카카오톡 대화문장 1431건과 AI 모델을 게시한 것에 대해 ’특정 개인을 알아보기 위해 사용될 수 있는 정보‘를 포함했다는 이유로 개인정보 보호법을 위반한 것이라고 판단했다.

개인정보위는 조사 과정에서 정보주체가 명확히 인지할 수 있도록 알리고 동의를 받지 않은 사실 등 추가 위반사실을 확인했으며 이루다와 관련된 사항을 포함, 총 8가지 개인정보 보호법 위반행위에 대해 스캐터랩에 총 1억 330만원의 과징금과 과태료를 부과하고 시정조치를 명령했다.

개인정보위는 시민사회단체나 소송에 참여하거나 예정인 사람들을 중심으로 데이터를 보호하라는 요청이 있었지만 원칙적으로 파기가 맞다고 설명했다.

윤종인 개인정보위 위원장은 “이루다 사건은 전문가들조차 의견이 일치되지 않아 그 어느 때보다도 격렬한 논쟁이 있었고 매우 신중한 검토를 거쳐 결정됐다"고 강조했다.

한편 개인정보위는 AI 기술 기업이 스스로 개인정보 보호 역량을 높일 수 있도록 AI 개발자나 운영자가 현장에서 활용 가능한 AI 서비스의 개인정보보호 자율점검표를 발표하고 현장 컨설팅을 지원하는 등 AI 기술 기업이 국민의 개인정보를 보호하면서 AI·데이터 기반 산업을 발전시킬 수 있도록 적극 지원해 나갈 계획이다.

 

 



댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.

  • [인터넷 신문 등록 사항] 명칭 : ㈜한국정보통신신문사
  • 등록번호 : 서울 아04447
  • 등록일자 : 2017-04-06
  • 제호 : 정보통신신문
  • 대표이사·발행인 : 함정기
  • 편집인 : 이민규
  • 편집국장 : 박남수
  • 서울특별시 용산구 한강대로 308 (한국정보통신공사협회) 정보통신신문사
  • 발행일자 : 2024-03-28
  • 대표전화 : 02-597-8140
  • 팩스 : 02-597-8223
  • 청소년보호책임자 : 이민규
  • 사업자등록번호 : 214-86-71864
  • 통신판매업등록번호 : 제 2019-서울용산-0472호
  • 정보통신신문의 모든 콘텐츠(영상,기사, 사진)는 저작권법의 보호를 받은바, 무단 전재·복사·배포 등을 금합니다.
  • Copyright © 2011-2024 정보통신신문. All rights reserved. mail to webmaster@koit.co.kr
한국인터넷신문협회 인터넷신문위원회 abc협회 인증 ND소프트