[정보통신신문=차종환기자]

서울시가 전국 최초 ‘디지털 성범죄 인공지능(AI) 삭제지원 프로그램’으로 행정안전부가 개최한 ‘2023 정부혁신 우수사례 경진대회’에서 대통령상 ‘대상’을 수상했다고 밝혔다.

매년 정부혁신 우수사례를 발굴해 범정부적으로 공유·확산하는 이번 경진대회에는 전 행정기관(중앙부처·자치단체·교육청) 및 공공기관 등에서 제출한 533건의 정부혁신 우수사례가 접수됐다.

서울시 ‘디지털 성범죄 AI 삭제지원 프로그램’은 AI기술이 24시간 실시간 모니터링을 통해 피해 영상물을 자동으로 검출, 보다 빠르게 영상물을 삭제하고 재유포를 막는 시스템이다.

서울시와 서울연구원은 2022년도 7월 프로그램 개발에 착수, 올해 3월 프로그램 개발을 완료했다.

AI가 기존 피해 영상물의 삭제지원에 비해 보다 빠르고 정확하게 삭제지원을 할 수 있다는 점, 이를 통해 피해자의 고통을 줄이고 일상회복을 지원할 수 있어 기존의 디지털 성범죄의 가장 고질적인 문제를 해결할 수 있다는 점에서 높은 평가를 받았다.

서울시는 ‘서울 디지털 성범죄 안심지원센터’를 통해 AI를 도입한 지 7개월 만에 총 45만건의 영상물을 모니터링했으며 이는 AI 도입 전 사람이 직접 모니터링했을 때와 비교하면 1265%나 상승한 규모다.

시는 AI 도입과 함께 아동∙청소년 피해 예방에 주력할 계획이다. 최근 아동∙청소년을 대상으로 한 디지털 성범죄 피해건수가 지속적으로 증가하고, 특히 피해자나 가족의 신고 없이 온라인 상에서 유포되는 피해 영상물이 많은 데 따른 것이다.

본인이 삭제를 요청해야 삭제지원이 가능한 성인과 달리, 아동∙청소년은 ‘아동·청소년의 성보호에 관한 법률’ 등에 따라 당사자나 부모님의 신고 없이도 즉시 삭제가 가능한 만큼 AI 추적∙감시를 통해 디지털성범죄 피해 예방에 선제적으로 나선다.

아동∙청소년 피해 영상물이 성인의 영상과 잘 구분되지 않아 삭제지원에 어려움이 있다는 점에 착안해 서울연구원과 함께 내년 상반기를 목표로 ‘AI 기반 아동∙청소년 피해 영상물 삭제지원 프로그램’도 개발 중에 있다.

‘AI 기반 아동∙청소년 삭제지원 프로그램’은 아동∙청소년 피해 영상물의 얼굴 및 배경 사물(객체) 인식뿐만 아니라, 아동‧청소년 연관 게시글을 종합 분석해 성별, 나이 등을 예측하는 모델로 프로그램이 개발되면 아동‧청소년 선제적 삭제지원에 큰 도움이 될 것으로 기대된다.

서울시는 ‘디지털 성범죄 AI 삭제지원 프로그램’ 개발뿐 아니라 ‘서울 디지털 성범죄 안심지원센터’ 운영 등 예방부터 재발방지에 이르는 ‘디지털 성범죄 통합대응정책’을 국내뿐 아니라 해외에 확산‧전파하기 위해 ‘2024 UN공공행정상(UNPSA)’에도 본 사업을 응모했다.

김선순 서울시 여성가족정책실장은 “디지털 성범죄 AI 삭제지원과 같은 혁신기술을 통해 피해자의 고통을 경감하고, 예방부터 피해자 지원까지 좀 더 촘촘한 원스톱지원을 통해 피해자 한 분 한 분이 빠르게 일상을 회복할 수 있도록 하겠다”고 말했다.

차종환 기자 다른기사 보기