UPDATED. 2024-03-29 15:12 (금)
"차단 이유 설명 못하는 AI 기반 콘텐츠 통제 '문제'"
"차단 이유 설명 못하는 AI 기반 콘텐츠 통제 '문제'"
  • 최아름 기자
  • 승인 2022.09.23 19:24
  • 댓글 0
이 기사를 공유합니다

한국방송학회, 한국통신학회, 정보통신정책학회
인공지능 시대, ICT 산업과 정책적 과제 심포지엄 개최
20일 방송학회, 통신학회, 정보정책학회가 공동 개최한 '인공지능 시대, ICT 산업과 정책적 과제' 심포지움에서 전문가들은 인공지능 산업 활성화를 위한 다양한 정책 제언을 내놨다.
20일 방송학회, 통신학회, 정보정책학회가 공동 개최한 '인공지능 시대, ICT 산업과 정책적 과제' 심포지움에서 전문가들은 인공지능 산업 활성화를 위한 다양한 정책 제언을 내놨다.

[정보통신신문=최아름기자]

한국방송학회(학회장 도준호 숙명여대 교수), 한국통신학회(학회장 신요안 숭실대 교수), 정보통신정책학회(학회장 이희정 고려대 교수)가 23일 에 한국프레스센터 20층 국제회의장에서 ‘인공지능 시대, ICT 산업과 정책적 과제’ 심포지엄을 개최했다. 이날 전문가들은 인공지능 산업 활성화를 위한 다양한 제언들을 내놨다.

먼저 박상철 서울대 교수는 '인공지능과 ICT 산업정책' 주제의 발표에서 “EU의 AI법안의 경우 AI 기반 승강기 모델이 투명성 의무를 감수해야 하는 등 '고위험 AI'에 해당하면 데이터 거버넌스, 투명성, 정확성, 견고성, 보안, 인적 감시 등 모든 의무를 한꺼번에 부담해야 한다. 모든 의무를 백화점식, 저인망식으로 준수하도록 하는 것은 과잉규제로 부문별 접근이 필요하다”고 전했다.

또한 “한국이 가진 자체 플랫폼으로 인해, 이를 통해 축적한 데이터에 기반한 한국어 트랜스포머 모델은 거의 세계 최고의 수준이라며, 이는 한국어 휴머노이드 기술의 기초이자 여러 AI 모델의 기초가 될 가능성이 높아 막대한 편익이 기대되고 있다”며 “하지만 개발자가 일일이 유해발언을 필터링하는 것은 불가능하므로 합리적인 최선의 노력을 다하면 면책시켜주는 제도를 마련하고, 어느 정도 리스크를 감수하는 사회적 합의를 도출해야 한다”고 제언했다. 트랜스포머 모델은 구글이 개발한 딥러닝 기반 자연어처리 모델이다.

송해엽 군산대 교수는 ‘인공지능과 콘텐츠 모더레이션’을 주제로 발표했다.

그에 따르면 온라인 플랫폼을 통해 보여지는 뉴스량은 2000년대보다 무려 10~20배 늘어나 시간순보다는 흥미 위주로 노출하게 됐고, 순위에서 추천 중심으로 노출 정책을 도입하게 됐다. 이를 위해 플랫폼이 알고리즘을 사용하게 됐다.

비판의 흐름은 알고리즘이 사람의 생각이나 의사결정에 영향을 미칠 수 있기에 이를 투명하게 공개해야 한다는 쪽으로 흘렀지만, 생각보다 영향력이 크지 않다는 연구 결과도 상존하고 있다.

이러한 비판에 대응해 플랫폼은 인공지능을 통한 통제를 선택했다. 지난해 유튜브는 인공지능이 문제가 되는 동영상을 감지해 삭제한 내역을 공개했고, 페이스북 역시 인공지능에 의한 콘텐츠 필터링을 발표했다.

그러나 페이스북에서 1인칭 총기 난사 라이브 영상이나 투계 영상을 인공지능이 걸러내지 못하는 등 기술 실패 사례가 나오고 있다. 인공지능은 피흘리는 닭의 위해성을 이해하지 못하는 등 사회맥락 몰이해 문제가 불거지기 시작한 것이다.

이에 대해 송 교수는 ‘규제된 자율규제’를 대안으로 제시했다. 그는 “자율규제는 사업자에게 너무 많은 부담을 줄 수 있다. 또한 대규모 자원 투자가 필요하기에 이것이 가능한 기업들만 수인 가능해 신규 플랫폼 기업 진입을 어렵게 할 수 있다”며 “사회적 논의를 통해 어느 정도의 규제안을 마련할 필요가 있지 않을까”라고 의견을 제시했다.

이에 대해 오세욱 언론진흥재단 박사는 “왜 어떤 것은 보여질 기회가 박탈되고, 접근 기회조차 박탈되는지 생각해봐야 할 시점”이라고 화두를 던졌다.

현재 유튜브의 인공지능 자동 삭제 콘텐츠 중 이유가 불분명한 경우 등 인공지능의 콘텐츠 통제 실패 사례들이 늘고 있다.

오 박사는 “콘텐츠의 이해할 수 없는 삭제 조치에 대해 플랫폼 기업은 '확률에 기반한 인공지능에 의한 조치'라는 명분 뒤에 숨어, 논란이 불거질 만한 콘텐츠들에 대해 '삭제'라는 손쉬운 대처로 일관하고 있다”며 “권력화, 자동화된 알고리즘은 소외받는 사람이나 지점을 보이지 않게 한다. 이유는 설명하지 않거나, 더 많은 경우 설명하지 못한다. 그 결과에 대해 생각해봐야 한다”고 강조했다.

이현규 정보통신기획평가원 AI PM은 ‘인공지능과 디지털 대전환’을 주제로 발표했다.

그는 “현재 우리의 인공지능 기술 수준은 미국 대비 87.8% 정도로, 기초보다는 응용, 사업화 기술에 강점을 보이고 있으나, 전체 인공지능 서비스 및 기술의 이용률은 2.5%밖에 되지 않는다. 현장에서는 지나친 기대감으로 인한 실망감이 커 이 역시도 풀어야 할 숙제”라고 밝혔다.

또한 이 PM에 따르면, AI기술만 개발하는 것이 아니라 실제 산업계에 접목하는 기술과 특허 확보까지 고려하지 않으면 살아남을 수 없는 것이 최근의 트렌드로, AI 최강국인 미국과 중국이 취하는 전략이기도 하다. 세계 최고의 기술보다 사업을 세계 최고로 만드는 기술이 중요한 것이다.

트렌드 적용의 일환으로 정부가 지원하는 ‘첨단원천유망사업’은 수요기관이 문제를 제기하고 데이터전문가로 참여해서 인공지능 전문가가 도메인 지식 개발, 전수, 관리해하도록 했다. 이를 통해 나온 아웃풋을 바로 상용화하는 것이 목표다.



댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.

  • [인터넷 신문 등록 사항] 명칭 : ㈜한국정보통신신문사
  • 등록번호 : 서울 아04447
  • 등록일자 : 2017-04-06
  • 제호 : 정보통신신문
  • 대표이사·발행인 : 함정기
  • 편집인 : 이민규
  • 편집국장 : 박남수
  • 서울특별시 용산구 한강대로 308 (한국정보통신공사협회) 정보통신신문사
  • 발행일자 : 2024-03-29
  • 대표전화 : 02-597-8140
  • 팩스 : 02-597-8223
  • 청소년보호책임자 : 이민규
  • 사업자등록번호 : 214-86-71864
  • 통신판매업등록번호 : 제 2019-서울용산-0472호
  • 정보통신신문의 모든 콘텐츠(영상,기사, 사진)는 저작권법의 보호를 받은바, 무단 전재·복사·배포 등을 금합니다.
  • Copyright © 2011-2024 정보통신신문. All rights reserved. mail to webmaster@koit.co.kr
한국인터넷신문협회 인터넷신문위원회 abc협회 인증 ND소프트