UPDATED. 2022-08-07 08:43 (일)
[ICT광장] AI 편향성 문제, 언제까지 불안해하고만 있을 것인가?
[ICT광장] AI 편향성 문제, 언제까지 불안해하고만 있을 것인가?
  • 박광하 기자
  • 승인 2022.07.02 16:50
  • 댓글 0
이 기사를 공유합니다

박지환 씽크포비엘 대표
박지환 씽크포비엘 대표이사.
박지환 씽크포비엘 대표이사.

​이력서를 평가하는 인공지능(AI)이 성차별적 편견에 따라 의사결정을 하고, AI 챗봇이 인종차별적 발언을 하는 등의 '오작동'이 빈발함에 따라, AI의 공정성·윤리성 이슈가 한층 중요하게 부각하고 있다.

AI의 역할이 점점 더 크리티컬해지는 현실에서 당연한 문제 제기다. 그런데 이에 대한 해법이 대부분 개발자와 사용자의 윤리적 각성을 요구하는 강령 형태를 띤다. 마치 개발자들이 각별하게 윤리 분야에 무관심하거나 악의적이라서 생긴 문제처럼 말이다. 물론 우리는 최대한 윤리적이어야 하지만 그것만으로 해결될 문제가 아니다.

문제가 된 AI의 '오작동' 대부분은 사실 엄밀한 의미에서 오작동이 아니다. AI는 어디까지나 학습된 데이터를 바탕으로 판단을 내리는 기계이기 때문이다. 이력서를 평가하는 AI는 해당 업계의 통념과 의사결정 패턴을, 챗봇은 유사한 채팅을 하는 사람의 발언 패턴을 데이터로써 학습해 정확히 반영했을 뿐이다.

어린아이가 각종 유튜브 채널을 무작위적으로 시청한 후에 어른들이 불쾌해할 유행어를 입에 올린다면, 그것은 아이의 잘못도 아니고 아이의 지능이 오작동한 결과도 아니다.

그렇다고 어린이의 유튜브 시청을 무조건 막거나 세상의 모든 유튜버가 성직자처럼 말해야만 해결되는 문제도 아니다. 보호자가 어린이의 유해 유튜브 시청을 제한하면 될 일이다. 이때 어린이에게 해로운 채널과 바람직한 채널을 구분하는 것은 그때그때 기분이나 '감'이 아니라 명확한 기준에 따라서 체계적으로 이뤄져야 효과적일 것이다.

마찬가지로 윤리적이고 공정한 AI를 원한다면, AI의 학습 데이터가 특정한 가치판단의 기준에 따라 통제돼야 한다.

윤리란 본질적으로 무언가를 하지 않거나 하지 않게 만드는 일이고, 자유의 제한일 수밖에 없기 때문이다. 학습 데이터를 통제하지 않은 채 AI에 공정한 판단을 요구하는 것은 길거리에 '자유롭게' 방치된 어린아이가 무탈하게 인격자로 자라나길 기대하는 것과 같다. 또한 그 관리 책임을 전적으로 개발자에게 지우는 것도, 어린이의 사회화를 오로지 부모의 주관에 맡기는 것과 마찬가지로, 불합리할 뿐 아니라 비효율적인 일이다. 윤리와 공정은 AI에 꼭 필요하지만, 인위적이고 부자연스러운 '제한'이기 때문에 모두가 동의할 수 있으면서 기술적으로 가능한 기준이 있어야 한다.

현재의 AI 산업은 AI라는 어린아이가 영리한 동시에 건전한 민주시민으로 자라길 원하면서도, 공교육의 기준 없이 개발자에게 만능 부모가 되길 요구하는 상황이다.

우리나라만 그런 것도 아니고 전 세계가, 공통 기준 제정 이전의 시행착오를 함께 겪는 중이라 하겠다.

그렇다면 한발 앞서, 당장 완벽하지 않을지라도 적용이 가능한 기술적 기준을 제시해 볼 필요가 있다. 기술 기준이 있다는 것 자체가 산업의 경쟁력으로 작용하기 때문이다.

한국정보통신기술협회(TTA)는 이미 데이터 편향 측정에 대한 공적인 기준을 단체 표준으로서 제정해 두고 있다. 이 자리를 빌려, TTA 기준을 활용한 공공데이터 수준 진단을 제안한다.

마침 AI 허브에는 민간 기업을 위해 어렵게 수집해 놓은 막대한 양의 공공데이터가 있다. 편향 검사를 통해 그것이 얼마만큼의 가치를 지니고 있는지, 혹시 현장에서의 사용에 앞서 보완할 여지는 없는지를 확인할 수 있다면 기업을 위해서나, 공공데이터의 산업 기여도를 정당하게 평가받기 위해서나 큰 도움이 될 것이다.

AI 데이터의 표준화를 지금 선도해 나간다면, 언젠가 우리 기준으로 전 세계 인공지능을 검증·평가하는 날이 올 것이다. 그러지 않으면 남의 기준에 맞추느라 우리 기술을 하나하나 재검토해야 할 뿐 아니라, 막대한 예산을 들이고도 따라갈 수 없을 만큼 기술 수준 격차가 벌어질 수 있다. AI라는 도구에 공통의 안전기준이 제정되는 것은 필수이자 필연이기 때문이다.

피할 수 없다면 우리가, 지금, 앞질러 해내는 것이 좋다.

그것이 AI라는 첨단산업을 '우리 것'으로 만듦으로써 정부가 발표한 '초일류 인공지능 국가'가 되는 방법일 것이다.


관련기사

댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.

  • [인터넷 신문 등록 사항] 명칭 : ㈜한국정보통신신문사
  • 등록번호 : 서울 아04447
  • 등록일자 : 2017-04-06
  • 제호 : 정보통신신문
  • 대표이사·발행·편집인 : 문창수
  • 서울특별시 용산구 한강대로 308 (한국정보통신공사협회) 정보통신신문사
  • 발행일자 : 2022-08-07
  • 대표전화 : 02-597-8140
  • 팩스 : 02-597-8223
  • 청소년보호책임자 : 이민규
  • 사업자등록번호 : 214-86-71864
  • 통신판매업등록번호 : 제 2019-서울용산-0472호
  • 정보통신신문의 모든 콘텐츠(영상,기사, 사진)는 저작권법의 보호를 받은바, 무단 전재·복사·배포 등을 금합니다.
  • Copyright © 2011-2022 정보통신신문. All rights reserved. mail to webmaster@koit.co.kr
인터넷신문위원회 abc협회 인증 ND소프트