UPDATED. 2023-02-03 19:27 (금)
[ICT광장] 이루다가 편향적? 잘못 생각하고 있다
[ICT광장] 이루다가 편향적? 잘못 생각하고 있다
  • 박광하 기자
  • 승인 2022.12.13 18:05
  • 댓글 0
이 기사를 공유합니다

박지환 씽크포비엘 대표
박지환 씽크포비엘 대표이사.
박지환 씽크포비엘 대표이사.

얼마 전 인공지능(AI) 신뢰성 관련 공청회에서 이런 질문이 나왔다. "이루다 2.0이 서비스를 다시 시작한 이후에도 여전히 편향적인 모습을 보이고 있는 게 아닌가?" 이루다 2.0이 특정 종교에 대해서 부정적으로 생각하는 것처럼 이야기했다는 것이다.

이에, 개발사인 스캐터랩의 대표는 "그렇다면 이루다는 이용자의 말에 대해 아무 대답도 하면 안 되는 것일까요?"라고 답변하면서도 말을 애써 아끼는 눈치였다.

이루다는 '열린 주제 대화형(Open-domain conversational)' AI다. 누군가와 대화를 하고 싶은데 대화할 사람이 없거나, 아니면 특정 화제에 대해서 편하게 대화할 사람이 없을 때 대화 상대 역할을 해주는 기계다. 말하자면 타인에게 피해 주지 않으면서 최대한 대화의 자유, 표현의 자유를 누릴 수 있게끔 해주는 도구다. 이용자가 벽을 보고 떠드는 대신 굳이 AI 챗봇을 사용한 것은 내 대화가 막힌 벽이 아니라 나와 동등한 대화 상대를 향한 것이기를 바라는 욕구 때문일 것이다. 그런데 그 AI가 이용자의 선택 주제에 대해 '자기 생각'을 말했다는 이유로 편향적이라 한다? 혹시 질문자는 이루다가 신의 영역에서나 가능할 법한 윤리적 절대 존재가 되길 기대하는 것일까?

필자는 질문 자체보다도, 전문가로 가득한 해당 공청회 현장에서 개발사 대표만이 최대한 에둘러 이야기할 뿐 누구도 자유로운 대화를 위한 AI 서비스에서 AI가 자유롭게 말하다니 잘못된 것 아니냐는 질문에 대해, 그 모순을 지적하지 않았다는 사실이 놀라울 따름이었다. AI 편향성, 내지 신뢰성이라는 개념이 무언가 잘못 이해되고 있다.

애당초 챗봇이 말했다는 '자기 생각'도 엄밀하게 따지면 챗봇 스스로가 만들어낸 생각이 아니다. 우리는 AI를 자연스러운 대화 상대로 만들기 위해 방대한 데이터로 학습시켰고, AI는 그 데이터에 포함된 특정 사회 가치관에 영향받았을 뿐이다. 말하자면 AI의 '편향된 생각'은 다수 구성원의 통념을 반영한 것이다.

결국 자유 대화 목적의 챗봇이 '완전히 편향되지 않으려면' 사회 전체가 모든 주제에 대해 100% 정답을 합의하고 이견이 없어야 한다.

이것이 가능할까?

가능하다 해도 이런 게 바로 전체주의, 획일성, 빅브라더 사회가 아닐까?

AI 기술을 통해 우리가 이루고자 하는 것이 그런 사회인가?

물론 표현의 자유에 책임과 제약이 따르듯, 자유 대화의 AI도 최소한의 공적 규칙을 지켜야 한다. 또한 자유 대화가 아니라 더 중요하고 공적인 업무를 하는 AI라면 보다 엄격한 기준으로 관리된 데이터를 입력해 데이터 편향으로 인한 위험을 최소화해야 한다.

요컨대 AI의 목적과 역할에 따라 각기 다른 기준의 신뢰성이 적용돼야 하고, 그렇게 각 분야에 적용되는 기준은 우리 각자의 '기분'이 아니라 공공의 인증을 거친 객관적인 것이어야 한다. 마치 똑같이 '깨끗한 물'이라 해도 그 용도가 음용수를 위한 것인지 농업용수를 위한 것인지에 따라 다른 수질 기준으로 객관적인 공인을 거쳐야 하는 것과 마찬가지다. 그런 기준 없이 그때 그때 기분만으로 '깨끗한 물'을 추구하다 보면, 농업용수에서 대장균을 걸러내느라 바빠서 정작 우리 아이가 오염된 생수 때문에 식중독에 걸리는 것을 방치하게 된다. 품질 관리에 들일 수 있는 비용은 늘 한정돼 있기 때문이다.

AI 기반 사회로의 전환이 눈부시다.

그래서 AI 기술만큼이나 그에 대한 규제도 숨 가쁘게 발전되고 고도화된다.

우리가 자유 대화용 챗봇의 말실수나 질타하는 사이에, EU에서는 위험기반접근(risk-based approach) 방식에 따라 AI에 대한 규제를 세분화하고 있다.

결국 중요한 것은 우리가 AI 기술을 통해 얻으려는 것이 무엇이냐의 문제이며, AI의 한계를 정확히 이해하고 올바르게 활용하는 것이다. 편향성과 신뢰성 논의를 통해 우리가 얻으려는 게 단지 도덕적 구호인지, 무언가를 비난하고 금지하는 데서 오는 쾌감인지, 아니면 새로운 사회적 편익과 부가가치인지, 그에 따라 냉철한 판단으로 과감하게 움직여야 한다. 그리고 업계와 대중이 더 합리적일 수 있도록 공공이 필요한 역할을 해야 한다.


관련기사

댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.

  • [인터넷 신문 등록 사항] 명칭 : ㈜한국정보통신신문사
  • 등록번호 : 서울 아04447
  • 등록일자 : 2017-04-06
  • 제호 : 정보통신신문
  • 대표이사·발행인 : 문창수
  • 편집인 : 이민규
  • 편집국장 : 박남수
  • 서울특별시 용산구 한강대로 308 (한국정보통신공사협회) 정보통신신문사
  • 발행일자 : 2023-02-03
  • 대표전화 : 02-597-8140
  • 팩스 : 02-597-8223
  • 청소년보호책임자 : 이민규
  • 사업자등록번호 : 214-86-71864
  • 통신판매업등록번호 : 제 2019-서울용산-0472호
  • 정보통신신문의 모든 콘텐츠(영상,기사, 사진)는 저작권법의 보호를 받은바, 무단 전재·복사·배포 등을 금합니다.
  • Copyright © 2011-2023 정보통신신문. All rights reserved. mail to webmaster@koit.co.kr
인터넷신문위원회 abc협회 인증 ND소프트