UNIST 등 5개 기관 참여
다양한 개발자 참여 독려
과학기술정보통신부와 울산과학기술원(UNIST)이 지난달 25일 ‘설명가능 인공지능 연구센터’를 개소했다고 밝혔다.
이는 과기정통부의 ‘인공지능 국가전략프로젝트’의 일환으로, 울산과학기술원을 비롯해 한국과학기술원·고려대학교·연세의료원·에이아이트릭스(AITrics) 등 5개 기관이 공동으로 참여한다.
이 연구센터는 현재의 인공지능기술이 급격한 성능 향상에도 불구하고, 추론·판단 논거를 논리적으로 설명하지 못해 활용 범위가 제약되는 한계를 극복하기 위해 ‘설명 가능한’ 인공지능을 개발하는 데 주안점을 두고 있다.
최근 자율주행차·가상비서 등 인공지능 기술의 급격한 발전으로 다양한 분야에 인공지능 도입을 확산해 경제·사회적 편익을 높일 수 있다는 기대가 높아지고 있으나, 스스로 추론과 판단의 논거를 설명하지 못하는 인공지능 기술의 한계로 아직까지 판단에 책임이 요구되는 분야에서의 인공지능 활용은 제약되는 실정이다.
이에, 이번 연구에서는 의료·법률·금융·국방 등 추진 과정의 투명성과 사용자의 신뢰가 요구되는 분야에도 인공지능이 활용될 수 있도록, 의사결정에 대한 이유를 사람이 이해할 수 있는 방식으로 제시할 수 있는 인공지능 기술의 개발을 추진해나갈 계획이다.
예를 들어, 인공지능이 알츠하이머성 치매의 가능성을 88.9%로 판단한다고 있을 때, 시상(視床) 영역의 비정상성이 80.7%, 왼쪽·오른쪽 운동 피질 영역의 비정상성이 75.7%, 중심앞 영역의 비정상성이 92.1%로 추정되기 때문이라는 근거를 제시할 수 있도록 하는 것이다.
동 연구는 정부 정책에 따라 다양한 개발자가 함께 참여해 공동으로 개발해 나가는 ‘오픈소스 프로젝트’ 형태로 추진된다.
주관기관인 울산과학기술원은 프로젝트의 구심점으로서 개발자 커뮤니티를 운영하고 응용 서비스 사례를 실증하는 역할을 담당한다.
향후 관련 주제로 국제 기술 경진대회를 개최해 연구 성과의 성능 검증에도 나설 예정이다.
과기정통부 관계자는 “사람 중심의 4차 산업혁명 시대를 열어가는 데 있어서 설명가능한 인공지능과 같이 인간과 기계의 협업을 촉진하는 기술이 중요한 역할을 할 수 있을 것”이라고 강조했다.