UPDATED. 2024-03-29 13:30 (금)
AI가 자신이 내린 판단의 근거 제시한다
AI가 자신이 내린 판단의 근거 제시한다
  • 차종환 기자
  • 승인 2017.09.26 11:00
  • 댓글 0
이 기사를 공유합니다

‘설명가능 AI 연구센터’ 개소
UNIST 등 5개 기관 참여
다양한 개발자 참여 독려

과학기술정보통신부와 울산과학기술원(UNIST)이 지난달 25일 ‘설명가능 인공지능 연구센터’를 개소했다고 밝혔다.

이는 과기정통부의 ‘인공지능 국가전략프로젝트’의 일환으로, 울산과학기술원을 비롯해 한국과학기술원·고려대학교·연세의료원·에이아이트릭스(AITrics) 등 5개 기관이 공동으로 참여한다.

이 연구센터는 현재의 인공지능기술이 급격한 성능 향상에도 불구하고, 추론·판단 논거를 논리적으로 설명하지 못해 활용 범위가 제약되는 한계를 극복하기 위해 ‘설명 가능한’ 인공지능을 개발하는 데 주안점을 두고 있다.

최근 자율주행차·가상비서 등 인공지능 기술의 급격한 발전으로 다양한 분야에 인공지능 도입을 확산해 경제·사회적 편익을 높일 수 있다는 기대가 높아지고 있으나, 스스로 추론과 판단의 논거를 설명하지 못하는 인공지능 기술의 한계로 아직까지 판단에 책임이 요구되는 분야에서의 인공지능 활용은 제약되는 실정이다.

이에, 이번 연구에서는 의료·법률·금융·국방 등 추진 과정의 투명성과 사용자의 신뢰가 요구되는 분야에도 인공지능이 활용될 수 있도록, 의사결정에 대한 이유를 사람이 이해할 수 있는 방식으로 제시할 수 있는 인공지능 기술의 개발을 추진해나갈 계획이다.

예를 들어, 인공지능이 알츠하이머성 치매의 가능성을 88.9%로 판단한다고 있을 때, 시상(視床) 영역의 비정상성이 80.7%, 왼쪽·오른쪽 운동 피질 영역의 비정상성이 75.7%, 중심앞 영역의 비정상성이 92.1%로 추정되기 때문이라는 근거를 제시할 수 있도록 하는 것이다.

동 연구는 정부 정책에 따라 다양한 개발자가 함께 참여해 공동으로 개발해 나가는 ‘오픈소스 프로젝트’ 형태로 추진된다.

주관기관인 울산과학기술원은 프로젝트의 구심점으로서 개발자 커뮤니티를 운영하고 응용 서비스 사례를 실증하는 역할을 담당한다.

향후 관련 주제로 국제 기술 경진대회를 개최해 연구 성과의 성능 검증에도 나설 예정이다.

과기정통부 관계자는 “사람 중심의 4차 산업혁명 시대를 열어가는 데 있어서 설명가능한 인공지능과 같이 인간과 기계의 협업을 촉진하는 기술이 중요한 역할을 할 수 있을 것”이라고 강조했다.

 


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.

  • [인터넷 신문 등록 사항] 명칭 : ㈜한국정보통신신문사
  • 등록번호 : 서울 아04447
  • 등록일자 : 2017-04-06
  • 제호 : 정보통신신문
  • 대표이사·발행인 : 함정기
  • 편집인 : 이민규
  • 편집국장 : 박남수
  • 서울특별시 용산구 한강대로 308 (한국정보통신공사협회) 정보통신신문사
  • 발행일자 : 2024-03-29
  • 대표전화 : 02-597-8140
  • 팩스 : 02-597-8223
  • 청소년보호책임자 : 이민규
  • 사업자등록번호 : 214-86-71864
  • 통신판매업등록번호 : 제 2019-서울용산-0472호
  • 정보통신신문의 모든 콘텐츠(영상,기사, 사진)는 저작권법의 보호를 받은바, 무단 전재·복사·배포 등을 금합니다.
  • Copyright © 2011-2024 정보통신신문. All rights reserved. mail to webmaster@koit.co.kr
한국인터넷신문협회 인터넷신문위원회 abc협회 인증 ND소프트