자율주행·의료·공공사회 분야 석권
검증체계 고도화, 12월 최종안 마련
[정보통신신문=박광하기자]
자율주행, 의료, 공공사회 분야에서 정확하고 공정한 판단이 가능한 인공지능(AI) 개발을 돕는 안내서가 선보일 예정이다. 안내서 제작은 국내 소프트웨어(SW) 공학 전문기업인 씽크포비엘에 의해 수행되고 있어, AI 산업의 기술 자주권 확보에도 도움이 되고 있다.
씽크포비엘(대표이사 박지환)은 과학기술정보통신부와 한국정보통신기술협회(TTA)가 지난 5월부터 추진한 'AI 신뢰성 요구사항 도출 연구 용역'에 주관사로 참여해 자율주행, 의료, 공공사회 분야 3종의 '신뢰할 수 있는 인공지능 개발 안내서'를 제작했다고 최근 밝혔다.
이 용역사업은 사람 중심의 'AI 강국' 실현을 목표로 AI 혜택은 극대화하면서 위험·부작용을 최소화하기 위해, AI 신뢰성(Trustworthiness)을 확보해 AI 신뢰성 검증체계를 고도화한다는 계획에 따라 진행됐다.
이를 위해, 자율주행, 의료, 금융, 공공사회 4개 분야에서 AI 신뢰성 확보를 위한 요구사항과 검증항목 도출 및 이를 활용한 개발 안내서 현장 적용, 신뢰성 확보 컨설팅 업무를 수행하는 용역사업이 추진됐다.
조달청 입찰 결과, 씽크포비엘이 4개 분야 전체를 수주하는 데 성공했다. 이후 금융당국과 TTA 등이 협의해 금융 분야 용역사업이 철회되면서 3개 분야에 대한 용역사업이 진행됐다.
씽크포비엘은 사업 일정과 계획에 따라 협력업체 등과 각 분야 요구사항 및 검증항목 고도화 작업을 진행했고, 요구사항·검증항목 적용사례 및 활용자료를 제시했다. 이어 현장 적용 과정을 거치면서 본격적인 개발 안내서를 작성했고, AI 신뢰성 확보 컨설팅도 수행했다.
개발 과정에서 '주행 관련 AI'(자율주행), '진단과 처방을 포함하는 AI'(의료). '공공 서비스에 활발히 활용 중인 챗봇 및 음성인식 기능'(공공사회) 등 분야별 AI 정의 수립을 통한 기준 마련도 이뤄졌다. 이를 위해 씽크포비엘은 국내외 방대한 참고자료에 대한 선행조사를 진행했다고 설명했다.
씽크포비엘은 회사가 오랜 기간 준비해 온 SW, AI 신뢰성 관련 기술이 개발 가이드 제작에 잘 반영될 수 있도록 10개국에서 모인 석박사 인력으로 구성된 전담팀을 운영했다.
개발 안내서는 11월 24일 열린 '인공지능 윤리확산을 위한 공개 정책 세미나'에서 초안이 공개됐으며, 이후 보완 작업 등을 거쳐 12월 9일 최종안이 마련될 예정이다.
씽크포비엘은 이번 용역사업을 석권할 수 있었던 데 대해 AI 신뢰성 검증 분야에서 업계를 선도하는 기술력 확보, 단체표준(TTA) 3건 채택, 특허 출원과 논문(해외 SCI급) 게재 등을 통해 공신력을 인정받은 것이 긍정적인 영향을 낳았다고 자평했다.
무엇보다도 이번 개발 안내서가 현장에 실질적인 도움을 준다는 목표로 제작된 만큼, 오랜 기간 정보기술(IT) 및 SW 업계 현장에서 기업 등이 산업 현장에서 겪는 어려움을 해결하고 실질적으로 성장할 수 있도록 지원해 온 경험이 있었기에 가능했다고 덧붙였다.
글로벌 빅테크 기업들이 개발, 운영하는 AI 솔루션이 최근 인종차별이나 성차별적인 판단을 하는 사례나 자율주행차량이 데이터 분석을 제대로 수행하지 못한 결과 교통사고를 야기하는 사례 등은 AI 신뢰성 이슈를 낳고 있다. 이 같은 상황에서 국내 기업에 의해 신뢰할 수 있는 AI 개발 안내서가 마련되는 만큼, AI 산업 발전에 큰 도움이 될 것으로 관련 업계에서는 기대하고 있다.
박지환 씽크포비엘 대표는 "유럽 집행위원회의 AI 법안 등 전 세계적으로 제정되고 있는 여러 규제에 국내 AI 개발 기업이 충분히 대응할 수 있도록 개발 가이드를 제작했는데, 아직 전 세계적으로 구체적으로 참조할 만한 사례가 없는 상황에서 개발 가이드에 대한 기업의 부정적 인식과 혼선을 예방하려면 현장 중심의 실효성을 갖추는 게 무엇보다 중요했다"고 말했다.
그는 이어 "씽크포비엘은 지난 15년간 400여건에 이르는 현장 중심 컨설팅 경험이 있었기에, 개발 가이드 제작 과정에서 단순 이론이나 지식 중심 접근에서 벗어나 현장 정황을 고려해 수용 가능한 수준으로 조화롭게 균형을 맞출 수 있었다"고 밝혔다.
