UPDATED. 2022-10-05 12:05 (수)
행정 처분에 AI 활용…설명가능성 확보 ‘관건’
행정 처분에 AI 활용…설명가능성 확보 ‘관건’
  • 최아름 기자
  • 승인 2022.06.17 19:57
  • 댓글 0
이 기사를 공유합니다

부정행위 예측해 사전 차단
사회갈등 파악해 정책 활용
경제적효과 최대 ‘7223조원’

도출결과 설명 불가 ‘한계’
구속력 인정 여부도 숙제

[정보통신신문=최아름기자]

빅데이터 분석 및 결과를 공공 정책 결정 및 처분에 활용하려는 인공지능(AI) 행정 도입 움직임이 가속화되고 있다. 인력으로 파악이 불가능한 복잡한 사회 현상을 파악하고 예측해주는 등 행정의 효율성을 크게 높일 것으로 기대되지만, 도출 결과를 설명하지 못하는 한계는 활성화를 위해 반드시 넘어야 할 산이다.

공공데이터 분석 및 예측 결과를 행정 처분에 활용하는 AI 행정의 본격 도입이 머지 않아 보인다. [사진=클립아트코리아]
공공데이터 분석 및 예측 결과를 행정 처분에 활용하는 AI 행정의 본격 도입이 머지 않아 보인다. [사진=클립아트코리아]

■AI 행정이란

AI 행정은 인공지능(AI) 기술을 활용한 ‘자동화된 행정행위’를 의미한다.

법학 분야에서는 ‘동일 또는 동종의 행정작용이 미리 입력된 프로그램에 의해 자동적으로 결정되는 것’으로 정의되고 있다.

공공 부문의 경우 AI의 기술적 위험 및 행정결정의 신뢰성, 국민들의 수용성에 대한 대응 문제 등으로 인해 민간 분야보다 보수적으로 활용되고 있지만, 그럼에도 AI 활용 공공서비스의 도입은 빠르게 확산되고 있는 중이다.

정부는 지난해에만 전자정부 시스템 고도화를 위해 645억원을 투입해 △지능형 국민비서 서비스 △지능형 폐기물 안전처리 관리체계 구축 등을 추진했다.

법적으로도 AI 행정의 절차성 타당성은 완벽히 확보된 상태다. 지난해 3월 행정기본법 제20조에 ‘행정청은 법률로 정하는 바에 따라 완전히 자동화된 시스템(인공지능 기술을 적용한 시스템 포함)으로 처분을 할 수 있다. 다만, 처분에 재량이 있는 경우는 그러하지 아니하다’라고 명시함으로써, AI를 활용한 행정행위의 처분성을 인정한 것.

■부정수급자 사전 필터링 가능

공공 영역에서의 AI 도입은 민간 영역과 마찬가지로 효율성과 효과성 측면에서 혁신적 변화를 일으킬 것으로 보인다.

글로벌 IT 컨설팅업체인 캡제미니(Capgemini)는 2017년 AI 기술이 공공영역의 생산성과 효율성을 높임으로써 촉발할 수 있는 경제적 효과를 2조4500억달러(3154조원)에서 최대 5조6100억달러(7223조원)로 추산한 바 있다.

이는 전 세계 총생산(GDP)를 0.86%에서 최대 1.93%까지 성장시킬 수 있는 엄청난 규모다.

안준모 고려대 행정학과 교수는 지난해 발표한 논문을 통해 행정에 AI기술을 활용할 경우 △행정자료 처리 수집 분석과정의 지능화 △원활한 정책수요 파악 △비정상의 조기 탐지 △합리적 정책의사결정 지원 등이 가능해진다고 설명했다.

그는 도입 사례로 먼저 ‘사전적 감사 시스템’을 들었다.

행정행위의 적정성을 사후 검증하는 것이 아니라, AI 분석을 통해 비정상 행위를 사전에 탐지할 수 있다는 것이다. 적발이 쉽지 않은 건설업 산재보험의 부정수급의 경우 산재보험 건설업 데이터를 근로복지공단, 국세청, 건설업 협회 데이터 등과 통합해 머신러닝 기법을 통해 분석하면 적은 행정비용으로 부정수급자를 사전에 필터링할 수 있다.

복잡한 상황에서의 이해관계자 상호작용이나 여론 형성 및 변화, 갈등 구조 등도 파악이 가능해진다. 김영란법, 타다 사태처럼 사회갈등이 고조됐던 이슈들에 대한 회의 의사록을 분석해 주요 안건을 추출하고, 이에 대한 이해관계자의 의견이나 감성, 평가, 태도를 정량화하는 데 AI를 활용하는 것이다.

모델링 및 마이닝, 네트워크 분석 기법을 통해 이해관계자 간 상호작용을 구조화하고, 여론의 형성과정과 갈등 구조를 예측해 이를 정책 의사결정에 활용할 수 있다.

주관적 평가를 배제하기 어려운 정책평가에도 활용할 수 있다. 과거의 평가 기초자료와 평가결과 같은 방대한 비정형 데이터를 학습데이터로 활용해 분석한다면, 평가자가 본 평가에 앞서 전반적인 피평가기관의 현황을 파악하고 평가결과를 도출하는 데 유용하게 참고할 수 있다.

■저품질 데이터, ‘쓰레기 결과’로 이어져

AI 행정은 그 가능성만큼이나 한계와 위험성 또한 명확하다.

대표적인 예가 AI기술의 작동 메커니즘에 대한 설명 불가능성이다.

경험으로부터 지식을 습득해 데이터로부터 지식을 생성하는 AI 기술 특성상 AI의 기본적인 학습 가이드라인과 목표는 개발자가 제시하지만, 구체적 규칙생성 과정은 개발자의 손을 떠나게 된다. 이 때문에 AI 행정행위는 행정 결정, 즉 결과값이 도출되는 과정을 설명할 수 없는 치명적인 한계를 가진다.

공급자인 정부의 관계가 단편적이지 않고 행정이 정답이 없는 복잡한 사회적 난제와 갈등을 다룬다는 것을 고려하면, 이러한 문제는 AI 행정행위의 당위성 확보 및 권한 부여 등을 제한시킬 수 밖에 없게 된다. 또 AI 알고리즘에 대한 근본적 불신 풍조로 이어지기도 한다.

AI 행정에 활용되는 공공데이터의 품질도 문제가 된다. 공공 데이터의 경우 민간보다는 수집이 용이한 반면 수집되는 데이터의 품질이 낮아, 활용이 불가능한 ‘쓰레기’ 결과를 도출하는 경우들이 잦은 편이다.

전세계적으로 어려움을 겪고 있는 인재 확보 문제는 공공 영역 역시 예외가 아니다. 민간의 인재수급을 해치지 않으면서 공공영역에서의 AI 인재도 확보해야 한다.

방대한 데이터를 기반으로 도출한 AI의 ‘예측값’을 ‘인과관계’로 해석, 그 구속력을 인정할 수 있을지를 결정하는 것도 AI 행정이 풀어내야 할 숙제다.

AI가 내놓는 조기 탐지는 사실상 확률모델에 근거한 예측에 불과하다. 때문에, 지금 이 시간에도 높아지고 있는 정확도에 불구하고, 잘못된 예측의 가능성이 상존하는 것이 사실이다. 따라서 AI에 대한 맹신이나 전방위적 적용은 잘못된 의사결정이나 오용으로 이어질 수 있다.

[출처=한국행정연구원]
[출처=한국행정연구원]

■로우코딩 플랫폼, 인재 부족 대안

다행인 것은 이 같은 한계들을 기술을 통해 해결하려는 시도가 이뤄지고 있고, 일부는 해결의 실마리가 보인다는 것이다.

미 국방부 고등연구계획국(DARPA) 등 여러 연구팀들은 AI가 왜 그런 판단을 했는지 구체적인 정보까지 제공하는 ‘설명 가능한 AI(Explainable AI)’을 통해 과정의 객관성과 투명성을 AI가 스스로 증명할 수 있도록 노력 중이다.

하지만 완전한 설명 가능성을 확보하기 이전까지는 사회적 수용성을 최대화하기 위한 기술 도입 수준을 고려할 필요가 있다는 것이 안 교수의 제안이다.

예를 들어, 지난해 일본에서 이뤄진 노인보호 및 요양로봇 서비스에 대한 시민의 신뢰 및 수용도에 대한 연구는 △일반시민과의 소통이 많을수록 △인간이 의사결정하는 부분과 AI가 결정하는 부분에 대한 설명이 충분하고 그 구분이 명확할수록 참여자의 신뢰도가 높아진다는 것을 보고하고 있다. 또 완전히 AI에 의존하는 것보다 사람의 확인 등을 거친 증강된 형태의 의사결정을 더 선호하는 것으로 나타나, 사회적 수용성 제고를 위해 절충적 활용 및 보완이 필요할 수 있음을 시사한다.

인력 부족의 대안으로는 로우코딩(low coding)과 민간 아웃소싱이 제시될 수 있다. 로우코딩은 복잡한 코딩을 최소화해 전문적인 코딩기술 없이 관련 업무에 종사할 수 있도록 돕는 기술을 말한다.

초중급 인재 부족 문제는 로우코딩 플랫폼을 통해 해소하고, 고급 인재의 경우 혁신조달 등을 통해 토털 솔루션을 제공받는 한편, 정부 내의 AI 문해력을 높이려는 노력도 필요하다.

[출처=한국행정연구원]
[출처=한국행정연구원]

■AI와 인간 역할 재편 논의 필요

절차적 근거만 마련됐을 뿐, AI 행정과 관련한 적법성 논의는 이제 시작 단계라 할 수 있다. 진석만 과학기술정책연구원 선임연구원은 최근 펴낸 보고서에서 이와 관련해 “행정청의 재량이 인정되지 않는 기속행위에 AI 행정을 적용할 수 있을지, 예외적 행위는 어떻게 해석해 취급할지, 어떠한 형태로 자동적 처분이 이뤄져야 하는지와 개별법에서의 근거 입법 마련 등에 대한 논의와 사회적 합의가 필요하다”고 지적했다.

AI 행정 처분에 대한 불복절차에 대한 규정 마련도 필요하며, 개인정보보호법상의 정보주체 권리로서 자동화된 의사결정에 대한 거부권·처리반대권 등도 보완돼야 할 것으로 보인다.

AI 기술이 모든 부분에서 인간을 뛰어넘는 기술적 특이점에 도달하고 인간의 개입 없이 자체적으로 결정을 내리는 ‘자율’ 단계에 이를 경우 행정에서 사람과 AI의 역할을 어떻게 재편해야 할지에 대한 고민도 필요하다.

안준모 교수는 “AI 행정 도입 초기에는 제도 및 법령 마련 등과 기술 개발 간의 속도 차이로 인한 도입 지연 효과(J-curve) 등의 부작용이 나타날 수 있다”며 “이를 최소화하기 위해서는 규모 및 범위의 경제 실현을 위한 전폭적인 AI 기술 도입과 행정자원의 재배치, 조직과 직무의 재구성, 결과 활용의 최적화 등 실천적 얽힘 관점의 총체적 행정 대전환이 필요하다”고 덧붙이기도 했다.


관련기사

댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.

  • [인터넷 신문 등록 사항] 명칭 : ㈜한국정보통신신문사
  • 등록번호 : 서울 아04447
  • 등록일자 : 2017-04-06
  • 제호 : 정보통신신문
  • 대표이사·발행인 : 문창수
  • 편집인 : 이민규
  • 편집국장 : 박남수
  • 서울특별시 용산구 한강대로 308 (한국정보통신공사협회) 정보통신신문사
  • 발행일자 : 2022-10-05
  • 대표전화 : 02-597-8140
  • 팩스 : 02-597-8223
  • 청소년보호책임자 : 이민규
  • 사업자등록번호 : 214-86-71864
  • 통신판매업등록번호 : 제 2019-서울용산-0472호
  • 정보통신신문의 모든 콘텐츠(영상,기사, 사진)는 저작권법의 보호를 받은바, 무단 전재·복사·배포 등을 금합니다.
  • Copyright © 2011-2022 정보통신신문. All rights reserved. mail to webmaster@koit.co.kr
인터넷신문위원회 abc협회 인증 ND소프트