인공지능(AI) 알고리즘이 신용평가, 채용 및 상품 추천 등 사회 각 분야 의사결정에 주요 역할을 담당하게 되면서 AI의 편향성 문제가 심각해지고 있다. 전문가들은 규제보다는 사회적 합의를 통한 이용자 권리보호 및 기업의 자율규제를 해법으로 제시했다.

대통령 직속 4차산업혁명위원회는 최근 4차위 회의실에서 산‧학‧연 민간전문가가 참여한 가운데, 신뢰할 수 있는 AI 활용 방안을 모색하기 위해 간담회를 개최했다.

현재 AI가 편향성을 보이는 주된 원인으로는 학습데이터나, 학습모델 또는 학습알고리즘의 편향이 지적되고 있는 상황이다. 최재식 KAIST 교수는 “학습데이터 편향은 공정성에, 학습모델·알고리즘은 정확도에 영향을 주는 경우가 있다”고 말했다.

이호영 정보통신정책연구원 본부장은 발제를 통해 “자동화된 의사결정의 영향이 확대되고 있어 인공지능 편향 완화 방안을 논의하는 것이 시급하다”며, 독립기관을 통한 관리강화, 자가진단‧감사‧인증제도 등을 통한 인공지능 의사결정의 신뢰성 제고방안 등을 제시했다.

아울러 그는 “우리가 구현하고자 하는 인공지능 시스템이 무엇인지에 대해서는 사회적 공론화 과정을 통해 다양한 주체가 모여 숙의해나갈 필요가 있다”고 설명했다.

고학수 서울대 교수는 공정성 지표의 체계화와 인공지능 작동메커니즘에 대한 식별력 제고를 제시했다.

그에 따르면, 학계에서도 이와 관련해 다양한 논의가 있으나, 아직까지 합의는 형성되지 않은 단계다.

구글, IBM 등 해외 기업들은 평가도구를 통해 설정된 공정성 지표를 확인하고, 관련 데이터를 검증 확인해 편향성을 줄임으로써 기계학습의 공정성을 제고하는 연구개발을 진행 중이다.

이진규 네이버 개인정보보호책임자는 채용, 대출 등 개인에게 상당한 영향을 미치는 의사결정 알고리즘에 대해 개개 사안별로 관련 관계자들이 모여 문제점 등을 분석하고 합의하는 절차 마련의 필요성을 제언했다.

이상직 변호사와 김대원 카카오 이사는 알고리즘을 직접 제어하는 방식의 접근보다는 기업 스스로의 윤리적‧법적 점검 장치 마련과 자발적 노력, 정부의 양질의 데이터 고도화 정책, 소비자의 건전한 이용 노력이 필요함을 강조했다.

최재식 KAIST 교수와 최인선 한국지능정보사회진흥원 팀장은 AI의 설명 및 해석가능성 등 투명성 제고를, 강용성 와이즈넛 대표는 정부가 충분한 사회적 논의를 통해 관련 가이드라인을 수립‧운영하고, 가이드라인 준수 등에 대해 관리‧감독할 수 있는 독립기구(가칭 인공지능윤리위원회) 신설을 제언했다.

윤성로 4차위원장은 “인공지능 공정성 제고는 균형감이 중요한데, 인공지능 기술 발전과 혁신을 저해하지 않으면서도, 공정성‧투명성 등 가치를 제고해 궁극적으로 신뢰할 수 있는 인공지능 생태계를 조성해나가는 것이 필요하다”고 말했다.

윤 위원장은 이어 “4차위는 올해 기업의 자율규제와 함께 기업들이 AI 개발·활용 시 점검할 수 있는 체크리스트 개발·보급, 인공지능 윤리교육 등을 추진해나갈 것”이라며 “새로운 시대에 지속가능한 인공지능 발전과 대중화를 위해 인공지능 생태계의 모든 주체들이 함께 지속적으로 고민하고 논의해 나갈 때”라고 밝혔다.

최아름 기자 다른기사 보기