[정보통신신문=서유덕기자]

스마트공장, 스마트홈, 자율주행, 핀테크 등 정보통신기술(ICT)과 융합한 디지털 서비스는 경제 발전을 촉진하고 국민 삶을 윤택하게 하지만, 부작용·오류 또는 범죄에 악용돼 사회문제를 초래할 가능성 또한 병존한다. 이에 첨단 기술의 악영향을 최소화할 제도적 장치가 필요하다는 지적이 제기되며, 우리나라는 물론 세계 각국은 빠르게 고도화하는 기술변화 속도에 발맞춰 ‘디지털 규범’ 마련을 서두르고 있다.

디지털 사회의 골칫거리

코로나19를 계기로 원격·비대면으로 이뤄지는 사회활동이 보편화되고, 기업과 개인의 사무·행정, 교육은 물론 의료, 금융까지 속도와 편의가 한층 향상됐다. 능동형 자동화 생산시설을 갖춘 스마트공장을 보급해 근로자 안전과 생산성을 함께 높이고, 생성형 AI 기반 챗봇으로 즉각적이고 개인화된 정보를 받아볼 수 있게 됐다.

그러나 디지털이 만든 새로운 일상에서는 인터넷 접근성에 따른 격차가 더 크게 벌어졌다. 초고속·초연결 통신 인프라 대비 상대적으로 ICT 인프라가 빈약한 지역 등 사회적 소외로 인한 정보의 불균형·비대칭은 불편을 넘어 새로운 구조적 ‘불평등’을 낳았다.

스마트공장을 도입한 일부 기업은 생산 인력을 감축하기도 했다. 현장 안전관리 체계가 함께 디지털 전환으로 근로자 안전이 향상했지만, 고용 안정성 같은 사회적 안전망은 오히려 악화시킨다는 비판의 목소리가 제기됐다.

스마트기기를 활용한 원격 근무를 비롯한 즉각적인 소통·연결이 보편화하면서 ‘연결되지 않을 권리’ 또는 ‘단절될 권리’가 직장인의 새로운 기본권으로 조명받았다. 퇴근 후 카카오톡 등 휴대기기를 이용한 반복적인 업무 지시를 금지하는 법안이 국회에서 발의되는 등 사회적 논의도 이뤄졌다.

특히 AI는 저작권 침해, 비윤리적 결과물의 무분별한 생성 같은 문제를 일으켜 그 윤리적 사용을 위한 원칙을 확립해야 한다는 주장에 힘이 실리고 있다. 지난 2021년 초 국내 기업이 개발한 AI 챗봇 ‘이루다’는 개인정보 유출과 성소수자 혐오, 성희롱 등 논란으로 출시 3주 만에 서비스를 중단한 바 있다.

챗봇뿐만 아니라, 생성형 AI를 기반으로 한 각종 신유형 서비스에서도 역효과가 나타났다. 딥러닝 기반 이미지 합성 기술인 ‘딥페이크’는 지금도 유명인 얼굴을 합성한 허위 연설·인터뷰 영상으로 가짜뉴스를 유포하는 등의 불법 영상 제작 범죄에 악용된다. 최근 소셜네트워크서비스(SNS)에 가짜뉴스, 신종 피싱 범죄가 횡행하고 있어 관계 당국의 기민한 대응이 요구되고 있다.

디지털 윤리·신뢰성 확보 움직임

새로운 기술이 사회 구성원이 합의한 윤리와 규범에 어긋나게 사용되지는 않는지, 기술 발달의 혜택에서 소외되는 사람은 없는지 등을 살펴 디지털 신기술의 지속 가능한 활용 방안을 강구해야 한다는 데 전문가들의 의견이 모인다.

또, AI의 발달로 사회·경제·문화 전반이 변화하면서 불거지는 사고에 대한 책임 소재를 명확하게 설정하는 등 디지털 질서 규범의 방향성을 정립해야 한다는 데도 전 세계적인 공감대가 형성되고 있다.

이와 관련해, 최근 우리나라는 ‘디지털 권리장전’을 공개해 디지털 공동번영사회를 위한 원칙을 제시, 세계적인 주목을 받았다.

지난 9월 25일 정부는 디지털 시대를 맞아 새롭게 나타나고 있는 쟁점에 대한 규범을 망라한 디지털 질서 기본 체계인 디지털 권리장전을 발표했다.

이는 보편적 디지털 규범의 기본방향을 담은 헌장으로, 디지털 심화 시대에 맞는 국가적 차원의 기준과 원칙을 제시한다.

5대 기본 원칙으로는 △디지털 환경에서의 자유와 권리 보장 △디지털에 대한 공정한 접근과 기회의 균등 △안전하고 신뢰할 수 있는 디지털 사회 △자율과 창의 기반의 디지털 혁신 촉진 △인류 후생의 증진 등이 거론됐다.

디지털 권리장전은 해외와 달리 AI 중심의 논의를 넘어 디지털 문해력(Literacy) 향상, 격차 해소 등 디지털 전반의 이슈를 포괄한 것이 특징이며, 윤리와 규범적 논의 외에도 디지털 혁신을 강조하고 국제 연대와 협력을 통한 인류 후생 증진 등을 담아 차별화했다.

물론 우리 정부도 미래 기술의 큰 위협 중 하나인 AI의 역기능에 대응할 방안을 모색하는 데 힘을 쏟고 있다. 과학기술정보통신부와 개인정보보호위원회는 지난달 25일 제4차 인공지능 최고위 전략대화에서 발표한 ‘인공지능 윤리·신뢰성 확보 추진계획’에 따라 AI의 부작용 우려에 대응해 기업이 AI 신뢰성을 강화하고 필요한 안전조치를 자발적으로 마련할 수 있도록 지원해 나갈 방침이다.

이에 따라, 정부는 먼저 생성형 AI 기반 서비스 등 분야별 지침을 마련·확대하고 민간 자율 신뢰성 검·인증을 이달 개시할 계획이다. 특히, 고위험 AI를 개발·실증하는 기업을 일부 선정해 내달 중 시범 인증을 추진할 예정이다.

또한, 정부는 AI 자체가 내포하는 편향성, 불투명성 등 기술적 한계와 AI 오작동 등에 따른 잠재적 위험에 대응하기 위해 기존 AI의 한계를 극복하고 초거대 AI의 신뢰성을 확보하기 위한 기술개발을 내년부터 신규로 추진할 예정이다. 이 사업에는 2027년까지 총 220억원의 예산이 투입된다.

아울러, 정부는 챗GPT 같은 초거대 AI의 확산으로 AI가 가져다줄 혜택에 대한 기대와 함께 안전에 대한 우려가 확대되는 상황에서 AI가 생성한 결과물에 대한 워터마크 도입의 제도화를 검토하고, 고위험 AI에 대한 해설서를 내년 1분기 내에 마련하는 등 신뢰성 확보를 위한 제도 정립 과제를 추진할 방침이다.

지속 가능한 ICT를 위한 과제

미국·영국·유럽연합(EU) 등 세계 주요국도 AI 시대를 대비해 법적·윤리적 가이드라인을 마련하는 데 속도를 내고 있다. 미래 AI 시장을 주도하기 위해서는 기술력뿐만 아니라 이를 안정적으로 운용해 위험을 최소화하고 가치를 극대화할 수 있는 역량을 확보해야 한다는 인식에 따른 것이다.

일례로, 미국 국토안보부는 AI의 국가 보호 활용법 조사를 위한 태스크포스(TF) 설립 계획을 지난 4월 발표한 바 있다. 이 TF는 중요한 기반 시설 보호 및 화물 검사, 불법 행위 적발, 아동 학대 피해자·가해자 식별 시스템 등 다양한 활동에 AI를 활용하는 방안을 연구할 방침이다. 특히 AI를 책임 있게 활용하고 악의적 사용에 대항하며, 엄밀하게 심사해 서비스 제공 시 명확한 설명을 보장하고 편견이나 차별을 방어할 계획이다.

한편, 최근 우리 정부가 공표한 디지털 권리장전이 미래 디지털 질서의 구심점으로 작용할 수 있도록 실효성을 더 확보해야 한다는 목소리가 제기된다.

디지털 권리장전과 AI 윤리·신뢰성 확보 추진계획을 바탕으로 ICT 관련 정책과 제도를 촘촘히 마련해 나갈 뿐만 아니라 관계부처도 함께 정비할 수 있도록 지원함으로써 우리 사회가 직면한 디지털 심화 시대의 문제를 해결하고 글로벌 디지털 규범 표준을 만들어 나가야 한다는 주장이다.

디지털 권리장전의 원칙들이 전 세계가 함께 공유될 수 있도록 지속적인 글로벌 논의를 진행하는 등 우리가 선도한 디지털 규범이 글로벌 표준으로 정립된다면 디지털 선도국의 지위를 한층 공고히 할 수 있을 것이라는 분석도 나온다.

ICT 고도화와 함께 잠재 위험 요인이 증가하는 추세인 만큼, 향후 글로벌 주요국의 윤리 규범을 지속 모니터링하는 동시에 우리 사회와 경제에 적합한 실효성 있는 규칙 논의를 이어가며 AI 위험과 부정적 영향을 최소화하고, 미래 ICT 경쟁력의 안정적 신장을 도모해야 할 것으로 보인다.

서유덕 기자 다른기사 보기