코로나19가 확산하기 전, 필자는 사업상 이유로 일 년의 반을 해외에서 지냈다. 그러다 특정 국가에서 머무르던 중 지병으로 인한 응급 상황이 발생한 적이 있다. 상황이 다급했기 때문에 한시라도 빨리 병원에 가야 했다. 그런데 현지 지인은 눈앞에 보이는 병원에 들어가려는 걸 한사코 막고 그곳에서 한 시간 거리에 있는, 미국인 의료인이 운영하는 병원에 가라면서 말했다, “여기서는 병원 한 번 잘못 갔다가 죽을 수도 있다.” 알고 보니 해당 국가는 의대 과정만 수료하면 전문의 과정 같은 검증 기간 없이 바로 의사 면허를 부여했다. 그렇다 보니 의사 면허가 공공성도 최소한의 신뢰성도 지니지 못해, ‘국가가 인증한 면허를 지닌 의사가 오히려 나를 죽일 수도 있다’는 생각을 현지인들부터가 하고 있었다.
인공지능(AI) 개발에도 라이센스(면허)가 필요한 시대가 오고 있다. Open AI의 CEO인 샘 알트먼이 미국 청문회에서, 이례적으로 ‘빠른 규제 도입’을 공개적으로 요구함으로써 큰 주목을 받기도 했다. 이는 빅테크 기업의 대표부터가 규제 필요성을 역설할 만큼 현 AI 기술에 중요도와 위험성이 엄중하다는 의미로 받아들여졌다. 그런데 정작 그가 주장한 라이선스 규제나 외부 감사 의무화는 대규모 법무팀을 보유한 빅테크 기업에만 유리한 방식이라는 지적이 많다. 실제로 그는 AI에 대한 공적 규제를 그토록 주장하면서도, 막상 유럽에서 AI 개발 과정에서 저작권 콘텐츠 사용 표기를 의무화하는 법안이 추진되자, 곧장 유럽 시장에서 철수를 발표하는 행태를 보였다. 다시 말해 AI 개발에 라이선스가 도입된다는 것은, 해당 라이선스가 의무화하는 자격의 범위와 성격에 따라 다양한 방식으로 실현될 수 있고, 이에 대해 각 국가와 기업의 이해관계에 따른 복잡한 셈법이 존재한다는 의미이다.
AI 개발에 라이선스 발급 등 규제가 필요해지는 이유가, AI라는 기계가 인간의 판단에 따라 움직이는 손발의 역할인 ‘자동화(automatic)’를 넘어서, 이제는 스스로 판단에 따라 행동하는 머리의 역할인 ‘자율화(autonomy)’까지 수행하게 되었기 때문이다. 자율주행차는 운전자가 액셀을 밟으면 달리고 브레이크를 밟으면 멈추는 데 그치지 않고, 도로 사정과 돌발 변수에 대응해 달릴지 멈출지를 스스로 판단한다. 그런데 이 AI의 판단 기준이 이기적이라서, 자차 손상을 막기 위해 길가 행인을 ‘치고 움직이는’ 선택을 스스로 한다면? 다시 말해, AI라는 기계가 이제는 윤리적 판단의 주체가 되었고, 그래서 그 주체를 만들어내는 개발 기업의 책임이 이전과 비교할 수 없을 만큼 엄중해졌다. 개발 기업은 이제 기술적 정밀성뿐 아니라, 기업이 만들어내는 AI에 대한 윤리적, 교육적 책임까지 엄수해야 한다. 그리고 사회는 이를 어떻게든 감독하고 검증해야 한다. 그런 공공의 인증이 없으면 차를 타는 데에도, 진료를 받는 일에도 목숨을 걸어야 하는 시대가 눈앞에 와 있다.
문제는 그 인증을 누가, 어떤 기준으로 하느냐이다. 나를 치료할 의사가 어느 나라의 면허를 지녔는지에 내 생사가 결정될 수도 있다. 마찬가지로 어디서 어떤 인증을 받은 제품이냐에 따라 내 자동차의 AI는 믿을만한 운전사일 수도, 거리를 누비는 잠재적 도살자일 수도 있다. 어떤 규제는 너무 느슨해서 AI의 돌발행동을 전혀 막지 못할 수도 있고, 어떤 규제는 너무 촘촘해서 해당 사회의 AI 기술 진보를 아예 막아버릴 수도 있다. 혹은 양쪽 다를 해내는(?) 규제도 있을 수 있다. 특정 기업에만 유리하여 그 외 기업들의 신제품 개발을 아예 막아버리면서도 동시에 AI의 위험성을 오히려 증대시키는 규제가 생길 수도 있다.
결국 AI의 공적 인증을 누가, 어떤 과정으로 어떻게 설정하느냐의 문제이다. 그것이 AI 산업의 경쟁력뿐 아니라, 개개인의 편의와 안전까지를 결정하게 된다. AI 기술에 대해 사회적 규제와 인증 도입은 피할 수 없는 전 지구적 흐름이다. 대한민국의 인공지능(AI) 인증이 세계 어디서나 통하는 신뢰의 상징이 될지, 아니면 아픈 배를 부여잡고 굳이 타국의 병원을 찾아야만 하는 겉치레 면허증이 될지는 바로 지금부터의 사회적 선택에 달려 있다.
