AI 신뢰성 검증 필요성 강조
[정보통신신문=박광하기자]
인공지능(AI) 성능 발전과 활용범위 확대가 이뤄지는 오늘날, AI 때문에 발생하는 각종 이슈를 인류가 어떻게 바라보고 대응해야 하는지에 대한 제안이 나와 눈길을 끈다. 또한, 신뢰할 수 있는 AI란 무엇인지, 어떻게 신뢰성을 검증할 것인지에 대한 화두가 제시됐다.
한국산업지능화협회(KOIIA) DX기술위원회 위원장인 박지환 씽크포비엘 대표는 지난 10일 ‘2023 산업지능화 컨퍼런스’에서 “Next AI Generation, 이제껏 보지 못한 AI 시대가 온다!”는 주제로 기조강연을 진행했다.
‘챗GPT(ChatGPT)’가 만들어준 리포트를 제출해 A+를 받고, 그림을 자동 생성하는 AI의 작품 수준이 나날이 향상되고 있으며, 기업·기관의 인사팀장을 대신해 직원 평가를 실시하는 등 AI가 사회 각 분야에서 활용되고 있는 상황이다.
박지환 대표는 “인간이 AI에게 어디까지 일을 맡길 수 있을까”라는 질문을 던졌다.
AI 적용 수준과 범위에 대한 논의는 전 세계적으로 중요한 화제로 떠오르고 있으며, 관련해 세계 각국은 저마다의 법률, 규제 등을 쏟아내면서 산업계가 혼란을 겪고 있다.
그는 ChatGPT가 기존 규칙에서 벗어나 교란을 일으키는 이른바 ‘탈옥’ 문제를 일으킨 것과 관련해, AI 학습용 데이터 검증을 통한 AI 신뢰성 검증이 해결책으로 중요하게 다뤄져야 한다고 강조했다.
또한, AI와 관련된 사회적 이슈를 언급하고, 인간에게 유익한 방향으로 AI를 통제하고 활용하기 위해서는 관련 규제 마련이나 기술적 방법 도출이 시급하다고 지적했다.
아울러, 인류가 업무 효율을 중시하는 과정에서 자칫 인간이 AI에 사실상 모든 판단 주체를 넘기는 맹신에 가까운 태도를 보이면 걷잡을 수 없는 문제에 직면할 수 있다고 경고했다.
강연에서는 실제 AI 활용 기술이 인간에게 부정적 결과를 초래한 몇 가지 사례가 소개됐다. ChatGPT 또한 앞으로 얼마든지 문제를 일으킬 수 있는 상황.
박지환 대표는 ChatGPT가 최근 ‘탈옥’을 시도해 폭력적·불법적 내용을 다루면서 업계 일각에서 ‘적절한 규제가 필요하다’는 공감대가 형성됐다고 밝혔다.
그는 이러한 문제가 AI 스스로 의지를 지녔거나, 개발자가 악의적으로 만들었기 때문에 발생한 건 아니라고 단언했다. 대신 AI가 다양한 인간·사회의 데이터를 학습하기에, 편향 문제에 자유로울 수 없는 점이 근본 이유라고 진단했다. 그러면서 AI의 편향과 위험성을 없애고 사용자 신뢰를 확보하는 노력을 늦춰서는 안 된다고 덧붙였다.
박지환 대표는 미래산업의 핵심기술이 될 AI, 더 정확하게는 신뢰할 수 있는 AI의 방향에 대해 논의해야 할 때라고 말했다.
그는 업계는 물론, 정부가 AI 신뢰성 확보를 위해 ‘AI 데이터 평가 기술 표준화’에 관심을 둬야 한다는 구체적 해결 방안도 제시됐다. 관련해 한국정보통신기술협회(TTA)가 이 분야 기술 표준을 담당하고 있는데, 씽크포비엘의 관련 기술기법 다섯 건이 2021년과 2022년에 TTA 단체표준으로 채택된 바 있다. 씽크포비엘은 이를 토대로 막대한 양의 공공데이터가 지닌 가치를 판단하고 개선점을 찾는 평가를 제안하고 있다.
박지환 대표는 “학습데이터를 기술적 방법으로 통제하지 않은 채 AI에 공정한 판단을 요구하는 것은 길거리에 자유롭게 방치된 아이가 아무 탈 없이 인격자로 자라나길 기대하는 것과 다를 바 없다”며 “신기술이 제공하는 문명을 우리가 온전하게 누리기 위해서는 신기술에 대한 맹신과 불신을 구별해야 하고, 이를 통해 인간 보편의 존엄과 가치를 지킬 수 있는 검증 기술, 즉 ‘AI 신뢰성 검증’과 ‘데이터 편향 측정’ 같은 기술이 병행·발전돼야 할 것”이라고 말했다.
한편, 산업지능화 컨퍼런스는 KOIIA 주최로 9일과 10일 양일 동안 코엑스에서 ‘2023 스마트공장·자동화산업전’과 함께 열렸다. 컨퍼런스에서는 디지털전환(DX) 관련 국내외 대표 사례를 소개하는 기조 세션을 비롯해 ‘산업 AI’와 ‘제조 지능화’, ‘제품 디지털 트윈’ 세션에서 산학연 전문가 강연이 이어졌다.
