최근 인공지능이 인간의 삶을 편리하고 효율성 있게 변화시키고 있다.
가깝게는 집안의 냉장고·청소기·TV 등 가전에 인공지능 기능이 추가되면서, 별도의 제어가 필요없이 자동으로 환경에 맞춰 가동된다. 산업현장에서도 AI를 통해 생산성을 더욱 높일 수 있게 됐다.
한편으로 AI가 고도화됨에 따라 우려의 목소리도 커지고 있다.
특히, AI는 로봇·빅데이터·초연결 등과 맞물리면서 인간의 활동을 대신하는 것을 넘어서고 있다.
이는 인간의 생존을 직접적으로 위협할 수 있다고 전문가들은 보고 있다.
세계적인 물리학자 스티븐 호킹은 “AI의 급성장으로 사람의 힘으로 통제가 불가능한 시점이 빠르게 다가오고 있다”면서 “사람의 힘으로 통제 가능한 현 시점에서 AI기술을 통해 발생할 수 있는 잠재적인 위협에 대비한 세부적인 규정을 만들어야 한다”고 경고 했다.
■킬러로봇 위협, 국제사회 ‘들썩’
AI을 활용한 ‘킬러 로봇’ 무기의 개발이 무차별적으로 확대되고 있는 상황에서, 이를 막아야 된다는 강한 반발이 이어지고 있다.
킬러로봇은 AI 기술을 활용해 스스로 목표물을 추적·공격할 수 있는 공격용 전투 로봇을 말한다.
최근 테슬라 최고 경영자인 일론 머스크와 알파고 개발자 구글 딥마인드 테크놀로지 공동설립자인 무스타파 슐레이만 등 세계 26개국의 ICT 글로벌 기업 최고경영자(CEO) 116명이 유엔에 공동서한을 보내 킬러로봇 금지를 강력히 촉구했다.
그들은 서한을 통해 “판도라의 상자가 열리면 닫기는 매우 어렵다”고 지적하며 “킬러로봇 개발 및 생산이 빠르게 가속화 되고 있다”고 밝혔다.
아울러 “킬러로봇으로 인해 전쟁은 과거 어느 때보다 큰 규모로 진행되며, 테러리스트들이 무고한 사람들을 학살하는 무기로 악용될 수 있다”고 우려를 표명했다.
아울러 킬러로봇이 해킹돼 의도치 않은 살상무기로 돌변할 가능성도 지적했다.
■스스로 학습하는 AI 등장
AI 발전이 더욱 위협적인 이유는 인간의 의지와 무관하게 AI가 스스로 진화하고 있다는 점이다.
즉, 인간을 보다 편리하게 한다는 의미가 아닌 로봇이 스스로 존립할 수 있는 단계까지 이르고 있다.
단기적인 시각에서는 악의적으로 개발된 해킹, 바이러스를 통한 오류, 킬러로봇 등이 문제점으로 지적되고 있지만, 보다 멀리 보면 인간이 AI를 제어하기 어려운 시점이 올 수 있다는 것이다.
이와 관련, 구글 딥마인드가 개발한 AI 바둑 프로그램 ‘알파고’ 2.0은 스스로 진화할 수 있는 능력을 갖췄다.
10만여 개의 인간 바둑 기보를 바탕으로 학습했던 기존 알파고(1.0)와는 차원이 다르다.
지난해 구글의 AI 알파고(1.0)는 이세돌 9단과 맞붙어 4승1패의 전적으로 승리했지만, 지난 5월 알파고 2.0은 세계 최강 바둑기사 중국의 커제 9단에 완승을 거뒀다.
구글 측은 알파고2.0이 직관적 사고와 창의성을 갖췄음을 보여줬다고 주장했다.
■AI, 초연결로 더욱 진화
전문가들은 AI가 인간의 통제가 불가능한 시점이 온다는 데 우려를 표하고 있다.
더욱이 AI는 판단과 오차범위에 대한 계산이 빠르게 이뤄지기 때문에 이에 대한 피해속도는 인간이 예상하는 것 이상일 것이라는 것이다.
AI간의 소통에 대한 위험성도 지적되고 있다.
전문가들은 인간이 수 세기에 걸쳐 진행된 소통을 AI는 짧은 시간만에 완성할 수 있다고 보고 있다.
이는 다양한 AI간의 소통을 통해 하나의 유기체적인 AI로 진화하다면, 분명 인간을 배제한 결정과 행동이 생겨날 것으로 예상되고 있다.
이에 더해, AI가 방대한 양의 빅데이터를 통해 양질의 정보를 습득할 수 있음은 물론 수 많은 데이터가 클라우드화돼 있어 AI 진화속도는 더욱 빨라질 것으로 예상하고 있다.
머스크 테슬라 CEO는 “진화한 AI가 인간의 통제를 벗어나는 순간 인류의 종말을 초래할 것”이라며 “이를 막기 위해선 선제적인 규제가 필요하다”고 경고했다.
