고전적 알고리즘의 단순한 모사 넘어
창의적 접근 통해 양자 알고리즘 고유 형태 규명
[정보통신신문=박남수기자]
국내 연구진이 양자컴퓨터에 적합한 최적화 알고리즘의 구조를 한층 더 효율적으로 개선한 연구결과를 보고했다.
양자컴퓨터(quantum computer)는 반도체가 아닌 원자를 기억소자로 활용하여 슈퍼컴퓨터의 한계를 뛰어넘는 첨단 미래형 컴퓨터. 양자컴퓨터는 중첩과 얽힘 같은 양자역학적 현상을 활용하여 정보를 처리한다. 암호 해제뿐 아니라 방대한 데이터를 처리하는 소요시간을 획기적으로 줄일 수 있어 차세대 기술로 여겨진다.
광주과학기술원(지스트) 안창욱 교수 연구팀은 기존 반-고전 양자 유전 알고리즘*의 최적화 성능을 유지하면서도 연산 효율성을 획기적으로 끌어올릴 수 있는 알고리즘의 구조를 개선했다고 밝혔다.
반(半)-고전 양자 유전 알고리즘(Semi-classical Quantum Genetic Algorithm)은 현재 지속적으로 이론적 연구가 진행되고 있는 양자컴퓨터 전용 최적화 알고리즘으로, 다윈 진화(Darwinian Evolution) 과정을 통한 최적화 작업을 양자컴퓨터에서 실현하는 것을 목표로 한다.
이번 연구는 양자컴퓨터만이 가능한 연산 방식으로 효율성까지 고려함으로써 향후 실용적인 양자 최적화 알고리즘 연구의 발판이 될 것으로 기대된다.
양자 유전 알고리즘(Quantum Genetic Algorithm)은 양자 신경망, 양자 강화학습 등 기존의 고전적* 컴퓨터에서 그 성능이 입증된 기술들을 양자컴퓨터에서 재현하려는 시도의 일환으로 유전 알고리즘의 장점인 전체 탐색 영역에서 최적의 해를 찾는 ‘전역 최적화(global optimization)’에 대한 메타-휴리스틱 접근법을 양자컴퓨터에서 구현하는 것을 목표로 한다.
그 하위개념인 ‘반-고전 양자 유전 알고리즘’은 고전적 유전 알고리즘의 실행구조를 그대로 모사함으로써 상대적으로 빠른 성능 검증과 실용화에 초점을 둔 방법론이며, 이전의 관련 연구는 알고리즘의 양자적 전환이라는 목표에 지나치게 집중한 반면, 최적화 성능 향상은 상대적으로 관점의 대상에서 벗어난 한계가 있었다.
고전적(classical)은 양자컴퓨터와 대비되는 개념으로써 현재 널리 쓰이고 있는 일반적인 컴퓨터의 연산 체계를 의미한다.
메타-휴리스틱(meta-heuristic)은 최적화 전략 중 하나로, 불특정 문제에 대해 점진적으로 최적해의 근사값을 찾아나가는 과정을 거친다.
양자계에서 필연적으로 발생하는 파동함수 붕괴*는 반복적인 연산을 통해 해를 찾는 유전 알고리즘의 작동 원리와 상충하며, 기존의 반-고전 양자 유전 알고리즘 연구들은 모집단 형성 시 대량의 무작위(randomized) 개체를 생성함으로써 이 문제를 우회적으로 해결하였다.
그러나 이는 모집단의 규모를 불필요하게 확장했기 때문에 양자 컴퓨터가 가진 리소스의 낭비를 초래하는 결과를 낳았다.
파동함수 붕괴(Wavefunction collapse): 중첩(Superposition)으로 형성된 여러 양자 상태(Quantum states)가 관측 후 명확한 측정량(Measurable quantity)을 가진 단 하나의 양자 상태로 수렴하는 현상을 가리킨다.
이번 연구는 이러한 무작위 개체들이 알고리즘의 최적화 작업에 거의 기여하지 않는다는 가설을 세운 뒤, 알고리즘의 다윈 진화적 구조를 유지하면서도 무작위 개체의 생성을 최소화하기 위한 양자 회로 개선을 시도하였다.
이를 통해 각 세대(generation)에서 모집단을 형성할 때 이전 세대에서 확보된 우수한 개체의 유전적 특성을 완전히 혹은 부분적으로 보유한 개체만을 생성하는 구조를 설계했다.
이렇게 개선된 알고리즘을 이전 알고리즘과 함께 최적화 문제에 적용해 그 성능을 비교하는 실험을 진행했다. 실제로 이전 알고리즘과 동등한 수준의 최적화를 달성하면서도 총 적합값 계산(fitness evaluation) 횟수를 기존의 2560회에서 432회로 단축해 각 세대에서 요구하는 연산량이 최대 80% 감소하는 성능 향상을 입증했다.
결과적으로 알고리즘 본연의 최적화 성능 하락을 방지함과 동시에 모집단의 규모를 2차적(quadratic)으로 축소함으로써 알고리즘의 연산 효율을 약 5배 끌어올리는데 성공했다.
안창욱 교수는 “양자컴퓨터는 신약, 에너지 개발 등을 비롯해 반도체 설계, 자율주행차 및 비행 경로 등 최적화 문제에 대한 답을 빠르게 찾아냄으로써 미래 산업과 안보 생태계 판도를 바꿀 것으로 예상된다”며 “이번 연구는 고전적 컴퓨터에 대한 관념을 벗어난 창의적인 접근을 통해 실질적인 성능의 개선을 이뤄냈으며, 향후 더욱 효과적인 양자 최적화 알고리즘의 개발로 이어질 수 있기를 기대한다”고 밝혔다.
이번 연구는 지스트 안창욱 교수가 지도하고 김준석 박사과정생이 수행하였으며, 한국연구재단의 박사장려금 지원사업과 중견연구자 지원사업의 지원을 받았다. 연구 성과는 컴퓨터공학 이론 및 방법 분야 국제학술지 Future Generation Computer Systems에 2022년 5월 20일 온라인 게재됐다.
