정현석 서울대학교 하이브리드 양자컴퓨팅 센터장(물리천문학부 교수)은 10일 "양자컴퓨터가 구현되면 현재의 암호 체계는 다 무너지고, 암호 화폐도 위험해진다고 말하는 사람이 있으나, 그건 상당히 먼 얘기다"라고 말했다. 정 교수는 이날 기자를 만나 이같이 말하고 "그렇다고 또 그런 일이 일어나지 않는다고 장담할 수 없다. 그러니 연구를 해야 한다"라고 덧붙였다.
정 교수가 이끄는 '하이브리드 양자컴퓨팅 센터'는 한국연구재단의 '2024년 글로벌 선도연구센터'(IRC)로 선정됐고, 지난해 11월 13일 개소식을 가진 바 있다. 매년 50억 원씩, 10년간 총 500억 원을 지원받는다. 센터 바다신2다운로드 는 서울대 자연과학대학 C56-1동(김철수관) 2층 한 개 층을 쓰고 있다.
기자가 정현석 교수를 찾아간 건 '하이브리드 양자컴퓨팅 센터'가 대학에 있는 대표적인 양자컴퓨터 연구개발 기관이기 때문이다. 정 교수에게 두 가지, 즉 양자컴퓨터 개발의 세계적인 현황과, 서울대 '하이브리드 양자컴퓨팅 센터'가 하는 일을 물었다.
오징어릴게임 정 교수는 박사 과정 때부터 양자컴퓨터를 연구해 온 양자광학 및 양자정보학(이론)자다. 2008년 서울대학교 교수로 부임한 후 양자이론의 기초와 양자컴퓨팅의 구현 등을 연구해 왔다.
상용화 수준의 양자컴퓨터 개발은 가능한가
어떤 물리학자는 기자에게 "양자컴퓨터는 내가 죽을 때까지 개발되지 않을 것이고, 앞으로도 구현되지 온라인골드몽 않을 것"이라고 말한 바 있다. 그런데 그가 퇴임한 뒤에 들어온 젊은 교수(고려대학교 채은미 교수)는 양자컴퓨터 홍보 대사와 같다. 채 교수는 지난 11월에 내놓은 책 '처음 만나는 양자의 세계'에서 "양자 컴퓨터는 비트코인 보안과 금융 시스템, 신약 개발, 인공지능에 이르기까지 우리의 삶 전반을 뒤흔들 새로운 패러다임을 제시한다"라고 양자컴퓨터에 대한 릴게임종류 기대감을 한껏 끌어올린다.
양자컴퓨터 개발 가능성을 바라보는 두 가지 엇갈리는 시선 속에서 일반인은 혼란스럽다. 이에 대해 정현석 교수는 "진실은 두 견해의 중간쯤에 있다"고 말했다. 정 교수는 이어 "양자컴퓨터 개발은 움직이는 과녁을 맞히는 게임이다. 앞으로 어떻게 될지, 언제 될지를 누구도 모른다"라고 말했다.

사이다쿨바다이야기게임

▲정현석 서울대 하이브리드 양자컴퓨팅 센터장 ⓒ최준석



양자컴퓨터 개발은 어느 단계인가

양자컴퓨터 개발은 현재 어느 단계에 있을까? 양자컴퓨터가 상용화 수준에 이르려면 큐비트 100만 개가 필요하다는 얘기들을 들은 바 있다.(*큐비트 qubit은 양자컴퓨터의 기본적인 연산 단위). 미국 기업 구글은 105개 큐비트를 돌리는 윌로우(Willow) 프로세서를 2024년 12월에, IBM은 120개 큐비트를 구동하는 프로세서(Nighthawk)를 올해 선보인 바 있다. 이대로 나아가면 1000개, 1만 개, 10만 개, 100만 개 큐비트로 연산하는 양자컴퓨터가 나오는 것인가?
정 교수는 "큐비트 수가 늘면 양자컴퓨터는 성능이 높아져야 하는데, 현재로서는 오히려 반대이다. 연산 오류 때문이다"이라고 말했다. 그러니 중요한 것은 단순히 물리적 큐비트의 개수가 아니다. 연산 결과에 오류가 없어야 한다.
오류를 정정할 수 없는 양자컴퓨팅 시스템은 큐비트를 늘리면 늘릴수록 연산이 정확하게 실행될 확률이 급격히 감소하는 문제를 갖고 있다. 큐비트를 늘려가며 연산을 할 수 있는 확장성(scalability)이 없다. 정 교수는 "양자 오류 정정, 혹은 오류 억제(error suppression)를 큐비트를 충분히 늘려나가면서 해낼 수 있느냐, 즉 확장성 있는 방식으로 해낼 수 있느냐가 앞으로 관건이다"라고 말했다. 정 교수에 따르면, 오류 정정을 통해 최종 계산 정확도를 충분히 높일 수 있는 양자컴퓨팅을 '결함 허용 양자컴퓨팅'(fault-tolerant quantum computing)이라고 한다.
물리적 큐비트와 논리적 큐비트
오류정정 과정 이해를 위해서는 물리적 큐비트(physical qubit)와 논리적 큐비트(logical qubit) 개념의 구별이 필요하다. 물리적 큐비트에는 연산을 하는 데이터 큐비트와, 데이터 큐비트의 연산 오류를 바로 잡는 보조 큐비트해서 두 가지가 있다. 데이터 큐비트와 보조 큐비트의 작업을 합한 결과를 갖고 논리적 큐비트를 구성한다. 논리적 큐비트가 실제 양자컴퓨터의 연산에 사용하는 큐비트다. 논리적 큐비트 하나를 만들어내기 위해 필요한 오류를 정정하는 물리적 큐비트(데이터 큐비트+보조 큐비트)는 몇 개나 필요한가?
정 교수가 쇼어 알고리듬(Shor's Algorithm)을 예로 들었다. 쇼어 알고리듬은 1994년에 나왔고, 현재의 RSA암호체계를 무력화할 수 있다고 얘기된다. 예를 들어 RSA-2048비트 암호 체계와 같이 큰 수를 소인수분해 해서 암호를 깨는 정도에 도달하려면, 양자컴퓨터는 연산 정확도가 매우 높아야 한다. 이 경우 충분한 수준의 오류정정이 이루어지는 논리적 큐비트 하나를 구성하기 위해 1000개 이상의 물리적 큐비트가 필요할 수 있다. 그러니 쇼어 알고리듬을 돌리기 위해 논리적 큐비트가 수천 개 필요하고, 수천 개 논리적 큐비트 구성을 위해 한 개 논리적 큐비트 당 1000 개의 물리적 큐비트가 있어야 한다. 전체적으로 필요한 물리적 큐비트의 수는 100만 개 이상이 된다.
양자 오류 정정 경쟁
양자컴퓨팅에도 손익분기점(break-even)이라는 개념이 있다. 오류 정정을 적용한 논리적 큐비트의 오류율이, 이를 구성하는 개별 물리적 큐비트의 오류율보다 처음으로 낮아지는 지점을 말한다. 이렇게 되면 손익분기점을 넘었다고 한다.
2023년부터 시작해서 최근까지 구글과 IBM 등은 손익분기점을 넘었다고 경쟁적으로 학술지 '네이처' 등에 논문을 발표하고 있다. 논문들은 모두 수십 개 규모의 물리적 큐비트를 이용해 단 한 개의 논리적 큐비트의 오류율을, 물리적 큐비트와 비교해 일정 수준 이내에서 감소시킨 걸 관찰한 정도였다. 현재의 암호체계를 깨는 수준에 가려면 수천 개의 논리적 큐비트가 있어야 하는데, 이제 한 개의 오류율을 떨어뜨린 논리적 큐비트를 만드는 데 성공한 거다. 정현석 교수는 "전에 비해 양자 연산의 신뢰도 혹은 충실도(Quantum Fidelity)가 매우 높아지긴 했다"라며 "앞으로 '한 개 논리적 큐비트 당 물리적 큐비트의 수'와 전체 '논리적 큐비트의 수'를 모두 계속 늘려나가야 한다"고 말했다.
양자컴퓨터가 고전적인 컴퓨터에 비해 연산 능력의 이점(quantum advantage)을 가지려면 최소 10~100개의 논리적 큐비트를 가져야 하며, 실용적으로 유용한 수준은 1000~1만 개의 논리적 큐비트가 필요하다고들 얘기한다. 오류를 정정해 내는 논리적 큐비트의 수가 이렇게 늘어날 수 있을까? 이에 대해 정 교수는 "아직은 난망이다"라고 말했다. 정 교수는 이어 "양자컴퓨터는 불가능하다고 말하는 사람은 확장성 있는 연산 오류 정정이 실현 가능하지 않다고 보는 것이다"라고 말했다.
양자 컴퓨터로 뭘 하나
정현석 교수는 "양자컴퓨터는 만능 기계는 아니다. 어떤 특정한 문제들을 고전적인 컴퓨터보다 잘 풀 수 있다고 알려져 있다"라며 "현재의 양자컴퓨터는 사람들이 풀기를 기대하는 문제를 풀어줄 수 있는 단계에 이른 건 아니고, 그런 걸 찾아보고 있는 단계다"라고 말했다. 그는 이어 "현재는 현실적으로 구현이 가능하면서도 실용적인 응용성이 있는 양자 애플리케이션을 탐구하는 시대라고 할 수 있다"라고 말했다.
용처를 명확하게 찾지는 못했다. 후보들은 있다. 대표적으로 화학·재료 분야처럼 본질적으로 양자역학을 따르는 시스템을 시뮬레이션하는 문제들이다. 예를 들면 소규모 분자의 에너지를 고전 컴퓨터보다 잘 추정하게 된다면, 분자의 중요한 특성을 잘 아는 것이고, 이는 신약이나 신물질 개발에 큰 도움이 될 수 있다. 국내 제약업체도 양자컴퓨터에 관심을 갖고 있으며, 기자가 정 교수를 찾아간 하루 전날 정 교수는 한 제약업체와 미팅을 가졌다. 또 최적화 문제(optimization problem), 양자 기계학습(quantum machine learning), 패턴 인식이 양자컴퓨터가 잘할 수 있지 않을까 생각하는 분야다. 정 교수는 "양자컴퓨터가 당장 시장에 내놓을 만큼 뚜렷한 응용성을 보인다고 자신 있게 얘기할 수는 없고, 그 근처에 가 있는 게 좀 있는 거다"라고 말했다.
하이브리드 양자컴퓨팅 센터 구성
이제 '하이브리드 양자컴퓨팅 센터'에 대해 물어볼 차례다. 정현석 교수는 "우리 센터는 처음 3년은 원천기술을 확보하고 인력확보 및 양성을 하게 된다. 2단계(2027-2030년)에는 자체 기술로 양자컴퓨팅 시스템을 만들고 이를 외부에도 오픈할 예정이다. 마지막 3단계 3년 동안에는 양자 분야의 세계적인 연구소로 자립하기 위한 준비를 해나갈 것"이라고 말했다. 달리 말하면, 1단계에서는 좋은 논문들을 생산하고, 2단계에서는 하드웨어와 소프트웨어가 통합된 양자컴퓨터 실물을 구현하며, 3단계는 양자컴퓨터를 사용할 응용 분야를 찾는 일을 한다.
현재는 센터의 인력을 구성하고 있다. 교수들이 맡는 PI(연구책임자) 15명 선정은 끝났다. 부센터장은 서울대 컴퓨터공학부 김태현 교수이고, 서울대에서는 물리천문학부 교수 6명(김도헌, 최현용, 김은종, 신용일, 이지은, 테오 용 시아 교수), 전기정보공학부 교수 3명(박남규, 이정우, 한승용), 수학교육과 1명(윤상균 교수)이 참여했다. 그리고 외부 기관에서는 고등과학원 권혁준 교수(계산과학부), 영국 임페리얼 칼리지 런던의 김명식 교수(정현석 교수의 은사), 미국 듀크대학교 김정상 교수(미국 양자컴퓨터 기업 IonQ 공동설립자)가 연구진으로 일한다. PI 구성을 마치고 현재는 박사후연구원들을 선발하고 있다.
왜 이름에 '하이브리드'가 들어가 있나?
서울대 양자컴퓨팅 센터 이름 앞에는 '하이브리드'가 들어가 있다. 하이브리드는 '잡종'이라는 뜻이다. 정현석 교수는 하이브리드가 들어가 있는 이유가 몇 개 있다고 했다. 그중에서 가장 중요한 건 여러 종류의 다른 물리적 플랫폼을 사용하려고 하기 때문이다. 세계적인 양자컴퓨터 개발 기업은 한 개의 플랫폼에 전념하고 있다. 미국의 IBM과 구글은 초전도 큐비트, IonQ와 퀀티넘(Quantinuum)은 포획 이온(trapped ion), 마이크로소프트는 위상 큐비트 등이다. 경쟁이 불을 뿜고 있다. 시간이 지나면 이들 플랫폼 중에 생존자는 2-3개 정도로 좁혀질 가능성이 있다. 나머지는 사라진다.
정 교수는 "우리 센터는 한 플랫폼에 올인하기 보다는 초기에는 여러 플랫폼을 같이 끌고 가고, 궁극적으로는 하이브리드 시스템을 만드는 게 장기적으로 가야할 길이라고 생각한다. 현재 뚜렷하게 모든 방면에서 우위를 보이는 단일 플랫폼이 있는 것이 아니고, 플랫폼마다 장단점이 극명하게 갈리기 때문이다"라고 말했다.
정 교수는 "중성 원자와 빛, 혹은 이온과 빛과 같이 서로 완전히 다른 물리적 시스템의 하이브리드를 이용하고 그들의 장점을 끄집어낼 수 있다는 게 최근에 우리가 하고 있는 연구다"라고 말했다.
광자와 원자의 이종 결합까지는 확인
정현석 교수는 2020년에 물리학 분야의 최상위 학술지인 PRL(Physical Review Letters)에 낸 논문에서, 하이브리드 방식의 양자컴퓨팅이 결함허용 양자컴퓨터 구현에 상당한 장점을 가지고 있다는 점을 보인 바 있다.(참고 1).
양자 오류 정정이 양자컴퓨터 연산의 정확성 담보를 위해 중요하다고 그는 앞에서 말한 바 있다. 이와 관련 정 교수는 "확장성 있는 양자 오류 정정은 먼 목표다. 그 이전 단계에서 할 수 있는 일이 오류 억제다"라며 "오류억제를 하이브리드를 이용해서 효율적으로 할 수 있다는 걸 우리가 최근 연구에서 보였다"라고 말했다. 정 교수는 이어 "빛과 원자를 결합한 하이브리드 시스템까지 연구를 확장시켰는데, 앞으로는 초전도 시스템이나 이온 트랩까지 될 수 있지 않을까 기대하고 있다"라고 말했다.
정 교수는 또 "지금의 양자 분야 연구는 하드웨어 방면의 연구 뿐 아니라, 소프트웨어 방면의 연구라고 할 수 있는 이론 연구까지 두 개가 같이 가야 된다"라며 "두 개가 접점을 찾아야 실용적 양자 기술이라는 목표에 이를 수 있다"고 말했다.
하이브리드 양자컴퓨팅 센터는 현재 6개 물리적인 플랫폼 연구를 하고 있다. 초전도 회로 방식 플랫폼(김은종 물리천문학부 교수), 포획 이온 방식(김태현 컴퓨터공학부 교수, 김정상 듀크대학교 교수), 반도체 스핀(김도헌 물리천문학부 교수), 중성 원자(신용일 물리천문학부 교수), 다이아몬드 결함(최현용 물리천문학부 교수), 광자(이지은 물리천문학부 교수) 등이다.
정 교수는 "우리 센터는 다양한 물리적 플랫폼을 다루는 실험 연구자들과, 알고리듬과 응용을 연구할 수 있는 이론 연구자가 다 포함되어 있다. 한 기관에 이렇게 많은 다양한 양자 분야 연구자가 모여 있는 경우가 흔치 않다"고 자랑했다.
양자컴퓨터 개발 기업과는 어떻게 하는 일이 다른가
세계적인 양자컴퓨터 개발 업체들간의 경쟁이 불을 뿜고 있다. 이들 업체와, 정현석 교수가 이끄는 '하이브리드 양자컴퓨팅 센터'가 하는 일은 어떻게 다른가? 정 교수는 "기술력에서는 거대 기업들이 앞서 있다. 그러니 따라 가서는 뒤질 수밖에 없다"라며 "물론 중국은 따라가기 위해 물량 공세를 퍼붓고 있다"라고 말했다. 그는 이어 "대학에 있는 우리에게는 따라간다는 건 학문적으로 의미가 없다. 대학에서 하는 연구는 논문이 나와야 한다. 'novelty'(새로움)가 있어야 한다. 차별성을 만들기 위해 '하이브리드' 개념을 우리가 집어넣은 측면이 있다"라고 말했다.선진국을 따라가는 연구 개발 과제가 한국에도 있다. 정부가 올해 만든 '양자과학기술 플래그십 프로젝트'라는 초대규모 과제다. 정부는 2025년부터 2032년까지 8년간 6454억 원을 투입, 1000큐비트 급 양자컴퓨터(초전도·중성원자 기반)와, 양자 오류정정 기술이 구현된 양자프로세서(QPU, 초전도 기반) 개발을 하겠다고 지난 8월 발표한 바 있다. 이런 큰 과제에는 정부출연연구기관인 표준과학연구원 등이 참여한다. 구글, IBM과 같은 선도 기업이 했던 걸 빨리 따라가는 게 목표다.
AI는 양자컴퓨터 개발에 도움이 되나?
정현석 교수는 "많은 사람이 양자컴퓨팅과 AI가 폭발적인 시너지 효과를 낼 수 있지 않느냐고 물어온다. 양자컴퓨팅을 이용한 기계학습은 기대되는 분야 중 하나다. 그러나 이 분야 역시 아직은 실용화 가치가 있는 응용을 찾고 있는 과정에 있다"라고 말했다.
참고1. 정현석 교수가 PRL(Physcial Review Letters)에 쓴 논문 제목은 '빛의 하이브리드 얽힘을 이용한 자원 효율적인 위상적 결함 허용 양자 계산'(Resource-efficient topological fault-tolerant quantum computation with hybrid entanglement of light)이다.



▲정현석 서울대 하이브리드 양자컴퓨팅 센터장 ⓒ최준석


[최준석 과학저널리스트(iohcsj@gmail.com)