차세대 기술의 정점으로 불리는 양자 컴퓨터. 상상조차 어려운 난제를 해결할 것이라는 기대감은 이미 현실로 다가오고 있습니다. 하지만 놀랍게도, 이 혁신적인 기계가 제대로 작동하려면 그 뒤에서 묵묵히 지원하는 고전 컴퓨팅의 역할이 절대적이라는 사실, 아셨나요?
많은 이들이 간과하지만, 큐비트 수가 늘어날수록 이 보조 인프라의 혁신 없이는 양자 컴퓨터의 잠재력을 온전히 발휘하기 어려워 보입니다. 사실상, 양자 컴퓨터는 고전과 양자의 완벽한 조화로 이루어진 '하이브리드' 장치라 할 수 있습니다.
양자 컴퓨터, 그 이면의 숨겨진 '고전'의 역할
우리가 쓰는 디지털 컴퓨터 칩은 오차 없이 수조 개의 연산을 수행하는 경이로운 공학의 산물입니다. 그러나 양자 컴퓨터의 핵심인 큐비트는 정반대죠. 아주 변덕스럽고 신뢰하기 어려워 꾸준한 보정과 복잡한 오류 보정 시스템이 필수적입니다.
이러한 보정과 오류 보정은 근본적으로 '고전적인' 문제입니다. 즉, 전용 고전 하드웨어가 있어야만 해결 가능합니다. 구글 양자 AI의 양자 소프트웨어 엔지니어 애덤 잘크만(Adam Zalcman)은 "대부분의 컴퓨터 프로그램은 고전 컴퓨터에서 실행하는 것이 가장 저렴하고 빠르다"고 말합니다. 심지어 양자 컴퓨터 자체를 실행하는 데 필요한 정보 처리 과정 역시 마찬가지라는 거죠. 그래서 그는 "모든 실용적이고 효율적인 양자 컴퓨터 아키텍처는 빠른 고전 장치를 통합할 것"이라고 단언합니다.
엔비디아(Nvidia)는 AI 기반 소프트웨어를 발표하며 양자 컴퓨터의 고전적 작업을 가속화하고 있고, Q-CTRL은 자동 보정 알고리즘을 개발해 엔비디아의 시스템을 활용 중입니다. IBM 퀀텀(IBM Quantum), 리버레인(Riverlane), 구글 양자 AI(Google Quantum AI) 등 다른 회사들도 비슷한 도구를 개발하는 모습입니다.
까다로운 큐비트를 다루는 기술: 보정과 오류 보정
큐비트는 초전도 회로, 갇힌 이온, 중성 원자 등 다양한 형태로 존재합니다. 이 큐비트를 계산에 활용하려면 밑단 하드웨어를 제어 가능한 큐비트로 바꾸는 정교한 보정 과정이 필요합니다.
보정은 크게 두 단계로 나뉘는데, 첫 번째는 '준비(bring up)' 단계로, 각 큐비트의 주파수, 양자 상태 유지 시간, 제어 펄스에 대한 민감도, 이웃 큐비트와의 상호작용 강도 등을 결정합니다. Q-CTRL의 제품 책임자 제이 길마트(Jay Guilmart)는 이 과정을 수작업으로 진행하면 박사 학위 소지자가 며칠, 심지어 몇 주가 걸릴 수 있다고 하죠. 이는 확장 가능한 해결책이 아닙니다.
그래서 Q-CTRL은 각 측정 결과를 분석하고, 실패를 진단하며, 접근 방식을 조정한 후 재시도하는 지능형 보정 소프트웨어를 만들었습니다. 보정은 한 번으로 끝나는 과정이 아닙니다. 핵심 매개변수는 시간이 지남에 따라 변동하며 성능을 점차 저하시킵니다. Q-CTRL의 소프트웨어는 '실시간 재보정(runtime recalibration)'을 수행하지만, 이 역시 한계가 있습니다. 재보정을 하는 동안에는 회로를 실행할 수 없기 때문입니다.
잘 보정된 양자 컴퓨터조차 오류에 취약하기 때문에 양자 오류 보정(QEC)은 필수입니다. 이는 수많은 물리적 큐비트에 양자 정보를 '논리 큐비트'로 인코딩하여 개별 큐비트의 오류를 탐지하고 보상합니다. 큐비트를 직접 측정하면 양자 상태가 붕괴되므로, 오류는 패리티 검사(parity check)를 통해 감지됩니다. 이 검사는 '증후군(syndrome)'이라는 일련의 측정값을 생성하고, 고전 알고리즘인 디코더(decoder)가 이를 분석하여 오류를 찾아냅니다.
이 과정은 극도로 빨라야 합니다. 일부 오류는 연산 후 수학적으로 수정 가능하지만, 일부는 알고리즘이 진행되기 전에 즉시 수정되어야만 합니다. 초전도 큐비트나 실리콘 스핀 큐비트는 양자 상태를 마이크로초 또는 밀리초 동안만 유지할 수 있으니, 이 시간 안에 오류를 디코딩하고 수정해야 하는 셈이죠. IBM 양자 중심 슈퍼컴퓨팅 CTO인 제리 차우(Jerry Chow)는 이러한 요구사항 때문에 디코더가 속도에 최적화된 FPGA(Field-Programmable Gate Array)나 ASIC(Application-Specific Integrated Circuit) 같은 특수 실리콘에서 실행된다고 설명합니다.
AI, 고전 컴퓨팅의 새로운 조력자로 떠오르는가?
양자 하드웨어 제어를 간소화하기 위한 AI 활용에 대한 관심이 뜨겁습니다. 엔비디아는 보정과 디코딩을 목표로 두 가지 모델을 출시했습니다. 첫 번째는 시각-언어 모델을 사용하여 보정 측정 출력을 분석하고, 그 평가를 AI 에이전트에 전달하여 프로세서 조정 방법을 결정하게 합니다. 두 번째는 컨볼루션 신경망을 사용해 단순하고 국소적인 오류를 식별하고, 복잡한 오류는 기존 알고리즘 디코더에 넘겨 연산 부하를 줄여 2배의 속도 향상을 이끌어냈습니다.
엔비디아의 양자 제품 책임자 샘 스탠윅(Sam Stanwyck)은 모델 훈련에는 시간이 걸리지만, 추론 속도가 매우 빠르다는 점이 AI 디코더의 매력이라고 말합니다. 그러나 GPU로 오프로딩하는 것은 상당한 지연 시간(latency)을 발생시킨다고 리버레인의 엔지니어링 부사장 마르코 기바우디(Marco Ghibaudi)는 지적합니다. IBM의 차우 박사도 현재 GPU 지연 시간 때문에 실시간 디코딩에는 비현실적이라고 동의하죠. 보정에 대한 AI 활용 역시 컴퓨팅 비용 때문에 신중한 입장입니다.
하지만 구글의 잘크만은 두 접근 방식이 상호 배타적이지 않다고 강조합니다. 신경망은 증후군 데이터에서 숨겨진 패턴을 발견하여 알고리즘 디코더가 놓칠 수 있는 복잡한 오류를 식별하는 데 탁월합니다. 구글은 전통적인 디코더와 AI 기반 디코더(알파큐비트 2 모델 포함)를 모두 통합할 수 있는 하드웨어 아키텍처를 개발 중입니다.
결국 "비터 레슨(bitter lesson)"이 디코딩 분야에도 찾아올 것이라고 하버드 박사 과정 학생인 앤디 구(Andi Gu)는 생각합니다. 이는 AI 선구자 리처드 서튼(Richard Sutton)의 주장으로, 시간이 지남에 따라 일반적인 학습 방법이 수작업 알고리즘을 능가한다는 의미입니다. 아직 지연 시간이 장벽이지만, 그의 연구팀은 AI 디코더를 더 효율적이고 작게 만들어 FPGA에 탑재하여 반응 시간을 줄이는 방법을 연구 중입니다.
자주 묻는 질문 (Q&A)
Q1: 양자 컴퓨터는 정말 고전 컴퓨터 없이 작동할 수 없는 걸까?
A1: 네, 현재 기술로는 불가능합니다. 큐비트의 불안정성 때문에 양자 컴퓨터는 큐비트 제어, 보정, 오류 보정 등 필수적인 운영 작업을 위해 고전 컴퓨터의 강력한 지원이 반드시 필요합니다. 사실상 '하이브리드' 형태로 동작하는 것이죠.
Q2: 큐비트 보정은 왜 그렇게 중요한가요?
A2: 큐비트는 매우 민감하고 변덕스러워 외부 환경 변화에 쉽게 영향을 받습니다. 정확한 계산을 위해서는 큐비트의 상태를 안정적으로 유지하고, 제어 펄스에 대한 반응을 최적화하는 보정 과정이 필수적입니다. 보정 없이는 오류가 크게 증가하여 신뢰할 수 있는 연산이 불가능해집니다.
Q3: 양자 오류 보정은 어떻게 이루어지나요?
A3: 큐비트에 발생한 오류를 직접 측정하면 양자 상태가 붕괴되기 때문에, 여러 물리적 큐비트에 정보를 분산 인코딩하는 '논리 큐비트' 방식을 사용합니다. 이후 패리티 검사를 통해 오류의 '증후군'을 파악하고, 고전 디코더 알고리즘이 이를 분석하여 오류를 찾아내고 수정합니다. 이 과정은 큐비트의 짧은 수명 때문에 실시간으로 이루어져야 합니다.
Q4: AI가 양자 컴퓨터 개발에 어떤 도움을 주나요?
A4: AI는 큐비트 보정 및 오류 디코딩 과정에서 효율성과 속도를 높이는 데 기여합니다. 예를 들어, 엔비디아는 AI를 통해 보정 결과 분석 및 오류 식별을 가속화하고 있으며, 구글은 AI 기반 디코더를 개발하여 복잡한 오류 패턴을 발견하는 데 활용하고 있습니다. AI는 학습을 통해 숨겨진 상관관계를 찾아내 성능을 향상시키는 잠재력을 가지고 있습니다.
마치며
어떤 접근 방식이 최종적으로 승리하든, 한 가지는 분명합니다. 미래의 양자 컴퓨터는 엄청난 양의 고전적 지원을 필요로 할 것입니다. 디코딩은 어떤 기술을 사용하든 지속적이고 계산 비용이 많이 드는 과정이며, 보정 오버헤드 또한 장치가 수천, 수백만 큐비트로 확장될수록 기하급수적으로 증가할 테니까요.
Q-CTRL의 길마트는 "1,000 큐비트에 도달하면 아키텍처를 재설계하고 다르게 접근해야 할 것"이라며, "오늘날 누구도 이 싸움에서 이기고 있는 사람은 없다"고 말합니다. 양자 컴퓨터의 진정한 잠재력을 해방하기 위해서는 양자와 고전, 그리고 AI의 복잡한 상호작용에 대한 깊은 이해와 지속적인 혁신이 필요할 것이라는 점을 깨닫게 됩니다.