스마트폰으로 동영상을 보고, 업무용 PC로 수천 줄짜리 문서를 처리하는 일상이 당연하게 느껴지는 지금, 컴퓨터 과학계는 전혀 다른 원리로 작동하는 새로운 연산 장치를 둘러싸고 들끓고 있다. 바로 '양자 컴퓨터(Quantum Computer)'다. 양자 컴퓨터는 단순히 더 빠른 컴퓨터가 아니라, 연산의 근본 원리 자체가 다른 기계다. 현존하는 최강의 슈퍼컴퓨터가 1만 년이 걸려도 풀지 못하는 문제를 200초 만에 해결했다는 연구 결과가 발표되면서 세계의 이목이 집중됐다.

기존 컴퓨터는 '비트(bit)'라는 단위를 기반으로 작동한다. 비트는 오직 0 또는 1, 두 가지 상태 중 하나만 가질 수 있다. 전구가 켜지거나 꺼지는 것처럼, 전기 신호가 있거나 없거나로 모든 정보를 표현한다. 현재 인류가 사용하는 컴퓨터는 이 단순한 이진법 논리를 수십억 번 반복 연산해 복잡한 작업을 수행한다. 반세기 넘게 이 구조는 트랜지스터 집적도를 높이는 방식으로 발전해 왔지만, 이제 물리적 한계에 가까워지고 있다는 게 전문가들의 공통된 진단이다.

양자 컴퓨터는 '큐비트(Qubit, 양자 비트)'를 기본 단위로 사용한다. 큐비트의 가장 큰 특징은 '양자 중첩(Superposition)'이다. 동전을 공중에 던졌을 때 앞면도 뒷면도 아닌 회전 중인 상태처럼, 큐비트는 측정되기 전까지 0과 1을 동시에 가질 수 있다. 이 특성 덕분에 큐비트 하나는 비트 하나보다 훨씬 많은 정보를 담을 수 있고, 큐비트 수가 늘어날수록 처리 가능한 경우의 수는 2의 거듭제곱으로 폭발적으로 증가한다. 예컨대 300큐비트는 우주에 존재하는 원자 수보다 많은 경우의 수를 동시에 나타낼 수 있다.

또 다른 핵심 원리는 '양자 얽힘(Entanglement)'이다. 두 큐비트가 얽힌 상태에 놓이면, 둘 사이의 거리와 무관하게 한쪽의 상태가 결정되는 순간 다른 쪽의 상태도 즉각 결정된다. 아인슈타인은 이를 '원격 귀신 작용'이라 부르며 불편해했지만, 현대 실험물리학은 이 현상이 실재함을 반복적으로 증명했다. 양자 얽힘은 다수의 큐비트를 하나처럼 연동시켜 병렬 연산의 효율을 극단적으로 높이는 핵심 자원으로 활용된다. 이를 통해 양자 컴퓨터는 특정 유형의 문제에서 고전 컴퓨터가 엄두도 내지 못할 속도로 정답에 도달할 수 있다.

그렇다면 양자 컴퓨터는 어디에 쓰이는가. 가장 주목받는 분야는 암호학이다. 현재 인터넷 금융 거래와 군사 통신에 광범위하게 쓰이는 RSA 암호화 방식은, 거대한 수를 소인수분해하는 데 현존 컴퓨터로는 수백만 년이 걸린다는 사실에 기반한다. 반면 양자 알고리즘인 '쇼어 알고리즘'을 충분한 큐비트를 갖춘 양자 컴퓨터에 적용하면 이를 단 수 시간 내에 풀 수 있다는 이론적 계산이 나와 있다. 이 밖에도 수만 가지 분자 조합을 동시에 시뮬레이션해야 하는 신약 개발, 수십억 개의 변수가 얽힌 기후 모델링, 금융 파생상품의 최적 포트폴리오 산출 등이 양자 컴퓨터의 잠재적 응용처로 꼽힌다.

그러나 양자 컴퓨터가 모든 문제를 더 빠르게 해결하는 만능 도구는 아니다. 이메일 송수신이나 동영상 스트리밍처럼 순차적 논리 연산이 필요한 일상적 작업에서는 오히려 기존 컴퓨터보다 효율이 낮다. 양자 컴퓨터는 '방대한 가능성의 공간을 한꺼번에 탐색해야 하는 문제', 즉 최적화·시뮬레이션·인수분해처럼 경우의 수가 기하급수적으로 많은 문제에서만 압도적 우위를 발휘한다. 전문가들은 미래 컴퓨팅 환경을 기존 컴퓨터와 양자 컴퓨터가 역할을 분담하는 '하이브리드 구조'로 전망하고 있다.

기술적 과제도 만만치 않다. 큐비트는 외부 환경의 미세한 진동이나 전자기파에도 쉽게 교란돼 오류를 일으키는 '양자 결어긋남(Decoherence)' 문제를 안고 있다. 이를 막기 위해 현재 주요 양자 컴퓨터 시스템은 절대온도 0도에 가까운 영하 273도 안팎의 극저온 환경에서 작동하며, 이를 유지하는 장비 비용만도 수십억 원에 달한다. 오류 수정 기술도 아직 완성 단계에 이르지 못해, 의미 있는 연산을 수행하려면 수백 개의 물리적 큐비트로 단 하나의 '논리 큐비트'를 구현해야 하는 현실이다. 2024년 기준 세계 최고 수준의 양자 프로세서가 1000큐비트 내외임을 감안하면, 실용적 암호 해독에 필요한 수백만 큐비트까지는 아직 먼 길이 남아 있다.

그럼에도 불구하고 각국 정부와 글로벌 기술 기업들의 투자는 가속화하고 있다. 미국은 양자정보과학 국가전략을 수립해 수조 원 규모의 연방 예산을 투입하고 있으며, 유럽연합 역시 10억 유로 규모의 양자 플래그십 프로그램을 운영 중이다. 한국도 2023년 양자과학기술 육성에 관한 법률을 제정하고 2035년까지 세계 4대 양자 강국 진입을 목표로 제시했다. 반도체의 등장이 20세기 산업 지형을 뒤바꿨듯, 양자 컴퓨터의 실용화가 21세기 후반 문명의 무게중심을 어떻게 이동시킬지 전 세계가 숨죽이며 지켜보고 있다.