허수 (imaginary number)는 -1의 제곱근이다. 제곱해서 -1이 되는 실수는 없으므로 실수의 영역을 벗어난다고 해서 허수라는 이름이 붙었다. 개념 자체는 고대 그리스 시절로 그 기원을 찾을 수 있으나, 본격적으로 개념화된 것은 데카르트에 의해서였고, 오일러는 이에 i라는 기호를 붙임으로써 허수의 수학적 의미가 정립되기 시작했다.

허수와 실수를 합친 공간을 복소수 (complex number)라고 한다. 수학적으로 복소수는 굉장히 강력한 기능을 하는 툴을 만들어내는 장치가 된다. 특히 복소함수론에서 다루는 코시 적분 정리 (Cauchy's integral theorem), residue theorem, 가우스 평균값 정리 (Gauss' mean value theorem) 등은 공학적으로도 강력한 툴이 되는데, 전자기학, 신호이론, 회로이론, 유체역학 등에 광범위한 계산 툴이 된다.

물리학에서 역시 복소수의 중요성은 헤아릴 수 없을 정도다. 학부생들이 배우는 전자기학의 초반에는 맥스웰 방정식을 배우는데, 그로부터 유도될 수 있는 결론은 전기장과 자기장의 시공간 변화를 설명하는 편미분방정식인 파동 방정식이다. 이 파동 방정식의 일반 해는 E~E0*exp(i(wt - kr))로서, 시간 상 변화는 주파수 w (omega)에 대해, 공간 상 변화는 파동 벡터 k에 대해 의존하는 항들의 곱으로 표현된다. 더 대표적인 사례는 양자역학이다. 예를 들어 양자역학의 가장 기초 중의 기초인 슈뢰딩거 방정식 자체에도 허수가 time-dependent term에 붙어 있다. 그래서 특정한 상태를 나타내는 상태 함수 psi 역시 복소수 형태로 표현되며, 이들의 확률은 상태 함수와 그것의 켤레 복소수 형태의 곱으로 표현된다.

학부 시절 물리학과에서 양자역학을 처음 배울 때, 내 흥미를 가장 자극한 것 중 하나는 복소수가 양자역학의 기술에 있어 필요불가결일 수밖에 없는 이유였다. 담당 교수님이 여러 케이스를 소개해 주셨는데, 그중 가장 기억에 남는 것은 transition matrix 기반의 설명이었다. 예를 들어 전자의 스핀 업/다운을 벡터를 활용하여 표현하면 V0 = [0.3 0.7] 같이 표현할 수 있다. 이는 스핀 업일 확률이 30%, 다운일 확률이 70%라는 의미이며, 이 스핀을 측정하기 전에는 업과 다운인 상태가 중첩되어 있다. 이 전자의 스핀 상태가 시간에 따라 바뀐다고 생각해 보자. 즉, V1 = T*V0 같은 형식으로 표현할 수 있으며, V0를 열 벡터 (column vector)로 본다면, T는 2*2 행렬로 표현할 수 있다. 확률론적 행렬을 가정하여 예를 들어 T = [0.2 0.4; 0.8 0.6]이라고 해 보자. 그러면 V1 = [0.34 0.66]으로 바뀐다. 그런데 이 전이 (transition)이라는 것은 사실 연속한 두 전이 과정으로도 볼 수 있다. 즉, T = t*t로 표현한다면, V0은 t를 두 번 거쳐 V1이 될 수도 있는 것이다. 그러면 t는 t = (1/3)*[1+(i*2/5^0.5) 1-(i*1/5^0.5) ; 2-(i*2/5^0.5) 2+(i*2/5^0.5)] 로 표현되는데, 흥미롭게도 행렬의 성분은 이제 모두 복소수로 표현된다. 즉, 실제의 상태가 변하는 것을 표현하기 위해서는 반드시 복소수가 표현되는 것이다. 이는 양자역학적인 이론 체제에서는 복소수의 도입이 중요하다는 것을 보여 주는 단편적인 사례 중 하나다.

그렇지만 자연에서 우리가 관찰하는 대부분의 현상과 데이터는 모두 실수를 기반으로 한다. 우리가 관찰하는 양자역학적인 물성 역시 결국 그 관측값은 실수 값으로 표현된다. 확률 역시 실수 체제 안에서만 물리적 의미를 가지며, 관측이라는 행위 역시 실세계에서만 의미가 있는 행위다. 이런 맥락에서 과연 복소수 기반 이론과 실세계 관측이 양립하는 것이 정당한 것인지에 대해 많은 논의가 있었다. 수학적으로 복소수, 특히 허수가 매우 중요한 장치이고, 그것으로 인해 많은 이론들이 깔끔하게 기술될 수 있지만, 그렇다고 해서 반드시 양자역학 이론이 복소수에만 기반을 두고 있어야 하는가 하면 그렇지는 않다는 것이 많은 물리학자들을 고뇌에 빠뜨리고 했다. 예를 들어 임의의 복소수 A + iB (A, B는 실수)로 표현되는 상태 함수를 지배하는 양자역학 이론에 따른 상태는 결국 실수 A, B로 따로따로 기술되는 상태 두 개의 선형 결합으로 표현될 수 있기 때문이다. 이는 다시 말해 복소수를 기반으로 둔 양자역학 이론에 대해, 쌍둥이 같이 실수를 기반으로 둔 양자역학 이론이 그대로 쓰일 수 있다는 것이다. 그렇다면 굳이 복소수를 계산에 이용하는 것 이상으로 복소수가 물리적 의미를 가지고 있는지를 고민하는 것은 자연스러운 고민이 될 것이다.

즉, 허수가 단순한 수학적 장치 그 이상으로 '실질적인' 의미를 가지고 있는지 여부는 많은 물리학자들에게 고민거리이긴 했다. 오죽하면 방정식을 만든 장본인인 슈뢰딩거마저 "The use of complex numbers is unpleasant. Fundamentally speaking, Ψ must be a real function."라는 이야기를 로렌츠에게 털어놓았겠는가. 물론 shut up and calculate를 굳게 지지하는 물리학자들에게는 이러한 논의는 별 의미가 없는 것일지도 모른다. 애초에 복소수 장치를 고려하지 않으면 이론의 계산이 안 되고, 계산이 안 되는 이론은 의미가 없는데, 뭣하러 이런 고민을 하느냐라고 반문할 수 있다. 그렇지만 그러한 입장에서 한 발 물러서서, 다소 철학적인 관점에서 이를 들여다본다면 그것은 생각보다 쉬운 문제는 아니다. 어떤 필요성에 의해 인위적으로 '발명'된 개념이 실제로도 그것이 없으면 세상이 성립하지 않는 그런 류의 의미를 가지고 있는지를 판단하는 것은 과학적으로 중요한 문제이지만, 철학적으로도, 존재론적 인식 관점에서도 매우 중요한 문제일 것이다.

최근 Marc-Olivier Renou와 그의 연구팀이 Nature에 보고한 이론 논문에 따르면*
*https://www.nature.com/articles/s41586-021-04160-4,

복소수 기반 양자역학 이론과 실수 기반 양자역학 이론이 정말 같은 현상을 기술하는지에 대한 실험을 제안할 수 있음이 밝혀졌다. 특히 연구팀에 따르면 과거 벨의 부등식 (Bell's inequality) 실험을 확장한 방식의 실험을 통해 실수 기반 양자역학 이론에서는 설명할 수 없는 데이터가 나올 것임을 예측하기도 했다. Nature 논문과 동시에, 이들이 제시한 실험을 두 가지 다른 방식으로 검증한 실험 논문 두 편이 서로 다른 실험 그룹에 의해 Phys. Rev. Lett. 에 출판되었는데, 두 실험 결과 모두 이론 연구자들이 예측한 값이 정확히 일치하였음을 확인한 결과로 드러났다.**,***
**Chen, M.-C. et al. Phys. Rev. Lett. (in the press)(https://arxiv.org/abs/2103.08123)
***Li, Z.-D. et al. Phys. Rev. Lett. (in the press).

이 세 연구가 의미하는 것은 무엇일까? 이론 연구자들이 제안한 실험은 이런 것이었다. 독립된 세 가지 관측기 (이를 A, B, C라고 부르자)를 준비한다. 관측기는 하나의 네트워크를 이루되, B가 A와 C의 사이에 위치하게 배치한다. 그리고 독립된 두 가지 소스 (source, 이를 S, R이라고 부르자)를 준비한다. 소스 S로부터는 서로 얽힌 입자 (entangled pair)를 쏘되, 하나는 관측기 A로, 하나는 관측기 B로 보낸다. 소스 R로부터는 역시 두 얽힌 입자를 쏘되, 한 입자는 관측기 B로, 나머지는 관측기 C로 보낸다. 소스 S과 R로부터 발사된 입자들은 각각 고유한 상관관계를 가지며 얽힌 상태이므로 그 입자들의 관측값은 서로 각각의 상관관계가 있다. 양자역학 이론에서는 입자를 기술하기 위해 힐버트 공간을 이용하는데, 얽혀 있는 두 입자를 기술하기 위해서는 각 입자의 힐버트 공간을 텐서곱 (tensor product) 해야 한다. 이때 입자의 상태를 복소수 기반으로 하면 복소 텐서곱이 되고, 실수를 기반으로 하면 실수 텐서곱이 된다. 단순히 서로 얽힌 두 입자에 대해서라면 어느 방식으로든 기술이 되고, 이 텐서곱의 결과가 가리키는 값은 차이가 없다.

그런데 흥미로운 부분은 이론 연구자들이 제안한 방식에서는 이 값이 차이가 날 수 있다는 것이다. 이론적으로는 S에서 출발한 입자들과 R에서 출발한 입자들은 서로 얽히지 않았으므로, 관측기 A와 C에서 측정한 입자들은 서로 얽힌 상태에 있지 않아야 한다. 수학적으로 이를 해석해 보면 복소수를 기반으로 하는 텐서 곱에서는 이를 증명할 수 있지만, 실수를 기반으로 하는 텐서 곱에서는 A-C 관측기에서 관찰된 입자들의 상관관계 지표가 이론적 예측치를 벗어나는 차이가 생길 수 있음이 연구자들에 의해 밝혀졌다. 남은 것은 이것을 실험으로 증명하는 일이었다.

이론 연구자들의 논문은 2021년 1월에 Arxiv에 처음 올라갔는데, 이 페이퍼가 양자컴퓨터를 연구하는 실험 연구자들 그룹의 눈에 띄었다. 실험 연구그룹은 곧바로 이론 연구자들이 제안한 실험의 구현에 착수한다. 한 연구 그룹은 광자를 이용한 실험을, 다른 연구 그룹은 초전도 큐빗 (superconductinv qubit)을 이용한 실험을 했다. 얽힌 입자 쌍으로 광자를 선택했는지, 큐빗을 선택했는지 차이였을 뿐, 원리적으로는 같은 실험을 반복한 것으로 해석하면 된다. 두 실험 그룹이 측정한 바에 따르면 이론 연구자들이 예측한 Bell-type parameter에 대해, 실수 기반 양자역학 이론에서 허용하는 최대치인 7.6605을 넘는 수치를 관측했다. (4.5 sigma 수준) 복소수를 기반으로 한 양자역학 이론을 가정했을 때, 이론 연구자들이 예측한 Bell-type parameter의 최대치는 8.4852 수준으로까지 올라가는데, 실험 그룹이 관측한 값은 8.091로 기록된 것이었다. 이 결과들은 이론 연구자들의 연구와 때맞춰 (아마도 저널 에디터 간 합의가 있었을 것 같다) 공개되었던 것이다. 이는 이론 연구가 단순히 이론에 머문 것이 아닌, 실험적으로 두 번 이상 독립적으로 재현되며 예측값이 확인될 수 있음을 보이기 위함으로 풀이된다. 즉, 실험 그룹이 관측한 값은 실수 기반의 양자역학 이론만으로는 설명이 안 되지만, 복소수 기반의 양자역학 이론으로는 충분히 설명할 수 있는 현상이었던 것이다.

이는 학자에 따라서는 사뭇 충격적인 소식으로도 볼 수 있다. 단순히 수학적 이론의 정합성을 위한 장치, 계산의 편의를 위한 장치, 방정식의 해를 아름답게 표현하기 위한 장치로서의 의미를 아득히 뛰어넘어, 현실을 기술하기 위해서는 현실에서는 존재할 수 없을 법한 숫자가 필요하다는 것을 의미하기 때문이다. 비유하자면 꿈속에서만 존재할 수 있는 개념이 현실을 살아가기 위해 반드시 필요하다는 것과 비슷하다. 물론 이번에 보고된 세 연구가 가리키는 것이 세상에 존재하는 모든 종류의 실수 기반 양자역학 이론의 폐기를 의미하는 것은 아니다. 벨 부등식 타입의 양자 얽힘을 설명하기 위한 실수 기반 양자역학 이론 체계가 타격을 입었을 뿐, 여전히 다른 강력한 후보군들은 존재하고 있다. 다만 이런 연구들로 인해 (나중에 재현되고 확정된다면), 허수의 의미, 그리고 나아가 복소수의 의미가 실제로 물리적 현실과 맥이 닿아있다는 것에 대한 확신이 한 단계 더 진전되는 것으로 볼 수 있으므로, 이는 과학적인 의미뿐만 아니라, 철학적인 의미 차원에서도 큰 진전이라고 볼 수 있을 것이다.  

참고로 복소수가 수학적 장치로서의 중요성뿐만 아니라 물리적 의미에서도 의미를 가질 수 있음이 확인된다면, 복소수보다 한 단계 더 나아간 사원수 (quaternion) 역시 그러지 말라는 법은 없잖은가 라면서 테스트해볼 수도 있을 것이다. 사원수뿐만 아니라 팔원수 역시 마찬가지이므로, 실험만 가능하다면 무한히 이 숫자의 개념을 확장할 수 있을 것 같다는 생각이 들 수도 있다. 그렇지만 사원수는 이러한 결합을 허용하지 않는다. 복소수 기반 양자역학 이론에서는 어떤 계의 하위 계 두 개의 중첩을 기술하기 위해 필요한 실수 파라미터의 개수가 각 계를 독립적으로 기술하기 위해 필요한 실수 파라미터 개수의 곱과 같음을 증명할 수 있다. 그렇지만 사원수 기반 양자역학 이론에서는 그렇지 않다. 또한 uniform distribution을 갖는 랜덤 상태들의 선형 조합으로 기술되는 어떤 상태 함수에 대해, 각 랜덤 상태의 확률 (즉, 각 랜덤 상태 파동 함수의 amplitude의 절대값 제곱) 자체도 uniform distribution을 가지기 위한 수학적 체계는 복소수 기반 체계 밖에 없다. 이 두 가지 성질은 양자역학 이론에서 필수적인 조건이므로, 사원수 기반 양자역학 이론은 적어도 우리가 아는 우주에서는 성립할 가능성이 별로 없다.

수학과 물리학이 서로 영향을 주고받으며 날줄과 씨줄 엮이듯 발전해 온 역사를 인류는 수백 년간 지켜보았다. 대부분 수학에서 발명되거나 발견된 장치가 물리학에서 현상의 기술과 예측을 위한 장치로 훌륭하게 활용되기도 했고, 20세기 초반에는 오히려 물리학에서 가정한 장치가 수학적으로 나중에 검증되기도 했다. 복소수가 수학에 등장한 것은 벌써 300년이 다 되어 가고, 물리학에서 쓰이게 된 것도 200년이 넘어가지만, 여전히 그것의 수학적 의미와 물리적 의미의 일맥상통에 대해 인류가 모든 것을 알고 있는 것은 아니다. 이번에 보고된 연구 결과들에서도 볼 수 있듯, 인류는 이제야 복소수 기반 양자역학이 수학적 의미를 넘어, 물리적 의미를 넘어, 실질적, 존재론적 의미를 가지고 있음을 조금씩 확인하고 있을 뿐이다. 이런 반추를 통해, 실증을 통해 인류의 문명은 또 그렇게 한 발짝 전진한다.