양자역학은 왜 천재들도 이해하기 어려워할까?

리처드 파인만은 노벨 물리학상을 받은 사람입니다. 20세기를 대표하는 천재 물리학자 중 한 명으로 꼽히고, 그가 쓴 강의록은 지금도 전 세계 물리학과 학생들의 필독서입니다. 그런 그가 남긴 말이 있습니다.

“양자역학을 이해했다고 생각하는 사람은, 양자역학을 이해하지 못한 것이다.”

이상하지 않나요? 상대성이론을 만든 아인슈타인도, 원자폭탄 개발에 참여했던 최고의 물리학자들도, 심지어 양자역학을 직접 만든 사람들조차도 이 이론 앞에서는 고개를 갸웃거렸습니다. 보통 어떤 학문이 어렵다고 하면, 그건 아직 그 분야를 충분히 공부하지 않은 사람들의 이야기입니다. 미적분학이 어렵다고 느끼는 건 고등학생이지, 수학과 교수는 아닙니다. 그런데 양자역학은 다릅니다. 이 분야를 만들고 평생을 바쳐 연구한 사람들조차 “솔직히 왜 이런 일이 일어나는지는 나도 모른다”고 고백합니다. 닐스 보어는 “양자역학을 접하고 충격받지 않은 사람은 아직 그것을 이해하지 못한 것”이라고 말했고, 실제로 이 이론을 두고 아인슈타인과 보어는 죽을 때까지 논쟁을 벌였습니다. 세계 최고의 두뇌들이 수십 년을 싸워도 결론이 나지 않는 문제. 대체 양자역학의 어떤 부분이 이토록 사람을 당황하게 만드는 걸까요? 그리고 그 이유를 알면, 우리는 세상을 보는 방식을 완전히 새롭게 바꿀 수 있을까요? 지금부터 그 이야기를 천천히 풀어보겠습니다.

왜 이것이 중요한가

양자역학은 단순히 물리학자들의 골치 아픈 취미가 아닙니다. 우리가 지금 손에 들고 있는 스마트폰, 병원에서 찍는 MRI, 인터넷을 가능하게 하는 반도체, 이 모든 것이 양자역학이라는 이론 없이는 존재할 수 없습니다. 전자공학의 핵심인 트랜지스터부터 최근 화제가 되는 양자컴퓨터까지, 현대 문명의 근간에는 양자역학이 자리 잡고 있습니다.

그런데 흥미로운 점은, 이 이론을 활용해서 만든 기술들은 완벽하게 작동하는데, 정작 “왜 그렇게 되는지”에 대해서는 물리학자들 사이에서도 의견이 갈린다는 사실입니다. 계산은 100년 넘게 단 한 번도 틀린 적이 없을 만큼 정확한데, 그 계산이 의미하는 ‘실제 세상의 모습’에 대해서는 여전히 논쟁 중입니다. 마치 완벽하게 작동하는 자동차를 운전할 줄은 알지만, 그 자동차가 왜 굴러가는지에 대해서는 전문가들끼리 서로 다른 설명을 하고 있는 셈입니다. 이 이상한 상황을 이해하면, 우리는 과학이라는 것이 얼마나 신비롭고 동시에 얼마나 겸손해야 하는 학문인지를 깨닫게 됩니다.

역사적·사회적 배경

이야기는 1900년, 독일의 물리학자 막스 플랑크로부터 시작됩니다. 당시 물리학자들은 뜨거운 물체가 내뿜는 빛을 계산하려고 했는데, 기존 이론으로 계산하면 답이 무한대로 튀어버리는 이상한 문제에 부딪혔습니다. 이를 ‘자외선 파탄’이라고 부를 정도로 심각한 오류였습니다. 플랑크는 고민 끝에 한 가지 기묘한 가정을 세웠습니다. 에너지가 물이나 공기처럼 연속적으로 흐르는 것이 아니라, 마치 동전처럼 정해진 최소 단위로만 존재한다고 가정한 것입니다. 이 최소 단위를 ‘양자(quantum)’라고 불렀습니다. 놀랍게도 이 가정을 넣자 계산이 딱 맞아떨어졌습니다.

플랑크 본인도 처음에는 이걸 그저 계산을 맞추기 위한 ‘수학적 요령’ 정도로 여겼습니다. 실제로 에너지가 알갱이처럼 되어 있다고 진지하게 믿지는 않았던 겁니다. 그런데 5년 뒤인 1905년, 스위스 특허청에서 일하던 26살의 젊은 직원 알베르트 아인슈타인이 이 아이디어를 진지하게 받아들였습니다. 그는 빛도 알갱이(광자)로 이루어져 있다고 주장하며 광전효과를 설명했고, 이 공로로 훗날 노벨상을 받습니다. 참고로 아인슈타인이 노벨상을 받은 건 상대성이론이 아니라 바로 이 양자 관련 연구 때문이었습니다.

이후 20여 년간, 닐스 보어, 베르너 하이젠베르크, 에르빈 슈뢰딩거, 폴 디랙 같은 젊은 천재들이 이 기묘한 세계를 하나둘씩 파헤치기 시작했습니다. 흥미로운 점은 이들 중 상당수가 20대의 젊은 나이에 이 혁명적인 이론들을 만들어냈다는 것입니다. 하이젠베르크가 불확정성 원리를 발표했을 때 그의 나이는 겨우 26세였습니다. 마치 물리학의 판을 새로 짜는 작업이 나이 든 거장들이 아니라, 기존의 상식에 덜 얽매인 젊은이들의 손에서 이루어진 셈입니다.

양자역학이 이토록 낯선 이유

1. 왜: 우리의 직관은 ‘큰 세계’에서 만들어졌다

우리의 뇌는 수백만 년에 걸친 진화 과정에서, 사냥하고 도망치고 물건을 던지고 잡는 데 최적화된 직관을 갖게 되었습니다. 돌멩이는 한 번에 한 곳에만 있고, 던지면 정해진 궤적을 그리며 날아갑니다. 이런 ‘고전적인’ 세계의 규칙은 우리 눈에 보이는 모든 것—사과, 자동차, 사람—에 아주 잘 들어맞습니다. 문제는 원자나 전자처럼 아주 작은 세계로 들어가면, 이 규칙이 통째로 무너진다는 사실입니다. 우리의 직관은 애초에 그런 작은 세계를 경험해본 적이 없기 때문에, 그 세계의 규칙을 ‘이상하다’고 느끼는 것입니다. 사실 이상한 건 양자 세계가 아니라, 우리의 뇌가 그 세계를 이해하도록 설계되지 않았다는 점입니다.

2. 어떻게: 전자는 동시에 두 곳에 있을 수 있다

양자역학에서 가장 유명하면서도 가장 이해하기 힘든 실험이 있습니다. 바로 ‘이중 슬릿 실험’입니다. 벽에 좁은 틈 두 개를 뚫어놓고, 그 뒤에 스크린을 세운 뒤 전자를 하나씩 쏘아 보냅니다. 상식적으로 생각하면, 전자는 알갱이니까 왼쪽 틈이나 오른쪽 틈, 둘 중 하나를 통과해서 스크린의 두 지점에 부딪혀야 합니다.

그런데 실제로는 전혀 다른 결과가 나옵니다. 전자를 하나씩, 심지어 매우 긴 시간 간격을 두고 쏘아도, 스크린에는 마치 물결이 서로 부딪혀서 생기는 것 같은 줄무늬 패턴이 나타납니다. 이건 전자 하나가 마치 두 틈을 동시에 통과하고, 자기 자신과 간섭을 일으킨 것처럼 보이는 결과입니다. 하나의 알갱이가 두 개의 길을 동시에 지나갔다는 뜻이니, 상식적으로는 말이 되지 않습니다.

더 기괴한 부분은 이제부터입니다. 과학자들이 “전자가 정말로 어느 틈을 지나가는지” 확인하기 위해 각 틈에 관측 장치를 설치하면, 줄무늬 패턴이 감쪽같이 사라지고 전자는 다시 ‘정상적으로’ 한쪽 틈만 통과한 것처럼 행동합니다. 마치 전자가 “누군가 보고 있다”는 사실을 알아채고 갑자기 행동을 바꾸는 것 같습니다. 이것이 바로 ‘관측자 효과’라고 불리는 현상이며, 양자역학이 사람들을 가장 당혹스럽게 만드는 지점입니다.

3. 그래서: 슈뢰딩거의 고양이, 확률로 존재하는 세계

이 기묘함을 극단적으로 보여주기 위해, 에르빈 슈뢰딩거는 유명한 사고실험을 하나 고안했습니다. 밀폐된 상자 안에 고양이 한 마리와 방사성 물질, 그리고 독가스 장치를 넣습니다. 방사성 물질이 붕괴하면 장치가 작동해서 고양이가 죽고, 붕괴하지 않으면 고양이는 살아 있습니다. 방사성 붕괴는 양자역학적으로 확률에 따라 일어나는 사건입니다.

양자역학의 표준적인 해석(코펜하겐 해석이라고 부릅니다)에 따르면, 상자를 열어보기 전까지 고양이는 ‘살아있음’과 ‘죽어있음’이 중첩된 상태로 존재합니다. 딱 반반의 확률로 존재하는 게 아니라, 두 상태가 동시에 겹쳐진 채로 존재한다는 뜻입니다. 상자를 여는 순간, 즉 누군가 관측하는 순간에야 비로소 고양이는 살았거나 죽었거나 둘 중 하나의 상태로 ‘확정’됩니다.

슈뢰딩거 본인은 사실 이 실험을 양자역학이 옳다는 걸 보여주려고 만든 게 아니라, 오히려 이 해석이 얼마나 터무니없는지를 지적하려고 만들었습니다. “고양이 같은 거시적인 존재가 동시에 살아있고 죽어있다는 게 말이 되느냐”는 반박이었던 셈이죠. 그런데 아이러니하게도, 이후 수십 년간의 실험들은 이 기묘한 ‘중첩’ 현상이 실제로 원자나 분자 단위에서는 참이라는 것을 계속해서 확인해주었습니다. 슈뢰딩거의 풍자가 오히려 양자역학의 상징이 되어버린 것입니다.

4. 불확정성 원리: 안다는 것의 한계

베르너 하이젠베르크는 여기서 한 걸음 더 나아간 사실을 발견했습니다. 그는 입자의 ‘위치’와 ‘운동량(속도와 관련된 값)’을 동시에 정확하게 알 수 없다는 것을 수학적으로 증명했습니다. 이건 우리 측정 기술이 부족해서 생기는 문제가 아닙니다. 아무리 기술이 발전해도, 원리적으로 두 값을 동시에 정확히 알 수는 없다는 뜻입니다.

비유를 하나 들어보겠습니다. 만약 여러분이 흐르는 강물 속의 물고기 한 마리의 정확한 위치를 사진처럼 딱 찍어서 알아낸다면, 그 순간 물고기가 얼마나 빠르게, 어느 방향으로 헤엄치고 있었는지는 전혀 알 수 없게 됩니다. 반대로 물고기의 속도와 방향을 정밀하게 재려면, 위치는 흐릿해질 수밖에 없습니다. 이것이 우리가 사는 거시 세계에서는 그저 측정 기술의 한계처럼 느껴지지만, 양자 세계에서는 자연 그 자체의 근본적인 규칙입니다. 세상은 우리가 아무리 정교한 도구를 만들어도 결코 완전히 알아낼 수 없는 부분을 원래부터 갖고 있다는 뜻이죠. 이 사실이 바로 물리학자들을 가장 겸손하게 만드는 지점입니다.

5. 왜 천재들조차 이해하지 못한다고 말할까

여기서 중요한 구분이 하나 있습니다. 물리학자들은 양자역학의 ‘계산법’은 완벽하게 이해하고 있습니다. 수학 공식을 이용해 전자가 어디서 발견될 확률이 얼마인지, 원자가 어떤 빛을 방출할지 등을 놀랍도록 정확하게 예측할 수 있습니다. 실제로 양자역학의 예측은 지금까지 인류 역사상 가장 정밀하게 검증된 이론입니다. 어떤 계산은 실험 결과와 소수점 열두 자리까지 일치할 정도입니다.

하지만 천재들이 이해하지 못한다고 말하는 부분은 계산법이 아니라 ‘해석’입니다. 즉, 저 수학이 실제 세상에 대해 무엇을 말해주고 있는지, 다시 말해 “왜 관측하기 전까지는 중첩 상태로 있다가, 관측하는 순간 하나로 확정되는가?”라는 질문에 대해서는 지금까지도 물리학자들 사이에 합의된 답이 없습니다. 코펜하겐 해석, 다세계 해석, 파일럿파동 이론 등 여러 해석이 경쟁하고 있지만, 어느 것이 ‘진짜’인지는 실험으로 구분할 방법조차 없는 경우가 많습니다. 완벽하게 작동하는 지도는 갖고 있지만, 그 지도가 그리는 땅이 정확히 어떤 모습인지에 대해서는 서로 다른 상상을 하고 있는 셈입니다.

아인슈타인과 보어의 세기의 논쟁

이 문제를 둘러싼 가장 유명한 논쟁은 아인슈타인과 보어 사이에서 벌어졌습니다. 아인슈타인은 평생 양자역학의 ‘확률적 해석’을 받아들이지 못했습니다. 그는 “신은 주사위 놀이를 하지 않는다”는 유명한 말을 남기며, 우주에는 반드시 우리가 아직 발견하지 못한 숨겨진 변수, 즉 완전히 결정론적인 법칙이 존재할 것이라고 믿었습니다.

반면 보어는 양자역학이 보여주는 확률과 불확정성을 자연의 근본적인 특징으로 받아들여야 한다고 주장했습니다. 두 사람은 1927년 솔베이 회의를 시작으로 수십 년간 편지와 학회를 통해 논쟁을 이어갔습니다. 아인슈타인이 새로운 사고실험으로 양자역학의 허점을 지적하면, 보어는 밤을 새워 그 허점을 반박할 방법을 찾아냈다는 일화가 전해집니다. 이 논쟁은 두 사람이 세상을 떠날 때까지도 완전히 끝나지 않았습니다. 그리고 흥미롭게도, 이후의 실험들(벨 부등식 검증 실험 등)은 대체로 보어 쪽의 손을 들어주는 결과를 보여주었습니다. 세상은 정말로 아인슈타인이 원했던 것보다 훨씬 더 확률적이고 예측 불가능한 곳이었던 셈입니다.

고전물리학 vs 양자역학

두 세계의 차이를 표로 정리하면 다음과 같습니다.

구분	고전물리학 (뉴턴 역학)	양자역학
적용 대상	사과, 자동차 등 눈에 보이는 물체	전자, 광자 등 초미세 입자
위치	항상 한 곳에 정확히 존재	관측 전까지 여러 곳에 확률로 존재(중첩)
예측 방식	결정론적 (조건을 알면 미래를 정확히 예측)	확률론적 (특정 결과가 나올 확률만 계산 가능)
관측의 영향	관측해도 대상의 상태가 바뀌지 않음	관측하는 행위 자체가 대상의 상태를 확정시킴
위치와 속도	둘 다 동시에 정확히 측정 가능	하이젠베르크 불확정성 원리로 동시 측정에 근본적 한계 존재
대표 학자	아이작 뉴턴	하이젠베르크, 슈뢰딩거, 보어

오늘날 우리에게 주는 의미

양자역학의 기묘함은 단지 물리학자들만의 골칫거리가 아니라, 지금 우리 삶 곳곳에 스며들어 있습니다. 스마트폰과 컴퓨터의 두뇌인 반도체는 전자가 특정 에너지 준위로만 존재한다는 양자 원리 없이는 설계할 수 없습니다. 병원에서 사용하는 MRI는 원자핵의 양자적 스핀 현상을 이용합니다. 최근 각국이 앞다투어 개발 중인 양자컴퓨터는, 바로 이 ‘중첩’이라는 기묘한 성질을 계산 자원으로 직접 활용하는 기술입니다. 일반 컴퓨터가 0과 1 중 하나만 저장할 수 있는 반면, 양자컴퓨터의 큐비트는 0과 1이 중첩된 상태를 활용해 특정 계산을 기하급수적으로 빠르게 처리할 잠재력을 갖고 있습니다.

더 깊은 의미도 있습니다. 양자역학은 우리에게 “완벽하게 계산할 수 있다고 해서, 완전히 이해했다고 말할 수는 없다”는 겸손한 교훈을 줍니다. 인류는 우주를 예측하는 도구는 손에 넣었지만, 그 도구가 왜 그렇게 작동하는지에 대해서는 여전히 질문을 던지고 있습니다. 이것은 실패가 아니라, 과학이 살아있다는 증거입니다. 100년이 지나도 여전히 논쟁하고, 여전히 새로운 실험을 설계하고, 여전히 다음 세대의 젊은 천재들을 기다리고 있다는 뜻이니까요.

핵심 정리

• 양자역학은 1900년 막스 플랑크의 에너지 양자화 가정에서 시작되었고, 이후 아인슈타인, 보어, 하이젠베르크, 슈뢰딩거 등 젊은 물리학자들에 의해 발전했습니다.
• 이중 슬릿 실험은 전자가 관측되기 전까지 여러 경로에 동시에 존재하는 ‘중첩’ 상태에 있음을 보여줍니다.
• 슈뢰딩거의 고양이는 이 중첩 현상이 얼마나 상식과 어긋나는지를 극적으로 보여주는 사고실험입니다.
• 하이젠베르크의 불확정성 원리는 입자의 위치와 운동량을 동시에 정확히 알 수 없다는, 자연 그 자체의 근본적인 한계를 말해줍니다.
• 물리학자들이 어려워하는 건 양자역학의 ‘계산’이 아니라 ‘해석’입니다. 계산은 완벽하지만, 그것이 의미하는 실제 세상의 모습에 대해서는 아직 합의가 없습니다.
• 반도체, MRI, 양자컴퓨터 등 현대 기술의 근간에는 이 기묘한 이론이 자리 잡고 있습니다.

오늘의 한 문장

“세상에서 가장 정확한 이론이, 세상에서 가장 이해하기 어려운 이론이기도 하다는 사실이야말로 과학이 여전히 살아있다는 가장 확실한 증거입니다.”

FAQ

Q1. 양자역학은 결국 무엇을 연구하는 학문인가요? 원자, 전자, 광자처럼 눈에 보이지 않을 만큼 작은 세계에서 물질과 에너지가 어떻게 행동하는지를 연구하는 물리학 분야입니다. 이 세계에서는 우리가 일상에서 경험하는 규칙과는 전혀 다른 방식으로 자연이 작동합니다.

Q2. 양자역학을 이해하려면 반드시 수학을 잘해야 하나요? 전문적으로 계산하고 연구하려면 고급 수학이 필요하지만, 양자역학의 핵심 개념(중첩, 불확정성, 확률적 해석)은 수학 없이도 비유와 사고실험을 통해 충분히 이해할 수 있습니다. 실제로 많은 교양서와 다큐멘터리가 수식 없이 이 개념들을 설명하고 있습니다.

Q3. 슈뢰딩거의 고양이는 실제로 존재했던 실험인가요? 아닙니다. 실제 실험이 아니라, 양자역학의 해석이 얼마나 상식과 어긋나는지를 보여주기 위해 슈뢰딩거가 고안한 사고실험(생각으로만 진행하는 가상의 실험)입니다. 실제로 고양이를 상자에 넣은 적은 없습니다.

Q4. 양자컴퓨터는 일반 컴퓨터와 무엇이 다른가요? 일반 컴퓨터는 정보를 0 또는 1로만 저장하는 반면, 양자컴퓨터는 양자역학의 중첩 현상을 이용해 0과 1이 동시에 겹쳐진 상태(큐비트)로 정보를 처리합니다. 이 덕분에 특정 유형의 계산(예: 암호 해독, 신약 개발을 위한 분자 시뮬레이션)에서는 기존 컴퓨터보다 압도적으로 빠른 처리가 가능할 것으로 기대되고 있습니다.

Q5. 아인슈타인은 양자역학을 인정하지 않았나요? 아인슈타인은 양자역학의 계산이 정확하다는 사실 자체는 인정했지만, 그 이론이 완전한 자연법칙이라는 데는 끝까지 동의하지 않았습니다. 그는 우주가 근본적으로 확률에 의해 지배된다는 해석을 받아들이지 못했고, 아직 발견되지 않은 결정론적 법칙이 숨어 있을 것이라 믿었습니다. 다만 그가 노벨상을 받은 광전효과 연구 자체는 양자역학 발전에 결정적인 기여를 했습니다.