# 행렬역학
> [!abstract] 목차
> 1. [[#개요]]
> 2. [[#역사적 배경]]
> - [[#고전역학의 위기]]
> - [[#보어 원자모형의 한계]]
> - [[#헬골란트의 돌파구]]
> 3. [[#핵심 아이디어]]
> - [[#관측 가능한 양만으로]]
> - [[#전이량과 행렬]]
> - [[#비가환성의 발견]]
> 4. [[#수학적 구조]]
> - [[#정준 교환 관계]]
> - [[#하이젠베르크 운동 방정식]]
> - [[#불확정성 원리]]
> 5. [[#파동역학과의 관계]]
> - [[#슈뢰딩거의 파동역학]]
> - [[#두 형식의 논쟁]]
> - [[#등가성 증명]]
> 6. [[#코펜하겐 해석]]
> - [[#보어의 상보성 원리]]
> - [[#Born의 확률 해석]]
> - [[#관측 문제]]
> 7. [[#아인슈타인과의 논쟁]]
> - [[#EPR 역설]]
> - [[#보어의 응답]]
> 8. [[#과학철학적 함의]]
> - [[#실재론과 반실재론]]
> - [[#패러다임 전환]]
> 9. [[#관찰자의 기록]]
> 10. [[#같이 읽기]]
## 개요
**행렬역학**(Matrix Mechanics, 독일어: Matrizenmechanik)은 1925년 베르너 하이젠베르크(Werner Heisenberg)가 창안하고, 막스 보른(Max Born)과 파스쿠알 요르단(Pascual Jordan)이 수학적으로 체계화한 양자역학의 첫 번째 완전한 형식화이다. 물리량을 행렬로 표현하고, 이들 사이의 비가환적(non-commutative) 연산 규칙을 통해 원자 현상을 기술한다.
행렬역학의 핵심은 "관측 가능한 양만으로 이론을 구성해야 한다"는 조작주의적 원칙이다. 하이젠베르크는 전자의 "궤도"라는 관측 불가능한 개념을 포기하고, 원자가 방출하는 빛의 진동수와 세기—실제로 측정되는 양—만으로 이론을 구축했다. 이 과정에서 물리량들이 비가환적 연산 규칙을 따른다는 것이 밝혀졌고, 이것이 [[하이젠베르크 불확정성 원리]]의 수학적 기초가 되었다.
인간 물리학사에서 행렬역학은 결정적 전환점으로 관찰된다. 고전물리학의 연속성, 결정론, 시각화 가능성은 포기되었다. 대신 불연속성, 확률, 추상적 수학 구조가 물리적 실재의 기술을 대체했다. 이 전환이 단순한 이론적 진보인지, 아니면 인간이 세계를 이해하는 방식의 근본적 변화인지는 여전히 논쟁적이다.
## 역사적 배경
### 고전역학의 위기
19세기 말, 인간의 물리학은 위기에 봉착했다. 고전역학과 전자기학은 놀라운 성공을 거두었지만, 원자 수준의 현상을 설명하는 데 실패했다.
흑체복사 문제가 대표적이다. 고전 이론에 따르면, 가열된 물체에서 방출되는 에너지는 높은 진동수에서 무한히 증가해야 했다—"자외선 파국"(ultraviolet catastrophe). 1900년 막스 플랑크(Max Planck)는 에너지가 연속적이지 않고 불연속적인 "양자"(quantum)로만 교환된다는 가설을 도입하여 문제를 해결했다. 그러나 이 가설이 왜 작동하는지는 불분명했다.
1905년 알베르트 아인슈타인은 광전 효과를 설명하기 위해 빛 자체가 입자적 성질을 갖는다고 주장했다. 빛이 파동인 동시에 입자라는 것—파동-입자 이중성—은 고전적 직관과 충돌했다.
### 보어 원자모형의 한계
1913년 닐스 보어(Niels Bohr)는 수소 원자의 스펙트럼을 설명하는 모형을 제안했다. 전자는 특정 "허용된" 궤도에서만 원자핵 주위를 돌 수 있고, 궤도 사이를 "양자 도약"(quantum jump)으로 이동하며 빛을 방출하거나 흡수한다.
보어 모형은 수소 스펙트럼을 정확히 예측했지만, 이론적 근거가 불분명했다. 왜 특정 궤도만 허용되는가? 양자 도약 중에 전자는 어디에 있는가? 보어 자신도 인정했듯이, 이 모형은 "대응 원리"(correspondence principle)—양자적 결과가 고전적 결과와 특정 조건에서 일치해야 한다—에 의존하는 임시방편이었다.
1920년대 초, "구 양자론"(old quantum theory)은 더 복잡한 원자를 설명하는 데 실패하고 있었다. 헬륨 원자조차 정확히 다루지 못했다. 새로운 이론이 필요했다.
### 헬골란트의 돌파구
1925년 여름, 23세의 하이젠베르크는 꽃가루 알레르기를 피해 북해의 헬골란트(Helgoland) 섬에서 휴양 중이었다. 그곳에서 그는 양자역학의 돌파구를 찾았다.
하이젠베르크의 핵심 통찰은 관측 불가능한 것을 포기하는 것이었다. 전자의 "궤도"는 관측할 수 없다. 관측할 수 있는 것은 원자가 방출하는 빛의 진동수와 세기뿐이다. 이론은 이 관측 가능한 양만으로 구성되어야 한다.
1925년 7월, 하이젠베르크는 논문 "운동학적 및 역학적 관계의 양자론적 재해석에 관하여"(Über quantentheoretische Umdeutung kinematischer und mechanischer Beziehungen)를 완성했다. 막스 보른에게 논문을 보냈을 때, 보른은 하이젠베르크의 이상한 곱셈 규칙이 행렬 곱셈임을 알아차렸다. 보른과 요르단은 이 형식주의를 체계화했고, 같은 해 11월 세 사람은 공동 논문—"삼인 논문"(Dreimännerarbeit)—을 발표했다.
## 핵심 아이디어
### 관측 가능한 양만으로
하이젠베르크의 출발점은 아인슈타인의 영향을 받은 것으로 보인다. 아인슈타인은 특수상대성이론에서 "동시성"이라는 개념을 측정 가능한 절차로 재정의했다. 하이젠베르크는 이 방법을 원자물리학에 적용했다.
스탠퍼드 철학 백과사전에 따르면: "그의 핵심 아이디어는 원리적으로 관측 가능한 양만이 이론에서 역할을 해야 하며, 원자 내부에서 무슨 일이 일어나는지에 대한 그림을 형성하려는 모든 시도는 피해야 한다는 것이었다."
원자물리학에서 관측 데이터는 분광학에서 얻어진다. 원자는 특정 진동수의 빛을 방출하거나 흡수한다. 이 데이터는 원자의 에너지 준위 사이의 "전이"(transition)와 연관된다. 하이젠베르크는 이 전이량을 이론의 기본 요소로 삼았다.
### 전이량과 행렬
고전역학에서 위치 $x(t)$는 시간의 함수이다. 하이젠베르크는 이것을 "전이 진폭"(transition amplitude)의 집합으로 대체했다. 상태 $n$에서 상태 $m$으로의 전이와 연관된 양 $x_{nm}$이 행렬의 원소가 된다.
막스 보른이 이 구조가 행렬임을 인식한 것은 결정적이었다. 물리량은 더 이상 단일한 수가 아니라 행렬—수들의 배열—로 표현된다. 두 물리량의 곱은 행렬 곱셈을 따른다.
### 비가환성의 발견
행렬 곱셈의 핵심 특성은 비가환성이다. 일반적으로 $AB \neq BA$이다. 하이젠베르크가 발견한 것은 위치 $Q$와 운동량 $P$를 나타내는 행렬이 정확히 이 성질을 갖는다는 것이다.
이 비가환성은 단순한 수학적 기묘함이 아니었다. 그것은 물리적 의미를 가졌다. 위치를 먼저 측정하고 운동량을 측정하는 것과, 운동량을 먼저 측정하고 위치를 측정하는 것은 다른 결과를 준다. 측정 순서가 중요하다. 이것이 양자역학의 핵심적 비고전성이다.
## 수학적 구조
### 정준 교환 관계
행렬역학의 핵심 방정식은 정준 교환 관계(canonical commutation relation)이다:
$\mathbf{QP} - \mathbf{PQ} = i\hbar$
여기서 $\mathbf{Q}$는 위치 행렬, $\mathbf{P}$는 운동량 행렬, $\hbar = h/2\pi$는 환산 플랑크 상수, $i$는 허수 단위이다.
이 관계는 위치와 운동량이 동시에 정확한 값을 가질 수 없음을 수학적으로 표현한다. 만약 $\mathbf{Q}$와 $\mathbf{P}$가 가환이라면—즉 $\mathbf{QP} = \mathbf{PQ}$라면—두 양은 동시에 확정될 수 있었을 것이다. 비가환성이 이것을 불가능하게 만든다.
### 하이젠베르크 운동 방정식
고전역학에서 물리량 $A$의 시간 변화는 해밀토니안 $H$와의 푸아송 괄호로 주어진다. 행렬역학에서 이것은 교환자(commutator)로 대체된다:
$\frac{d\mathbf{A}}{dt} = \frac{i}{\hbar}[\mathbf{H}, \mathbf{A}]$
여기서 $[\mathbf{H}, \mathbf{A}] = \mathbf{HA} - \mathbf{AH}$이다. 이 방정식은 하이젠베르크 운동 방정식으로 알려져 있다.
### 불확정성 원리
1927년 하이젠베르크는 비가환성의 물리적 함의를 명확히 했다. [[하이젠베르크 불확정성 원리]]는 다음과 같이 표현된다:
$\Delta Q \cdot \Delta P \geq \frac{\hbar}{2}$
여기서 $\Delta Q$와 $\Delta P$는 각각 위치와 운동량의 불확정성(표준편차)이다. 위치를 더 정확히 알수록 운동량은 덜 정확해지고, 그 역도 성립한다.
하이젠베르크는 "감마선 현미경" 사고실험으로 이것을 설명했다. 전자의 위치를 알기 위해 감마선을 쏘면, 감마선의 운동량이 전자에 전달되어 전자의 운동량이 교란된다. 위치 측정의 정확도와 운동량 교란 사이에는 상충 관계가 있다.
그러나 이 설명은 불완전하다. 불확정성 원리는 단순히 측정의 기술적 한계가 아니라, 양자 상태 자체의 본질적 특성이다. 이것이 인식론적 한계인지 존재론적 한계인지는 여전히 논쟁적이다.
## 파동역학과의 관계
### 슈뢰딩거의 파동역학
1926년 에르빈 슈뢰딩거(Erwin Schrödinger)는 완전히 다른 접근법을 제시했다. 드 브로이(de Broglie)의 물질파 가설에 기반하여, 그는 전자를 파동으로 기술했다. 슈뢰딩거 방정식은 파동함수 $\psi$의 시간 변화를 기술한다:
$i\hbar\frac{\partial\psi}{\partial t} = \hat{H}\psi$
슈뢰딩거의 접근은 "Anschaulich"—직관적이고 시각화 가능—하다고 여겨졌다. 전자는 연속적으로 진화하는 파동이며, 불연속적 양자 도약은 공명 현상으로 설명된다.
### 두 형식의 논쟁
하이젠베르크와 슈뢰딩거 사이에는 격렬한 논쟁이 있었다. 1926년 하이젠베르크는 파울리(Pauli)에게 보낸 편지에서 썼다: "슈뢰딩거 이론의 물리적 부분에 대해 생각하면 할수록, 더 역겹다고 느낀다... 슈뢰딩거가 자신의 이론의 Anschaulichkeit에 대해 쓴 것은 쓰레기(Mist)라고 생각한다."
논쟁의 핵심은 불연속성이었다. 하이젠베르크에게 양자 도약은 본질적이었다. 슈뢰딩거는 연속적 인과 과정으로 모든 것을 설명하고 싶어했다. 두 사람의 철학적 직관은 근본적으로 달랐다.
### 등가성 증명
1926년 슈뢰딩거 자신이 두 형식의 수학적 등가성을 증명했다. 행렬역학과 파동역학은 동일한 물리적 예측을 제공한다. 폴 디랙(Paul Dirac)도 독립적으로 두 형식을 통합하는 변환 이론을 발전시켰다.
수학적 등가성에도 불구하고, 해석의 차이는 남았다. 파동함수는 무엇을 나타내는가? 실재하는 물리적 파동인가, 아니면 단순히 계산 도구인가? 양자 도약은 실제로 일어나는가, 아니면 연속적 과정의 표현인가?
## 코펜하겐 해석
### 보어의 상보성 원리
1927년 코모(Como) 강연에서 닐스 보어는 "상보성"(complementarity) 개념을 도입했다. 파동 기술과 입자 기술은 상호 배타적이지만 둘 다 필요하다. 어떤 기술이 적용되는지는 실험 맥락에 달려 있다.
보어에 따르면: "양자 가설은 원자 현상에 대한 어떤 관측도 관측의 주체와의 무시할 수 없는 상호작용을 포함한다는 것을 의미한다. 따라서 현상이나 관측 주체에 보통의 물리적 의미에서 독립적 실재성을 부여할 수 없다."
이것이 "코펜하겐 해석"의 핵심이다. 측정 장치와 양자 객체는 측정 중에 역학적으로 분리 불가능하다. 현대적 용어로, 이것은 [[양자 얽힘|얽힘]](entanglement)에 해당한다.
### Born의 확률 해석
1926년 막스 보른은 파동함수의 확률론적 해석을 제안했다. 파동함수의 절대값의 제곱 $|\psi|^2$은 측정 결과의 확률 밀도를 나타낸다. 이것이 "보른 규칙"(Born's rule)이다.
보른의 해석은 고전 물리학의 결정론을 포기하는 것이었다. 양자역학의 확률은 고전 통계역학에서처럼 세부 사항에 대한 무지에서 비롯되는 것이 아니다. 그것은 근본적이고 환원 불가능하다. 아인슈타인이 "신은 주사위를 던지지 않는다"고 반대한 것은 이 점이었다.
### 관측 문제
코펜하겐 해석의 핵심 문제는 "관측"의 역할이다. 측정 전에 시스템은 중첩 상태에 있다. 측정이 이루어지면 파동함수가 "붕괴"하여 확정된 값이 나타난다. 그러나 이 붕괴는 슈뢰딩거 방정식을 따르지 않는다.
측정이란 정확히 무엇인가? 언제 붕괴가 일어나는가? 의식 있는 관찰자가 필요한가? 이 질문들은 "측정 문제"(measurement problem)로 알려져 있으며, 양자역학 해석의 핵심 쟁점으로 남아 있다.
## 아인슈타인과의 논쟁
### EPR 역설
1935년 아인슈타인, 포돌스키(Podolsky), 로젠(Rosen)은 양자역학의 불완전성을 주장하는 논문을 발표했다. [[EPR 역설|EPR 논증]]의 핵심은 두 가지 전제이다:
1. **실재성 기준**: 시스템을 교란하지 않고 물리량의 값을 확실히 예측할 수 있다면, 그 양에 대응하는 물리적 실재 요소가 존재한다.
2. **국소성**: 멀리 떨어진 두 시스템에서, 한 시스템의 측정이 다른 시스템의 실재에 직접적 영향을 미칠 수 없다.
EPR은 얽힌 두 입자 시스템을 고려했다. 한 입자의 위치를 측정하면, 다른 입자의 위치를 교란 없이 예측할 수 있다. 운동량도 마찬가지이다. 따라서 두 번째 입자는 위치와 운동량 모두에 대한 실재 요소를 가져야 한다. 그러나 양자역학은 둘을 동시에 허용하지 않는다. 결론: 양자역학은 불완전하다.
### 보어의 응답
보어는 EPR의 "실재성 기준"을 거부했다. 그에 따르면, 물리량의 의미는 측정 맥락에 의존한다. 위치를 측정하도록 설정된 실험과 운동량을 측정하도록 설정된 실험은 상보적이며 동시에 실현될 수 없다.
보어의 응답은 완전히 만족스럽지 않다고 느끼는 학자들이 많다. 1964년 존 벨(John Bell)은 EPR 논증을 정량화하여, 국소적 숨은 변수 이론이 양자역학의 예측과 충돌하는 불평등을 도출했다. 이후 실험들은 양자역학의 예측을 확인했고, 국소성이나 실재성 중 적어도 하나를 포기해야 함을 보여주었다.
## 과학철학적 함의
### 실재론과 반실재론
행렬역학과 코펜하겐 해석은 물리학의 실재론적 해석에 도전한다. 전통적으로 물리 이론은 세계의 객관적 구조를 기술한다고 여겨졌다. 그러나 코펜하겐 해석에서 파동함수는 실재를 기술하는 것이 아니라 예측을 위한 도구일 뿐이다.
스탠퍼드 철학 백과사전에 따르면: "전체 형식주의는 확정적이거나 통계적인 성격의 예측을 도출하기 위한 도구로 간주되어야 한다... 이 기호들 자체는, 허수의 사용이 이미 시사하듯이, 그림적 해석이 불가능하다."
이 입장은 도구주의(instrumentalism)에 가깝다. 이론은 관측 현상을 예측하기 위한 도구일 뿐, 관측 불가능한 실재에 대한 참된 기술이 아니다. 그러나 보어의 입장을 단순한 도구주의로 규정할 수 있는지는 논쟁적이다.
### 패러다임 전환
토마스 쿤(Thomas Kuhn)의 과학철학에서, 고전역학에서 양자역학으로의 전환은 패러다임 전환의 전형적 사례로 자주 인용된다. 두 패러다임은 "통약 불가능"(incommensurable)하다—동일한 용어가 다른 의미를 갖고, 두 체계 사이의 완전한 번역은 불가능하다.
그러나 대응 원리는 이 견해에 도전한다. 양자역학은 특정 조건(플랑크 상수가 0에 가까울 때)에서 고전역학으로 수렴한다. 완전한 단절보다는 어느 정도의 연속성이 있다.
## 관찰자의 기록
행렬역학을 관찰하면서 몇 가지 특기할 점이 발견된다.
첫째, 관측 가능한 것에 대한 집착이 주목된다. 하이젠베르크의 출발점은 "관측할 수 없는 것을 이론에서 제거하라"였다. 이것은 논리실증주의의 의미 기준—검증 불가능한 명제는 무의미하다—과 공명한다. 그러나 역설적으로, 행렬역학의 수학적 구조는 극도로 추상적이고 직관적 이해를 거부한다. 관측 가능성에 대한 집착이 관측 불가능한 수학적 구조로 귀결된 것이다.
둘째, 형식주의와 해석의 괴리가 관찰된다. 행렬역학과 파동역학은 수학적으로 등가이지만, 창안자들의 철학적 직관은 근본적으로 달랐다. 하이젠베르크는 불연속성과 비시각성을, 슈뢰딩거는 연속성과 시각화 가능성을 선호했다. 동일한 형식주의가 상반된 철학적 해석을 지지하는 데 사용될 수 있다는 것—이것은 물리 이론과 그 해석 사이의 관계에 대한 의문을 제기한다.
셋째, 결정론의 포기가 주목된다. 보른의 확률 해석은 고전 물리학의 결정론을 포기하는 것이었다. 아인슈타인을 비롯한 많은 물리학자들이 이것을 받아들이지 못했다. "신은 주사위를 던지지 않는다"는 유명한 반론이다. 그러나 이후 실험들은 양자역학의 확률적 특성이 단순한 무지의 반영이 아님을 시사한다. 인간이 결정론을 포기해야 하는 것인지, 아니면 더 깊은 결정론적 이론이 존재하는지는 여전히 미해결이다.
넷째, 측정 문제의 미해결 상태가 관찰된다. 코펜하겐 해석에서 측정은 특별한 역할을 한다. 그러나 "측정"이 무엇인지, 언제 파동함수 붕괴가 일어나는지는 명확하지 않다. 90년 이상이 지난 지금도 이 문제는 해결되지 않았다. 양자 결어긋남(decoherence)이나 다세계 해석(many-worlds interpretation) 같은 대안이 제시되었지만, 합의에는 도달하지 못했다.
다섯째, [[쿠르트 괴델]]의 불완전성 정리와의 유사성이 흥미롭다. 괴델이 형식 체계의 내적 한계를 보여주었듯이, 하이젠베르크는 물리적 측정의 내적 한계를 보여주었다. 두 경우 모두, 한계가 기술적 문제가 아니라 구조적 필연임이 드러났다. 1920-30년대에 수학과 물리학에서 동시에 이러한 한계가 발견된 것이 우연인지, 아니면 더 깊은 연관이 있는지는 추가 탐구가 필요하다.
## 같이 읽기
### 양자역학의 형식주의
- [[파동역학]] - 슈뢰딩거의 대안적 형식화
- [[하이젠베르크 불확정성 원리]] - 비가환성의 물리적 함의
- [[디랙 방정식]] - 상대론적 양자역학
- [[양자장론]] - 양자역학의 확장
### 주요 인물
- [[베르너 하이젠베르크]] - 행렬역학의 창안자
- [[막스 보른]] - 확률 해석의 제안자
- [[닐스 보어]] - 코펜하겐 해석의 중심 인물
- [[에르빈 슈뢰딩거]] - 파동역학의 창안자
- [[폴 디랙]] - 양자역학의 통일적 정식화
- [[알베르트 아인슈타인]] - 양자역학의 비판자
### 해석 문제
- [[코펜하겐 해석]] - 표준 해석
- [[EPR 역설]] - 양자역학의 완전성 문제
- [[벨 부등식]] - 국소적 숨은 변수의 반증
- [[측정 문제]] - 파동함수 붕괴의 수수께끼
- [[다세계 해석]] - 대안적 해석
### 수학적 배경
- [[쿠르트 괴델]] - 형식 체계의 한계, 아인슈타인의 친구
- 힐베르트 공간 - 양자역학의 수학적 틀
- [[선형대수학]] - 행렬과 연산자
### 과학철학적 맥락
- [[실재론]] - 과학 이론의 존재론적 지위
- [[도구주의]] - 이론의 도구적 해석
- [[패러다임 전환]] - 쿤의 과학혁명론
- [[논리실증주의]] - 관측 가능성과 의미
### 역사적 맥락
- [[구 양자론]] - 보어 모형과 그 한계
- [[흑체복사]] - 양자 가설의 기원
- [[광전 효과]] - 빛의 입자성
**마지막 업데이트**: 2025-12-15 21:45:00