부분 하나가 볼츠만 분포를 따른다면, 위치와 운동량을 함께 가진 연속 상태의 계에서 그 분포는 어떤 모양일까?
역사: 맥스웰의 속도 분포
맥스웰은 1860년, 기체 분자들이 수없이 부딪힌 뒤 속도가 어떻게 퍼져 있는지를 물으며, 속도의 세 성분이 서로 독립이고 분포가 방향에 따라 달라지지 않는다는 가정만으로 각 속도 성분이 정규분포를 따른다는 것을 보였다. 분자들의 충돌을 직접 따져 같은 분포에 다시 이른 것은 1867년 논문에서다. 뒤에 볼츠만이 외부 힘이 있는 경우로 넓힌 분포도 운동에너지만 남기면 이 분포로 돌아온다. 아래에서는 속도 쪽과 위치 쪽이 한 식에서 함께 나오는 것을 본다.
제임스 클러크 맥스웰(1831–1879). G. J. 스토다트의 판화, 1882년 전기 『The Life of James Clerk Maxwell』 수록. 출처: Wikimedia Commons, 퍼블릭 도메인
지수함수가 곱으로 쪼개진다
연속 상태의 경우의 수는 위상공간의 부피로 세므로, 온도 T인 열원과 맞닿은 계의 볼츠만 분포는 위상공간의 확률밀도로 적힌다. 해밀토니안이 운동에너지와 위치에너지의 합이면 지수함수가 곱으로 쪼개진다.
곱으로 쪼개진다는 것은 위치와 운동량이 서로 독립이라는 뜻이다. 운동량 쪽은 성분마다 분산이 mkT인 정규분포, 속도로 바꾸면 분산이 kT/m인 정규분포이고, 이것이 맥스웰의 속도 분포다. 실온인 300K에서 공기의 대부분을 이루는 질소 분자(분자 하나의 질량 약 4.65 × 10⁻²⁶kg)라면, √(kT/m)에 넣은 속도 한 성분의 표준편차가 약 298m/s다. 이 분포에는 위치에너지가 들어 있지 않으므로 분자가 산꼭대기에 있든 골짜기에 있든 같은 온도라면 속도 분포는 같다. 거꾸로 위치 쪽 분포 e^(−βU(q))에는 운동에너지 쪽의 질량이 들어오지 않아서, 어디에 있을지는 위치에너지와 온도만으로 정해진다.
실온 300K와 그 네 배인 1200K에서 질소 분자의 속도 한 성분의 분포. 둘 다 평균 0인 정규분포이고, 표준편차 √(kT/m)는 298m/s와 597m/s로 온도가 네 배가 되면 두 배가 된다. 이 분포에는 위치에너지가 들어 있지 않아서, 같은 온도라면 산꼭대기의 분자도 골짜기의 분자도 같은 곡선을 따른다
문제 10. 표준정규분포의 분배함수
d차원 표준정규분포 N(0, I)를 에너지 E(x) = ‖x‖²/2, 온도 T = 1인 볼츠만 분포로 보자. (가) 분배함수 Z와 원점의 확률밀도를 구하라. (나) 생성 모델에서 샘플을 깔끔하게 하려고 표준정규 노이즈에 0.7을 곱해 뽑곤 한다. 같은 에너지 E(x) = ‖x‖²/2로 보면, 이것은 온도가 얼마인 볼츠만 분포에서 뽑는 셈인가?
김민준
원점은 에너지가 0이니까 볼츠만 인자가 e⁰ = 1이고, 그러니까 원점의 밀도는 1이에요. 정규분포는 원래 정규화돼 있으니까 Z = 1이고요.
이서연
1차원 표준정규분포의 원점 밀도는 0.399야. 교과서 그림에서 봉우리가 0.4 근처잖아. 1이 아니야.
선생님
민준 학생은 볼츠만 인자를 확률로 읽었어요. 선거에 빗대 볼게요. 후보마다 받은 표 수를 알아도 총 투표수를 모르면 득표율은 말할 수 없죠. 볼츠만 인자는 득표수, Z는 총 투표수, 확률은 득표율이에요.
김민준
그럼 1차원에서 Z = ∫e^(−x²/2)dx = √(2π) ≈ 2.507이고, 원점 밀도는 1/2.507 = 0.399네요. d차원은 좌표마다 곱이 되니까 Z = (2π)^(d/2)이고, d = 100이면 8.1 × 10³⁹, ln Z = 91.9예요. 1이랑은 거리가 한참 머네요.
이서연
「정규분포는 이미 정규화돼 있다」는 건 앞에 1/√(2π)가 붙어 있을 때 얘기였고, 그 1/√(2π)가 바로 1/Z였던 거구나.
선생님
이제 (나)예요. 노이즈에 0.7을 곱하면 온도는요?
김민준
0.7을 곱했으니까 온도가 0.7로 내려간 거죠.
이서연
온도를 T로 두면 볼츠만 인자가 e^(−‖x‖²/(2T))니까 좌표마다 분산이 T인 정규분포, 곧 N(0, T·I)이고 Z = (2πT)^(d/2)예요. 분산이 곧 온도네요. 0.7을 곱하면 표준편차가 0.7이니까 분산, 곧 온도는 0.49야.
김민준
표준편차랑 분산을 헷갈렸네요. 생성 모델 과제에서 샘플이 지저분하면 0.7을 곱하라고만 배웠는데, 온도를 절반쯤으로 낮춘 거였어요. 그런데 선생님, 이상한 게 있어요. 볼츠만 분포에서 확률이 제일 높은 상태는 에너지가 제일 낮은 원점이잖아요. 그런데 고차원 가우시안 샘플은 원점 근처가 아니라 반지름 √d 껍질에 있었어요. 에너지로 치면 거의 d/2요.
