자발적 대칭 깨짐: 규칙은 대칭인데 계는 한쪽을 고른다
임계점 아래의 계에는 이상한 점이 하나 남는다. 에너지는 모든 스핀을 뒤집어도 변하지 않으므로 분포도 m과 −m을 똑같이 대접한다. 그렇다면 식힌 자석은 왜 위와 아래를 반씩 섞지 않고 한쪽으로 자화되어 있을까?
두 봉우리 사이의 골짜기
실제로 관찰되는 계는 +0.86 근처나 −0.86 근처 가운데 한쪽에만 있다. 두 봉우리 사이의 0 근처는 스핀 1000개에서도 봉우리보다 약 e^115배 드물어서, 한쪽 봉우리에 들어간 계가 다른 쪽으로 건너가려면 그 드문 배치들을 지나야 하기 때문이다. 이렇게 규칙은 대칭인데 계가 그 대칭을 따르지 않는 상태에 머무는 것을 자발적 대칭 깨짐 (규칙은 대칭인데 계가 한쪽을 골라 머무는 것, spontaneous symmetry breaking)이라 한다. 쇠붙이 자석을 퀴리 온도 위로 달구면 자화가 사라지고, 식히면 어느 방향으로든 다시 자화되는 것이 이 현상이다. 어느 방향이 될지는 식는 동안 걸려 있던 아주 작은 편향이나 우연이 정한다.
ML에서: 샘플러가 한쪽 봉우리에 갇힌다
에너지 기반 모델에서 샘플을 뽑을 때는 흔히 깁스 샘플링이나 메트로폴리스 방법 같은 마르코프 사슬(Markov chain, 지금 상태를 조금씩 바꿔 가며 샘플을 잇달아 뽑는 방법)을 쓰는데, 대칭이 깨지는 자리 아래에서는 이것이 막힌다. 앞의 스핀 100개에서 스핀 하나씩 뒤집기를 시도하는 메트로폴리스 샘플러를 돌리고, 스핀 수만큼 시도하는 것을 한 번의 훑기라 하자. 자화의 부호가 바뀐 횟수를 세면 βJ = 1.1에서는 2만 번의 훑기 동안 730번이지만 1.2에서는 182번으로 줄고, 1.5에서는 10만 번을 훑어도 한 번도 없다. 두 봉우리 사이의 골짜기가 봉우리보다 약 e^12배 드물어서, 사슬이 한쪽 무리에 갇혀 다른 무리를 보지 못하는 것이다. 이렇게 갇힌 사슬의 샘플로 평균을 내면 무엇이 틀어지고 무엇은 괜찮을까? 아래 문제 9에서 따져 보자.
문제 7. 세워 둔 연필
연필 한 자루를 책상에 똑바로 세웠다가 손을 떼는 일을 1000번 했더니, 왼쪽(−1)으로 쓰러진 것이 503번, 오른쪽(+1)으로 쓰러진 것이 497번이었다. (가) 쓰러진 방향의 평균은 얼마인가? (나) 이번에는 연필을 한 번만 세웠다 쓰러뜨리고, 그대로 둔 채 한 시간 동안 1분마다 방향을 적었다. 이 60개 기록의 평균은 얼마일까? (다) 두 평균이 다른 까닭은 무엇인가?
(가)는 (497 − 503)/1000 = −0.006이니까 거의 0이에요. 연필은 어느 쪽으로든 똑같이 쓰러지니까 (나)도 0 근처겠죠.
한 시간 지켜보는 동안 연필이 반대쪽으로 넘어간 적이 있을까요?
아, 한번 쓰러지면 그대로 누워 있죠. 처음에 오른쪽으로 쓰러졌으면 60개가 전부 +1이라 평균이 +1이고, 왼쪽이면 −1이에요. 0은 한 번도 안 나와요.
(가)는 연필을 매번 새로 세워서 모은 평균이고, (나)는 한 번 쓰러진 연필을 오래 본 평균이네요. 세우는 규칙은 좌우가 대칭이라 (가)는 0으로 가는데, 쓰러진 연필은 다시 일어나 반대편으로 갈 수 없으니까 (나)는 ±1에 머물러요.
그래요. 규칙이 대칭이라는 건 여러 번 새로 시작했을 때의 이야기예요. 한 번 고른 쪽에 머무는 계를 오래 지켜본 값은 그 대칭을 보여 주지 않아요.
친구 한 명이 한 학기 내내 강의실 왼쪽에만 앉는 걸 보고, 그 강의를 듣는 학생들이 왼쪽 자리를 좋아한다고 보고서에 쓰면 안 되는 거네요.
문제 8. 편향을 걸면
완전 연결 이징 모형의 βJ = 1.5에서 모든 스핀에 같은 편향 b를 건다. (가) βb = 0.001, 0.01일 때 N = 100, 1000, 10000의 ⟨m⟩을 구하라. (나) 스핀 하나당 점수를 H((1 + m)/2) + βJm²/2로 적으면, 큰 N에서 (1/N)ln Z는 m에 대해 (점수 + βbm)의 최댓값이다. 이것을 m의 함수로 되돌리면 원래 점수가 나오는가? (다) 되돌린 함수가 원래 점수와 다른 곳에서 계는 실제로 어떤 상태인가? (풀어 본 뒤 아래 위젯 4의 「문제 8 불러오기」로 (가)의 값을 확인해 보자.)
(나)는 쉬워요. ln Z를 βb의 함수로 본 건 점수의 르장드르 변환이고, 한 번 더 변환하면 원래 점수가 돌아오잖아요.
나는 (가)를 돌렸어. βb = 0.001이면 ⟨m⟩이 N = 100에서 0.072, 1000에서 0.597, 10000에서 0.859야. 0.01이면 0.590, 0.862, 0.863이고. N이 크면 아주 작은 편향만 걸어도 0.86 근처로 확 올라가.
편향을 반대로 걸면요?
대칭이니까 −0.86 근처로 가겠죠. 그럼 N이 한없이 크면 ⟨m⟩은 b = 0에서 −0.859에서 +0.859로 뛰는 계단이네요.
서연 학생, 그 계단을 거꾸로 변환하면 무엇이 나올까요?
기울기가 m이 되는 함수를 찾는 거니까… ⟨m⟩이 −0.859와 0.859 사이의 값을 한 번도 갖지 않으니, 되돌린 함수는 그 사이에서 곧은 선이에요. 그런데 원래 점수는 m = 0에서 ln 2 = 0.6931이고 ±0.8586에서 0.8083이라 가운데가 움푹 들어가 있어요. 되돌리면 움푹한 곳이 0.8083 높이의 평평한 선으로 메워지네요. 두 번 변환하면 원래 함수가 아니라 그걸 위에서 덮는 오목 껍질이 나와요. 오목하지 않으면 돌아오지 않는다는 걸 또 잊었네요.
그 곧은 선 위의 상태는 실제로 무엇일까요? m = 0인데 점수는 0.8083인 상태요.
스핀들이 제각각인 상태는 점수가 0.6931이니까 아니고… 일부는 +0.86 무리, 나머지는 −0.86 무리로 나뉜 상태를 섞은 거예요. 두 무리의 점수가 같으니까 섞는 비율을 바꿔도 점수가 그대로고요.
격자 위의 진짜 자석에서는 이게 위로 자화된 구역과 아래로 자화된 구역이 나란히 있는 모습이에요. 끓는 물에서 물과 김이 섞여 있는 동안 온도가 그대로인 것과 같은 구조죠. 모든 쌍이 묶인 계에는 공간이 없어서 구역으로 나뉘지 못하고, 대신 m = 0 근처의 배치가 드물어질 뿐이에요. 스핀 100개에서 그 드문 정도가 e^12.2배였고요.
아까 제가 열용량 봉우리를 끓는 물이랑 같이 본 게 틀린 이유가 이거네요. 끓는 물은 물과 김, 두 모습을 섞는 쪽이었어요. 섞는 동안에는 열을 넣어도 온도가 안 올라가는 거고요.
문제 9. 한쪽 봉우리에 갇힌 샘플러
스핀 100개의 완전 연결 이징 모형(βJ = 1.5, 편향 없음)에서 메트로폴리스 샘플러를 모든 스핀이 위(+1)인 배치에서 출발시켜 1만 번 훑었다. 표본에서 낸 평균 방향 m의 평균은 0.848, m²의 평균은 0.724였다. (가) 두 값 가운데 믿을 수 있는 것은 무엇인가? 정확히 센 ⟨m⟩, ⟨m²⟩와 견주라. (나) 모든 스핀에 아래쪽으로 작은 편향 βb = −0.02를 걸고 같은 샘플러를 위에서 출발시키면 m의 평균은 0.838이다. 정확히 센 ⟨m⟩은 얼마인가?
1만 번이나 훑었으니까 표본 평균을 믿어야죠. ⟨m⟩ = 0.848, ⟨m²⟩ = 0.724요.
편향이 없으면 모든 스핀을 뒤집어도 에너지가 같으니까 m과 −m의 확률이 같아. ⟨m⟩은 정확히 0이어야 해. 이 사슬은 위쪽 봉우리만 봤으니까, 이 표본으로 낸 값은 m²도 못 믿겠네.
m²은 위쪽 봉우리와 아래쪽 봉우리에서 각각 어떤 값이죠?
m을 −m으로 바꿔도 m²은 그대로니까… 두 봉우리에서 같아요. 그럼 절반만 봐도 m²의 평균은 맞겠네요.
위를 향한 스핀 수로 묶어 정확히 세 보니까 ⟨m²⟩ = 0.7245예요. 표본의 0.724랑 맞아요. 대신 ⟨m⟩은 0인데 표본은 0.848이고요. 0.848은 사실 봉우리 하나 안의 평균, 곧 ⟨|m|⟩이네요.
그럼 (나)요. 편향이 있어도 두 봉우리는 대칭일까요?
편향이 아래쪽이니까 아래쪽 봉우리가 더 무거워져요. 정확히 세면 ⟨m⟩ = −0.803인데 사슬은 +0.838이라고 해요. 부호부터 틀렸어요!
편향은 −0.02로 작아도 스핀 100개가 모두 받으니까 두 봉우리의 무게가 크게 벌어지는 거야. 그런데 사슬은 처음 떨어진 위쪽 봉우리를 못 떠나니까, 무거운 쪽이 어디인지 알 길이 없지.
대칭인 양을 물을 때는 갇힌 사슬도 맞는 값을 주지만, 편향이 봉우리의 무게를 바꾸면 갇힌 사슬은 어느 쪽이 무거운지 모른 채 처음 떨어진 쪽의 평균을 내놓아요. 데이터에 맞춰 편향과 결합을 함께 배우는 모델이 모델 쪽 평균을 이런 사슬로 내면 바로 이 일이 벌어져요.
아까 연필이랑 같네요. 쓰러진 연필 하나를 오래 지켜본 평균이 사슬 하나의 평균이었어요. 설문을 한 반에서만 받아 놓고 학교 전체 평균이라고 보고서에 쓴 거랑도 같고요.