자주 하는 실수와 요약
자주 하는 실수
| 실수 | 나온 문제 | 바로잡는 법 |
|---|---|---|
| 한 번 뽑고 그대로인 것을 모두 굳은 무질서로 봄 | 1 | 굳은 무질서는 에너지나 손실의 모양을 정하는 파라미터다. 가중치의 처음 값은 출발점일 뿐이다 |
| 결합이나 데이터를 뽑아 Z를 평균한 뒤 로그를 씌움 | 2, 3, 5, 14 | 드문 샘플이 평균을 끌어간다. 물리적인 값은 로그를 먼저 씌운 굳힌 평균이다 |
| 샘플을 늘리면 평균 Z에 닿는다고 봄 | 5 | 평균 Z²/(평균 Z)²가 지수적으로 크면 필요한 샘플도 지수적으로 많다 |
| 서로 무관하면 겹침이 늘 0이라고 봄 | 4 | 0은 평균일 뿐이고, 항목 N개면 겹침이 1/√N쯤 흔들린다 |
| 정수 n의 값 몇 개를 이어 n = 0을 어림함 | 6 | 정수 값만으로는 정해지지 않는다. 큰 N에서 n에 대한 식을 먼저 얻는다 |
| 사이 나쁜 쌍이 많을수록 좌절이 크다고 봄 | 7 | 고리를 따라 결합의 부호를 곱해 음수인지 본다 |
| 모든 복제본 쌍의 겹침이 같다고 둠 | 9 | 낮은 온도에서는 엔트로피가 음수가 된다. 골짜기가 여럿이면 겹침이 쌍마다 다르다 |
| 이웃 하나가 돌려보내는 작은 자기 영향을 무시함 | 10 | 이웃 하나가 돌려보내는 영향은 1/N이어도 이웃 N개를 더하면 1쯤 남는다 |
| 무작위 결합에 순진한 평균장을 씀 | 11 | 이웃을 거쳐 되돌아온 자기 영향(반작용 항)을 뺀다 |
| 기억 상태만 골짜기라고 봄 | 12 | 홀수 개 패턴의 섞기와 스핀 글래스 상태도 골짜기다 |
| 알고리즘이 못 푼 것을 해가 없는 것으로 봄 | 13, 14 | 해의 존재는 선형계획법이나 셈으로 따로 확인한다 |
요약
결합이나 데이터처럼 한 번 뽑히면 바뀌지 않는 굳은 무질서가 있는 계에서, 전형적인 계 하나를 알려 주는 것은 로그를 먼저 씌운 굳힌 평균이고, Z를 먼저 평균한 풀린 평균은 드문 샘플에 끌려가는 상한이다. 로그의 평균은 복제본 n개의 분배함수 평균 Zⁿ을 n에 대한 식으로 얻은 뒤 n → 0으로 보내 구하는데, 결합을 평균하면 복제본들이 겹침의 제곱으로 서로를 끌어당기는 계가 된다(레플리카 방법). SK 모델에서는 kT = 1 아래에서 복제본의 겹침이 0에서 벗어나 스핀 글래스가 되고, 에너지 지형이 e^(0.1992N)개의 골짜기로 쪼개진다. 모든 쌍의 겹침이 같다는 레플리카 대칭 해는 낮은 온도에서 음의 엔트로피를 주며, 파리시의 레플리카 대칭 깨짐이 이를 바로잡는다. 결합 하나가 주어진 계에서는 순진한 평균장에서 반작용 항을 뺀 TAP 방정식이 스핀마다의 평균 방향을 준다. 홉필드 네트워크의 용량 0.138N, 퍼셉트론의 외우기 경계 2N과 여유에 따른 경계, 교사–학생 설정의 일반화 오차, 근사 메시지 전달의 온사거 반작용 항이 모두 이 계산 위에 서 있다.