에필로그
정보기하학과 열역학
르장드르 변환은 6장(볼록함수의 쌍대)과 7장(지수족)에서 쌍대 좌표를 연결하는 다리였다.
이름의 주인 르장드르(Adrien-Marie Legendre)는 1787년, 최소곡면 문제에서 나온 편미분방정식을 풀다가 이 변환을 썼다.
그 변환이 가장 유명하게 자리 잡은 곳이 열역학이다.
열역학에서 짝을 이루는 것은 온도와 엔트로피 (T, S), 압력과 부피 (P, V) 같은 켤레 변수다.
내부에너지 U 에서 엔트로피를 온도로 바꿔 쥐는 것이 르장드르 변환이다.
FH=U−TST=∂S∂U
FHUT, S∂U/∂S헬름홀츠 자유에너지내부에너지 (엔트로피와 부피의 함수)온도와 엔트로피, 켤레 짝부피를 고정한 편미분
7장(지수족)의 F(θ) 와 F*(η) 사이의 관계와 같은 모양이다. 기울기가 새 변수가 된다.
그리고 이것은 닮음 이상이다.
볼츠만 분포 p(x) ∝ e−E(x)/T 는 에너지를 충분통계량(분포가 데이터에서 보는 유일한 값)으로 하는 지수족이고,
그 로그정규화자(합을 1로 맞추는 수의 로그) log Z 가 곧 자유에너지(에 −1/T 를 곱한 것)다.
16장(넓히기와 좁히기)의 π* ∝ πref er/β 에서 β 를 "온도"라 부르는 것도 우연이 아니다.
학습을 열역학의 언어로 끝까지 읽을 수 있을까.
16장(넓히기와 좁히기)의 에피플렉시티는 "계산이 제한된 관찰자"라는 제약을 정보의 정의 안에 넣은 시도였다.
그 제약을 에너지와 비가역성의 언어로 밀고 나가면 어떤 풍경이 나올지는
아직 이 지도에 적혀 있지 않다.