서문
표기법에 대하여
이 교재에서 수식은 최소한으로 사용되고 대신 파이썬 코드가 수식의 역할을 하지만, 장이 진행될수록 코드 옆에 대응하는 수학적 표기를 병기한다.
수식을 처음 만나는 부담을 덜기 위해 모든 수식은 같은 방식으로 적어서, 수식 안의 기호에만 색을 입히고 수식마다 바로 아래에 기호 표를 단다. 색은 글자가 아니라 개념을 따르므로, 같은 개념은 책 전체에서, 그리고 인터랙티브 위젯에서도 같은 색이고 같은 글자라도 뜻이 다르면 색이 다르다. 첨자 i 같은 번호와 log·𝔼 같은 연산 기호만 색 없이 두고, 기호 표에 줄이 있는 기호는 모두 색을 입혔다. 한 절에서만 잠깐 쓰는 기호는 그 절 안에서만 통하는 보조색을 쓴다.
다음은 교재 전체에서 반복적으로 등장하는 핵심 기호와 그 색이다.
pq, ππrefθημ, σ, wFF∗ft(x)HKLI, gα, ∇Kxzv∇xlogprβℓLtn, Nd, dsa, bylrσt, g(t)M현실⋅데이터 분포모델⋅근사 분포, 정책기준⋅사전 분포자연 파라미터 (e-측지선, e-사영)기댓값 파라미터 (m-측지선, m-사영)일반 파라미터(분포를 정하는 숫자)⋅좌표 (일반 파라미터로 쓰인 θ 도 이 색)로그정규화자 (합이 1이 되게 나누는 수의 로그)르장드르 변환 (쌍대 퍼텐셜)일반 볼록함수충분통계량엔트로피, 크로스 엔트로피KL 발산과 그 밖의 발산피셔 정보, 피셔 계량접속을 고르는 값, 접속(무엇을 곧은 길로 볼지 정하는 규칙)곡률데이터 샘플잠재변수, 노이즈속도장데이터에 대한 스코어보상온도, KL 계수로그우도(모델이 관측에 준 확률의 로그), ELBO(로그우도의 아래 경계)손실과 그 그래디언트시간, 보간 비율개수, 샘플 수거리, 한 걸음의 길이공간의 점, 길의 두 끝점관측, 답변, 출력학습률노이즈 스케줄, 확산 계수분포의 모임 (모델 집합)
이 교재에서 p는 언제나 "현실"이고 q는 언제나 “지도”(모델)인데, 이 약속은 3장(거리)에서 처음 등장한다.
각 기호는 처음 등장하는 장에서 충분한 직관과 함께 도입되고 이후 반복적으로 사용되면서 자연스럽게 익숙해지므로, 이 표를 외울 필요는 없다. 색이 먼저 눈에 익고, 기호는 그다음에 따라온다.
2026년, 서울에서
m-측지선과 e-측지선 사이 어딘가에서