서문
표기법에 대하여
이 교재에서 수식은 최소한으로 사용된다. 대신 파이썬 코드가 수식의 역할을 한다. 그러나 장이 진행될수록, 코드 옆에 대응하는 수학적 표기를 병기한다.
수식을 처음 만나는 부담을 덜기 위해 모든 수식은 같은 방식으로 적었다. 수식 안의 기호에만 색을 입히고, 수식 바로 아래에 그 식의 기호 표를 단다. 색은 글자가 아니라 개념을 따른다. 같은 개념은 책 전체에서, 그리고 인터랙티브 위젯에서도 같은 색이다. 같은 글자라도 뜻이 다르면 색이 다르다. 첨자 i 같은 번호와 log·𝔼 같은 연산 기호만 색 없이 두고, 기호 표에 줄이 있는 기호는 모두 색을 입혔다. 한 절에서만 잠깐 쓰는 기호는 그 절 안에서만 통하는 보조색을 쓴다.
다음은 교재 전체에서 반복적으로 등장하는 핵심 기호와 그 색이다.
pq, ππrefθημ, σ, wFF∗ft(x)HKLI, gα, ∇Kxzv∇xlogprβℓLtn, Nd, dsa, bylrσt, g(t)M현실⋅데이터 분포모형⋅근사 분포, 정책기준⋅사전 분포자연모수 (e-측지선, e-사영)기대모수 (m-측지선, m-사영)일반 모수(분포를 정하는 숫자)⋅좌표 (일반 모수로 쓰인 θ 도 이 색)로그정규화자 (합이 1이 되게 나누는 수의 로그)르장드르 변환 (쌍대 퍼텐셜)일반 볼록함수충분통계량엔트로피, 교차엔트로피KL 발산과 그 밖의 발산피셔 정보, 피셔 계량접속을 고르는 값, 접속(무엇을 곧은 길로 볼지 정하는 규칙)곡률데이터 표본잠재변수, 노이즈속도장데이터에 대한 스코어보상온도, KL 계수로그우도(모형이 관측에 준 확률의 로그), ELBO(로그우도의 아래 경계)손실과 그 기울기시간, 보간 비율개수, 표본 수거리, 한 걸음의 길이공간의 점, 길의 두 끝점관측, 답변, 출력학습률노이즈 스케줄, 확산 계수분포의 모임 (모형 집합)
이 교재에서 p는 언제나 "현실"이고 q는 언제나 “지도”(모형)다. 이 약속은 3장(거리)에서 처음 등장한다.
이 표를 외울 필요는 없다. 각 기호는 처음 등장하는 장에서 충분한 직관과 함께 도입되며, 이후 반복적으로 사용되면서 자연스럽게 익숙해진다. 색이 먼저 눈에 익고, 기호는 그다음에 따라온다.
2026년, 서울에서
덧셈의 길과 곱셈의 길 사이 어딘가에서