혼동하기 쉬운 점과 요약
토론 1. 곱의 평균이 0이면 두 신호는 아무 상관이 없나
cos t 와 cos 2t 는 한 주기 위의 내적이 0 이다. cos t 의 값을 알면 cos 2t 에 대해 아무것도 알 수 없는가?

cos t와 cos 2t의 곱은 한 주기 위에서 넓이가 0이었죠. 그럼 cos t의 값을 알려 주면 cos 2t에 대해 무엇을 알 수 있을까요?

곱의 평균이 0이니까 둘은 상관이 없는 거잖아요. cos t를 알아도 cos 2t는 아무 값이나 될 수 있겠죠.

잠깐, cos 2t = 2cos² t − 1이잖아. cos t가 0.5면 cos 2t는 2 × 0.25 − 1 = −0.5로 딱 정해져.

어, 그러네. 하나를 알면 다른 하나가 전부 정해지는데 곱의 넓이는 0이라고?

문제 1의 전등에서 곱의 평균 0이 무엇을 셌는지 떠올려 볼까요?

같은 때가 +1, 엇갈린 때가 −1이라서, 같은 때와 엇갈린 때가 반씩이면 0이었어요.

cos t가 0.9일 때나 −0.9일 때나 cos 2t는 똑같이 2 × 0.81 − 1 = 0.62야. cos t의 부호가 바뀌어도 cos 2t는 그대로니까, 곱하면 양수 쪽과 음수 쪽이 같은 크기로 나와서 지워져. 관계가 딱 정해져 있어도 한쪽이 커질 때 다른 쪽도 같이 커지는 관계가 아니면 곱의 평균에는 안 잡히는 거야.

그래요. 곱의 평균 0은 「아무 상관이 없다」가 아니라 「같은 때와 엇갈린 때가 반씩」이라는 뜻이에요. 그리고 한 주기를 다 볼 때만 그래요. 문제 1에서 3초만 보면 −1/3이 나왔죠.

내적이 0이면 서로 직교해서 한쪽 가중치가 다른 쪽을 안 건드린다는 거지, 서로 모른다는 게 아니었네요.
토론 2. 주파수 칸에 0을 채워 키우면 늘 가장 정확한 확대인가
칸 8 개짜리 신호 둘, 한 주기 코사인 cos(2πn/8) 과 앞 4 칸 0·뒤 4 칸 1 인 계단을 주파수 칸에 0 을 채워 칸 32 개로 키운다. 어느 쪽이 원래 모양을 정확히 되살리는가?

주파수 칸에 0을 채워 키우는 방법을 흔히 「이상적인」 확대라고 불러요. 이름대로 늘 가장 정확할까요?

원래 계수는 그대로 쓰고 높은 주파수는 하나도 안 보태니까 새로 지어내는 게 없잖아요. 그러면 어떤 신호든 가장 정확한 확대 아닐까요?

둘 다 돌려 볼게. 코사인은 32칸이 cos(2πm/32)와 10⁻¹⁶ 안쪽으로 같아. 계단은 가장 밝은 값이 1.153, 가장 어두운 값이 −0.153이야.

계단은 0과 1 사이만 오가는데 그 밖으로 넘쳤네. 방법은 같은데 코사인은 맞고 계단은 틀렸으면, 뭐가 달랐던 거지?

칸 8개짜리 코사인과 계단을 각각 끝없이 촘촘한 원래 모양으로 그리려면 높은 주파수가 얼마나 필요할까요?

코사인은 주파수 1 하나면 끝이에요. 계단은 끊긴 곳이 있어서 높은 주파수가 끝없이 있어야 해요. 그런데 0을 채웠다는 건 그 높은 주파수가 없다고 본 거고요.

그럼 「정확하다」는 건 높은 주파수가 정말 없는 신호에서만이네. 문제 9의 계단에서 13.76% 넘친 것도 그거고.

새로 지어내는 게 없다는 것 자체가 「높은 주파수는 없다」는 가정이었어. 계단 신호에는 높은 주파수가 끝없이 있으니까, 그렇게 키우면 끊긴 곳 옆 테두리가 넘쳐.
혼동하기 쉬운 점
| 혼동하기 쉬운 생각 | 바른 생각 | 나온 문제 |
|---|---|---|
| 두 신호의 곱의 평균이 0 이면 둘은 아무 상관이 없다 | 같은 때와 엇갈린 때가 반씩이라는 뜻이고, 한 주기를 다 볼 때만 성립한다. 3초만 보면 −1/3 이 된다 | 토론 1 |
| 주파수가 다르면 어느 구간에서든 내적이 0 이다 | 한 주기 위에서, 두 물결이 둘 다 정수 번 반복될 때만 0 이다. 반 주기에서는 4/3, cos 1.5t 와는 2.400 | 문제 2 |
| 특징을 더하면 이미 있던 가중치가 다시 피팅된다 | 특징끼리 서로 직교하면 XᵀX 가 대각이라 가중치가 따로 정해지고, 더해도 바뀌지 않는다 | 문제 3 |
| 계수는 축과의 내적 그대로다 | 축 길이의 제곱으로 나눠야 한다. 상수 축은 2π, 코사인·사인은 π 라서 a₀ 를 반으로 적는다 | 문제 4 |
| 파형을 옮기면 계수가 완전히 달라진다 | 같은 주파수 안에서 사인 계수와 코사인 계수 사이로 크기가 넘어갈 뿐, 주파수마다의 세기는 그대로다 | 문제 5 |
| 내적으로 구한 계수는 회귀로 구한 계수와 늘 같다 | 자료가 정수 주기를 고르게 덮을 때만 같다. 1.5 년치에서는 b₁ 의 부호까지 틀린다 | 문제 6 |
| 깁스 현상의 9% 는 함숫값의 9% 다 | 끊긴 곳에서 뛴 높이의 0.0895 다. 20 °C → 26 °C 면 0.537 °C | 문제 7 |
| 항을 늘리면 넘침이 줄어든다 | 높이는 그대로이고 폭만 좁아진다. 제곱 오차는 0 으로 가도 가장 큰 차이는 줄지 않는다 | 문제 7 |
| 모서리(꺾인 곳)에서도 9% 넘친다 | 깁스 현상은 값이 끊긴 곳에서만 생긴다. 삼각파는 넘치지 않고 1/k² 로 빨리 맞는다 | 문제 8 |
| 높은 주파수를 0 으로 채워 키우는 것이 가장 정확한 확대다 | 계단 신호에는 높은 주파수가 끝없이 있어, 그렇게 키우면 테두리가 넘친다 | 토론 2 |
| 테일러 차수를 올리면 더 멀리까지 맞는다 | 수렴 반경 안에서만 그렇다. g 는 실수 위에서 매끄러워도 |t| > 0.693 에서는 차수를 올릴수록 벗어난다 | 문제 10 |
| 1/k 로 주는 계수도 몇십 개면 충분하다 | 오차의 RMS 가 1/√K 로만 줄어, RMS 0.01 에 주파수 4053 까지 든다 | 문제 11 |
| 로그-로그 기울기가 가파르면 큰 거듭제곱으로 주는 것이다 | 기울기가 범위에 따라 계속 가팔라지면 거듭제곱보다 빠른 e^(−ρk) 형태다 | 문제 12 |
| 소리가 짧을수록 스펙트럼도 좁게 모인다 | 거꾸로 넓게 퍼진다. 폭 L 로 자른 물결의 봉우리는 처음 0 까지 2π/L(Hz 로는 1/L)이라, 60 ms 점은 ±16.7 Hz, 180 ms 선은 ±5.6 Hz 다 | 문제 13 |
| 필터를 길게 자를수록 주파수 응답의 넘침이 준다 | 넘침은 뛴 높이의 9% 가까이에서 줄지 않고 폭만 좁아진다(주파수에서 본 깁스 현상). 해밍 윈도우를 곱해야 준다 | 문제 15 |
요약
값이 이어진 주기 함수도 한 주기 위에서 서로 직교하는 사인·코사인 물결로 적히고 계수는 축마다 내적 한 번으로 구하지만, 물결이 몇 개 필요한지는 함수의 매끄러움이 정한다. 끊긴 곳이 있으면 계수가 1/k로 느리게 줄어 잘라 낸 자리에 뛴 높이의 9% 정도 넘침이 남고(JPEG 사진 테두리의 얼룩), 어디서나 매끄러우면 계수가 지수로 줄어 몇 개로 충분하다. 주기를 끝없이 늘리면 한 번 울리는 소리도 같은 방법으로 적히고, 짧게 끊긴 소리일수록 스펙트럼이 넓게 퍼진다.
- 직교 기저: 한 주기 위의 내적(곱의 넓이)으로 측정하면 1, cos kt, sin kt(k = 1, 2, …)는 서로 직교한다. 축의 길이 제곱은 상수가 2π, 나머지가 π다. 「한 주기 위에서」, 「정수 주파수」라는 단서가 빠지면 직교가 깨진다.
- 푸리에 급수: 주기 함수를 이 축들로 적은 것. 계수는 aₖ = (1/π)∫ f cos kt dt, bₖ = (1/π)∫ f sin kt dt로 축마다 내적 한 번에 하나씩 구한다. 사각파는 홀수 k에서 bₖ = 4/(πk).
- 깁스 현상: 끊긴 곳 옆에서 부분합이 뛴 높이의 0.0895만큼 넘치고, 항을 늘려도 높이는 그대로이고 폭만 좁아지므로, 제곱 오차는 0으로 가도 가장 큰 차이는 남는다. 꺾인 곳에서는 생기지 않는다.
- 매끄러움과 계수: 끊긴 곳이 있으면 1/k, 꺾인 곳이 있으면 1/k², 어디서나 매끄러우면 e−ρk로 준다. 테일러 전개는 한 점 근처를 그 점의 미분으로 근사하고 수렴 반경 밖에서는 쓸 수 없으며, 푸리에 급수는 한 주기 전체를 고르게 맞춘다.
- 푸리에 변환: 한 번만 울리는 신호를 주기가 끝없이 긴 신호로 보면 계수 막대가 촘촘해지며 한 곡선(스펙트럼)에 붙고, 합이 적분이 된다. 상자의 변환은 sin x/x 형태(sinc), 가우스의 변환은 다시 가우스이고, 시간에서 늘이면 주파수에서 좁아진다. 물결에 윈도우를 곱하면 봉우리가 윈도우의 스펙트럼 모양으로 번지고(시간의 곱 = 주파수의 합성곱), 자기상관과 파워 스펙트럼은 서로의 푸리에 변환이다(위너–힌친 정리).
- ML에서는 직교하는 특징이 서로의 가중치를 건드리지 않고, 시계열 라이브러리가 계절 성분을 푸리에 급수로 적으며, JPEG·업샘플링의 링잉이 깁스 현상이고, ReLU 신경망과 tanh 신경망은 계수의 꼬리가 다르며, SincNet 은 주파수 상자의 두 끝만 배우고 시간에서는 sinc 둘의 차를 잘라 해밍 윈도우를 곱해 쓴다.
flowchart LR A["한 주기 위의 내적<br/>cos kt, sin kt 는 서로 직교"] --> B["푸리에 급수<br/>계수 = 내적 ÷ π"] B --> C["끊긴 곳<br/>9% 넘침이 남는다 (깁스)"] B --> D["매끄러울수록<br/>계수가 빨리 준다"] D --> E["테일러는 한 점 근처<br/>푸리에는 한 주기 전체"] B --> F["주기를 끝없이 늘리면<br/>푸리에 변환 (합이 적분)"]
정리 연습문제
물음. cos t 와 sin 2t 를 곱해 넓이를 구했더니 0이었다. 어느 구간에서 측정한 넓이인가?
- [ ] 어느 구간이든 상관없다. 주파수가 다르면 늘 0이다 〔틀림: 반 주기만 측정하면 0이 아닌 값이 남는다. 같은 때와 엇갈린 때가 반씩 지워지려면 한 주기를 다 봐야 한다.〕
- [x] 한 주기 전체 〔맞음: 한 주기 위에서 두 물결이 각각 정수 번 반복되면 곱의 넓이가 0이다.〕
- [ ] 두 물결이 함께 0을 지나는 짧은 구간 〔틀림: 짧은 구간에서는 지울 상대가 모자라 넓이가 0이 되지 않는다.〕
물음. 한 주기 위에서 신호와 축의 내적을 구했다. 이 값으로 푸리에 계수를 얻으려면 어떻게 하는가?
- [ ] 내적 값이 그대로 계수다 〔틀림: 축의 길이가 1이 아니라서 내적을 축 길이의 제곱으로 나눠야 한다.〕
- [ ] 모든 축에서 같은 수로 나눈다 〔틀림: 축 길이의 제곱은 상수 축이 2π, 코사인·사인 축이 π로 서로 다르다.〕
- [x] 그 축 길이의 제곱으로 나눈다 〔맞음: 코사인·사인 축은 π로, 상수 축은 2π로 나눈다. 그래서 상수 항은 반으로 적는다.〕
물음. 파형을 시간 축으로 조금 옮겼다. 푸리에 계수는 어떻게 바뀌는가?
- [ ] 계수가 완전히 달라져 다른 신호처럼 보인다 〔틀림: 옮긴 파형은 같은 물결들로 이루어져 있다. 주파수마다의 세기는 그대로다.〕
- [x] 같은 주파수 안에서 사인 계수와 코사인 계수 사이로 크기가 넘어갈 뿐이다 〔맞음: 주파수마다 사인과 코사인 계수를 함께 보면 그 세기는 옮겨도 바뀌지 않는다.〕
- [ ] 아무것도 바뀌지 않는다 〔틀림: 주파수마다의 세기는 그대로지만 사인 계수와 코사인 계수는 따로따로 바뀐다.〕
물음. 기온이 20 °C 에서 26 °C 로 뚝 끊겨 뛰는 계단을 푸리에 급수로 그렸다. 끊긴 곳 옆에서 부분합은 대략 얼마나 넘치는가?
- [ ] 약 2.3 °C. 26 °C 의 9%쯤이다 〔틀림: 넘치는 양은 함숫값이 아니라 끊긴 곳에서 뛴 높이에 비례한다.〕
- [x] 약 0.5 °C. 뛴 높이 6 °C 의 9%쯤이다 〔맞음: 깁스 현상의 넘침은 뛴 높이의 0.0895배라 6 °C 에서는 0.537 °C 다.〕
- [ ] 항을 충분히 많이 쓰면 넘치지 않는다 〔틀림: 항을 늘려도 넘침의 높이는 그대로이고 폭만 좁아진다.〕
물음. 삼각파는 값이 끊긴 곳은 없고 꺾인 곳만 있다. 삼각파의 푸리에 급수는 어떻게 되는가?
- [ ] 사각파처럼 계수가 1/k 로 줄고, 꺾인 곳 옆에서 9% 넘친다 〔틀림: 깁스 현상은 값이 끊긴 곳에서만 생긴다. 꺾인 곳에서는 넘치지 않는다.〕
- [x] 계수가 1/k² 로 빨리 줄고, 넘치지 않는다 〔맞음: 꺾인 곳만 있으면 끊긴 곳이 있을 때보다 계수가 빨리 준다. 어디서나 매끄러우면 그보다 더 빨리 준다.〕
- [ ] 꺾인 곳이 있으니 아무리 항을 늘려도 맞지 않는다 〔틀림: 삼각파의 부분합은 항을 늘릴수록 고르게 맞는다.〕
물음. 실수 위 어디서나 매끄러운 함수를 한 점에서 테일러 전개했다. 차수를 계속 올리면 어떻게 되는가?
- [ ] 어디서나 매끄러우니 차수를 올릴수록 어디까지든 더 잘 맞는다 〔틀림: 테일러 전개는 수렴 반경 안에서만 맞는다. 그 밖에서는 차수를 올릴수록 더 벗어난다.〕
- [x] 수렴 반경 안에서는 더 잘 맞고, 그 밖에서는 차수를 올릴수록 벗어난다 〔맞음: 테일러 전개는 한 점 근처를 그 점의 미분으로 근사하고, 푸리에 급수는 한 주기 전체를 균일하게 근사한다.〕
- [ ] 푸리에 급수와 똑같이 한 주기 전체를 고르게 맞춘다 〔틀림: 테일러 전개는 한 점 근처만 본다. 한 주기 전체를 균일하게 근사하는 것은 푸리에 급수다.〕
물음. 상자 펄스를 시간에서 두 배로 늘였다. 푸리에 변환은 어떻게 되는가?
- [ ] 펄스처럼 주파수에서도 두 배로 넓게 퍼진다 〔틀림: 시간에서 늘이면 주파수에서는 좁아진다. 폭 L 인 상자의 변환은 2π/L 에서 처음 0 이 되므로 L 이 두 배면 처음 0 이 반만큼 가까워진다.〕
- [x] 반으로 좁아지고 가운데 높이는 두 배가 된다 〔맞음: 가운데 높이는 펄스의 넓이 L 이고 처음 0 은 2π/L 이라, 두 폭의 곱이 늘 같다.〕
- [ ] 펄스 밖이 모두 0 인 것은 그대로이니 변환도 바뀌지 않는다 〔틀림: 처음 0 의 자리 2π/L 과 가운데 높이 L 이 펄스 폭을 따라 바뀐다.〕
막힌 곳
이제 우리는 되풀이되는 신호는 정수 주파수의 사인·코사인 계수로, 한 번만 울리는 신호는 이어진 주파수의 스펙트럼으로 적고, 물결이 몇 개 필요한지를 함수의 매끄러움에서 읽을 수 있다. 다만 같은 주파수의 사인 계수와 코사인 계수는 늘 둘씩 따로 적었고, 파형을 옮길 때 둘 사이로 크기가 넘어가는 일은 「평면 하나에서 돌린 것」이라는 말로만 했을 뿐 이 장의 계산으로는 아직 다루지 못한다.