펜헬–영 부등식: 아무 짝이나 고르면 남는 틈
f*(s)는 가장 좋은 x를 골랐을 때의 sx − f(x)다. 그런데 공장이 가격을 미리 알 수 없어서 생산량을 먼저 정해 두어야 한다면 어떨까? 그때 고른 x와 나중에 정해진 s는 서로 딱 맞는 짝이라는 보장이 없다. 가장 좋은 x가 아니라 아무 x나 골라 s와 짝지으면, f(x)와 f*(s)와 sx 사이에는 어떤 관계가 남을까?
역사: 영의 넓이 그림과 펜헬
부등식 이름의 뒤쪽 「영」은 영국의 수학자 윌리엄 헨리 영이다. 영은 1912년 푸리에 급수에 관한 논문 「적분할 수 있는 함수의 부류와 그 푸리에 급수에 관하여」에서, 0에서 출발해 늘기만 하는 함수 φ(파이, phi)에 대해 ab ≤ ∫₀ᵃ φ(x)dx + ∫₀ᵇ φ⁻¹(y)dy가 성립한다는 부등식을 썼다. 이 부등식은 그림 한 장으로 보인다. 가로 a, 세로 b인 직사각형은 곡선 아래의 넓이와 곡선 왼쪽의 넓이를 합친 것에 언제나 덮이고, 둘이 남는 조각 없이 딱 맞물리는 것은 b = φ(a)일 때뿐이다.

30여 년 뒤 이 부등식을 볼록 함수 일반의 짜임으로 다시 세운 사람이 베르너 펜헬이다. 베를린에서 태어난 펜헬은 1933년 나치 정부의 차별 법으로 유대인 학자들이 대학에서 쫓겨나던 해에 덴마크 코펜하겐으로 옮겼고, 1943년 독일이 덴마크를 점령하자 스웨덴으로 피신해 전쟁이 끝날 때까지 룬드에서 가르쳤다. 전쟁 뒤인 1949년 논문 「볼록 켤레 함수에 관하여」에서 그는 미분할 수 없는 볼록 함수까지 켤레를 넓혔다. 기울기가 하나로 정해지지 않는 뾰족한 점이 있어도, sup으로 쓴 정의는 그대로 쓸 수 있기 때문이다. 영의 넓이 부등식은 이 짜임 안에서 아래 부등식의 한 경우가 되어, 오늘날 두 사람의 이름을 나란히 붙여 부른다.
정의에서 바로 나오는 부등식
답은 정의에서 바로 나온다. f*(s)는 sx − f(x)의 sup이므로, 어떤 특정한 x를 골라도 sx − f(x)보다 작지 않다. 이항하면 다음을 얻는데, 이것을 펜헬–영 부등식 (Fenchel–Young inequality)이라 한다.
등호는 s가 정확히 x에서의 기울기 f′(x)일 때만 성립한다. 공장 문제로 읽으면 「어떤 생산량 x를 골라도 이윤 sx − c(x)는 최대 이윤을 넘지 못하고, 딱 맞는 생산량일 때만 같다」는 당연한 말이다. 그런데 양변의 차이 f(x) + f*(s) − sx는 항상 0 이상이고 맞는 짝에서만 0이므로, 예측과 정답이 얼마나 어긋났는지를 재는 손실 함수로 쓸 수 있다.

위젯 1에서 비용 곡선의 계수와 준비한 양을 정하면, 기울기 s의 자와 곡선 사이의 세로 간격으로 이 틈이 그려진다. 아래 문제 7을 풀어 본 뒤 「문제 7 불러오기」로 자기 답과 견주어 보자.
문제 7. 축제 부스의 붕어빵
과 축제에서 붕어빵 부스를 연다. 붕어빵 x백 개를 굽는 데 드는 재료비와 아르바이트비는 x²만 원이다. 판매 가격은 축제 당일 학생회가 정하는데, 전날 밤 붕어빵 200개(x = 2)의 반죽을 준비해 두었다. 당일 가격이 백 개에 6만 원(s = 6)으로 정해졌다면, 가격을 미리 알았을 때보다 이윤을 얼마나 덜 버는가?

가격이 6이면 가장 좋은 생산량은 s/2 = 3, 곧 300개예요. 100개를 덜 만들었고 백 개에 6만 원이니까 6만 원 손해예요.

덜 만든 100개도 공짜로 굽는 건 아니잖아. 그만큼 재료비가 덜 들었어.

두 경우의 이윤을 직접 적어 봐요.

200개면 12 − 4 = 8만 원, 300개면 18 − 9 = 9만 원. 차이는 1만 원이네요. 판 돈은 6만 원 더 들어오지만 비용도 9 − 4 = 5만 원 더 들어요.

그 1만 원을 펜헬–영 부등식의 틈으로 적으면 c(2) + c*(6) − 6 × 2 = 4 + 9 − 12예요. 준비한 양과 가격이 딱 맞는 짝일 때만 0이 되죠.

400개를 준비했어도 16 + 9 − 24 = 1이네요. c = x²이면 틈이 (x − s/2)²라서, 모자라게 만들든 넘치게 만들든 같은 만큼 놓치는 거고요.

많이 만들면 마지막 백 개를 굽는 비용이 가격보다 비싸지고, 적게 만들면 가격보다 싸게 구울 수 있던 백 개를 놓치는 거네요.