凸解析：凸関数の連続性・劣微分・Legendre–Fenchel 変換と微分の収束

0. この記事の要点

「谷の形」をした関数は、角が尖っていて微分できない点があっても、その点を下から支える直線をいくつも引けます。この記事は、そのような関数について、傾きをどう扱うか、傾きの情報だけで元の関数がどこまで決まるかを調べます。読み終えると、微分できない点を含む関数でも最小点を見つけたり、熱力学の Legendre 変換を扱ったりするための基本の道具がそろいます。

• $\mathbb{R}^n$ の開凸集合上で有限な凸関数は、自動的に局所リプシッツ連続（各点の近くでリプシッツ連続、つまり 2 点での値の差が距離の定数倍で抑えられること）です。凸性という代数的な条件だけから連続性が出るのは、有限次元の特徴です。
• 微分できない点でも、凸関数には「下から接する傾き」の集合である劣微分 $\partial f(x)$ があります。内点では空でなく、$\partial f(x)$ が 1 点であることと $f$ が微分可能であることは同値です。劣微分の存在から Jensen の不等式がすぐに従います。
• Legendre–Fenchel 変換 $f^{*}(y)=\sup_x(\langle x,y\rangle-f(x))$ は、微分可能性も狭義凸性も仮定せずに定義できる Legendre 変換です。熱力学の自由エネルギーや、統計力学の圧力とエントロピーの関係がこの形をしています。
• Fenchel–Moreau の定理：真な関数 $f$ について、$f^{**}=f$ となるのは $f$ が凸かつ下半連続のときに限ります。証明の核心は、閉凸集合と外の点を超平面で分けることです。
• 凸関数の列が各点収束すると、極限が微分可能な点では勾配も収束し、しかもコンパクト集合上で一様に収束します。一般の関数ではまったく成り立たない現象で、熱力学極限で「自由エネルギーの収束から密度の収束を導く」ときの道具になります。

この記事で使う事前知識

• リプシッツ連続: 2 点での値の差が、点の距離の定数倍で抑えられるという性質。→ リプシッツ連続
• 上限: 集合の上界のうち最小のもの。Legendre–Fenchel 変換の定義に使います。→ 上限
• コンパクト: $\mathbb{R}^n$ では有界閉集合のこと。連続関数が最小値をとることなどに使います。→ コンパクト
• 方向微分: 点を一つの方向 $d$ に動かしたときの変化率。→ 方向微分
• 各点収束: 関数列が、どの点でも値として収束すること。→ 各点収束
• Hahn–Banach の定理: 部分空間上の線形汎関数を、上からの制約を保ったまま全体へ延ばせるという定理。→ Banach 空間の基本定理

1. 動機 — 微分しないで「傾き」を扱う

熱力学では、内部エネルギー $U(S)$ からヘルムホルツの自由エネルギー $F(T)=\min_S(U(S)-TS)$ を作ります。教科書的な Legendre 変換は、$U$ が滑らかで狭義凸なとき、$T=U'(S)$ を $S$ について解いて代入する、という手順です（熱力学ポテンシャル の 定義 3.1［自由エネルギーと熱力学ポテンシャル］）。しかし相転移があると、$F$ は折れ曲がり、$U$ には直線部分ができ、$T=U'(S)$ は一意に解けません。それでも「最小値を取る」という定義は意味をもちます。この定義を出発点にすると、微分可能性を仮定しない理論が作れます。それが凸解析です。

もう一つの動機は極限です。有限の系の自由エネルギー $f_N$ は滑らかでも、$N\to\infty$ の極限 $f$ は折れ曲がることがあります。それでも、$f$ が微分可能な点では $f_N'\to f'$ が成り立つでしょうか。一般の関数列では成り立ちません（$\sin(Nx)/N\to0$ でも導関数 $\cos(Nx)$ は収束しません）。凸関数列では成り立つ、というのがこの記事の最後の定理です。

この記事では、$\mathbb{R}^n$ の点を $x,y$ と書き、標準内積を $\langle x,y\rangle$、ユークリッドノルムを $|x|$、開球を $B(x,r)$ と書きます。

2. 凸集合と凸関数

定義 2.1（凸集合・凸関数）↗

• $C\subseteq\mathbb{R}^n$ が凸であるとは、$x,y\in C$、$0\le\lambda\le1$ について $(1-\lambda)x+\lambda y\in C$ となることをいう。
• $f:\mathbb{R}^n\to(-\infty,\infty]$ が凸であるとは、$x,y\in\mathbb{R}^n$、$0\le\lambda\le1$ について

$$f((1-\lambda)x+\lambda y)\le(1-\lambda)f(x)+\lambda f(y)$$

となることをいう（$\infty$ を含む演算は $0\cdot\infty=0$、$a+\infty=\infty$ と約束する）。

• $\operatorname{dom}f=\{x:f(x)<\infty\}$ を有効定義域、$\operatorname{epi}f=\{(x,t)\in\mathbb{R}^n\times\mathbb{R}: f(x)\le t\}$ をエピグラフという。$\operatorname{dom}f\ne\emptyset$ のとき $f$ は真であるという。
• $f$ が下半連続であるとは、すべての $x$ と $x_k\to x$ について $f(x)\le\liminf_kf(x_k)$ となることをいう。

値 $+\infty$ を許すのは、凸集合 $C$ 上の凸関数を「$C$ の外で $+\infty$」と延ばして $\mathbb{R}^n$ 全体の関数として扱うためです。とくに凸集合 $C$ の標示関数 $\iota_C$（$C$ 上で $0$、外で $+\infty$）は凸関数です。

定義に出てきた言葉を言い換えておきます。有効定義域は「関数が有限の値を取る点の集まり」、エピグラフは「グラフとその上側を合わせた領域」です。凸関数とは、この領域が凸集合になる関数のことだ、と次の命題で言い直せます。

凸関数のグラフ（曲線）とそのエピグラフ（塗った上側の領域）。領域の中の 2 点を結ぶ線分は領域の外に出ない

命題 2.2（エピグラフによる特徴づけ）✓

$f:\mathbb{R}^n\to(-\infty,\infty]$ について、次が成り立つ。

1. $f$ が凸であることと、$\operatorname{epi}f$ が $\mathbb{R}^{n+1}$ の凸集合であることは同値である。
2. $f$ が下半連続であることと、$\operatorname{epi}f$ が閉集合であることは同値である。

証明（命題 2.2）

1. $f$ が凸で $(x,s),(y,t)\in\operatorname{epi}f$ なら $f((1-\lambda)x+\lambda y)\le(1-\lambda)s+\lambda t$ なので、内分点もエピグラフに入ります。逆に $\operatorname{epi}f$ が凸とし、$x,y\in\operatorname{dom}f$ とします（どちらかが $\operatorname{dom}f$ の外なら不等式の右辺は $\infty$）。$(x,f(x)),(y,f(y))\in\operatorname{epi}f$ の内分点がエピグラフに入ることが、凸性の不等式そのものです。

2. 下半連続とし、$(x_k,t_k)\in\operatorname{epi}f$ が $(x,t)$ に収束するとすると、$f(x)\le\liminf f(x_k)\le\lim t_k=t$ です。逆にエピグラフが閉で、$x_k\to x$、$\liminf f(x_k)<a<f(x)$ となる実数 $a$ があるとすると、部分列で $f(x_{k_j})<a$ となり、$(x_{k_j},a)\in\operatorname{epi}f$ の極限 $(x,a)$ もエピグラフに入るので $f(x)\le a$ となって矛盾です。

∎

3. 凸関数の連続性

凸関数の連続性は、「上から押さえられれば、自動的に下からも押さえられ、さらにリプシッツになる」という 2 段階で示します。

補題 3.1（有界ならリプシッツ）✓

$f$ を凸関数とし、閉球 $\overline{B}(x_0,2r)$ 上で有限かつ $|f|\le M$ とする。このとき $x,y\in\overline{B}(x_0,r)$ について

$$|f(x)-f(y)|\le\frac{2M}{r}|x-y|.$$

証明（補題 3.1）

$x\ne y$ とし、$z=y+r\frac{y-x}{|y-x|}$ とおくと、$|z-x_0|\le|y-x_0|+r\le2r$ です。$\lambda=\frac{|y-x|}{r+|y-x|}$ とすると $y=(1-\lambda)x+\lambda z$ と書けるので（$z-x=\frac{r+|y-x|}{|y-x|}(y-x)$ から確かめられます）、凸性から

$$f(y)-f(x)\le\lambda(f(z)-f(x))\le\lambda\cdot2M\le\frac{2M}{r}|y-x|.$$

$x,y$ を入れ替えれば逆向きの不等式も出ます。

∎

次の定理の証明の考え方は、「立方体の角（頂点）での値さえ押さえれば、中の値も押さえられる」ことです。$n=1$ なら、区間 $[x_0-\delta,x_0+\delta]$ の点は両端点の $(1-\lambda)$ と $\lambda$ の重みの平均です。$n=2$ なら、正方形の点は 4 つの角の重み $(1-\lambda_1)(1-\lambda_2)$、$\lambda_1(1-\lambda_2)$、$(1-\lambda_1)\lambda_2$、$\lambda_1\lambda_2$ の平均で、この 4 つの重みの和は 1 です。証明の式は、これを $n$ 個の座標に広げたものです。

定理 3.2（凸関数の局所リプシッツ性）✓

$U\subseteq\mathbb{R}^n$ を開凸集合、$f$ を $U$ 上で有限な凸関数とする。このとき各 $x_0\in U$ に対し、$r>0$ と $L$ が存在して $f$ は $\overline{B}(x_0,r)$ 上で $L$-リプシッツである。とくに $f$ は $U$ 上で連続である。

証明（定理 3.2）

$\delta>0$ を、立方体 $Q=x_0+[-\delta,\delta]^n$ が $U$ に含まれるように取ります。

上からの評価。 $Q$ の各点は $Q$ の $2^n$ 個の頂点の凸結合です。実際、$x=x_0+(\delta(2\lambda_i-1))_{i}$（$\lambda_i\in[0,1]$）と書くと、頂点 $v_\sigma=x_0+(\delta\sigma_i)_i$（$\sigma\in\{-1,1\}^n$）に重み $\prod_i\lambda_i^{(1+\sigma_i)/2}(1-\lambda_i)^{(1-\sigma_i)/2}$ を付けた凸結合が $x$ に一致します（座標ごとに展開すれば $i$ 番目の座標は $\lambda_i\delta-(1-\lambda_i)\delta$ です）。凸性の不等式を繰り返し使うと（有限個の凸結合への拡張は $\lambda$ の個数に関する帰納法）、$Q$ 上で $f\le M_1:=\max_\sigma f(v_\sigma)$ です。

下からの評価。 $x\in Q$ なら $2x_0-x\in Q$ で、$x_0$ は $x$ と $2x_0-x$ の中点なので $f(x_0)\le\frac12f(x)+\frac12f(2x_0-x)$、すなわち $f(x)\ge2f(x_0)-M_1$ です。

したがって $M=\max(|M_1|,|2f(x_0)-M_1|)$ について $Q$ 上で $|f|\le M$ です。$Q\supseteq\overline{B}(x_0,\delta)$ なので、補題 3.1 を $r=\delta/2$ で使えば $\overline{B}(x_0,\delta/2)$ 上で $(4M/\delta)$-リプシッツです。

∎

例 3.3（境界や無限次元では連続とは限らない）

1. $f:[0,1]\to\mathbb{R}$ を $f(0)=1$、$0<x\le1$ で $f(x)=0$ とすると凸ですが、$0$ で連続ではありません。定理 3.2 は開集合の上での主張です。
2. 無限次元のノルム空間では、至るところ有限な凸関数（さらに線形汎関数）でも連続とは限りません。定理 3.2 の証明は、有限個の頂点で立方体を張れることを使っています。

1 変数では、凸性は「傾きが増える」ことと同じです。

命題 3.4（1 変数の凸関数の片側微分）✓

$I\subseteq\mathbb{R}$ を開区間、$f$ を $I$ 上で有限な凸関数とする。

1. （3 弦の補題）$s<t<u$ が $I$ の点なら $\dfrac{f(t)-f(s)}{t-s}\le\dfrac{f(u)-f(s)}{u-s}\le\dfrac{f(u)-f(t)}{u-t}$。
2. 各 $x\in I$ で片側微分 $f'_-(x)$、$f'_+(x)$ が存在し、$x<y$ なら $f'_-(x)\le f'_+(x)\le f'_-(y)\le f'_+(y)$。
3. $f$ が微分可能でない点は高々可算個である。

証明（命題 3.4）

1. $t=(1-\lambda)s+\lambda u$、$\lambda=\frac{t-s}{u-s}$ と書くと $f(t)\le(1-\lambda)f(s)+\lambda f(u)$ です。両辺から $f(s)$ を引いて $t-s=\lambda(u-s)$ で割ると左の不等式、$f(u)$ を引いて $u-t=(1-\lambda)(u-s)$ で割ると右の不等式です。

2. 1 から、$h\mapsto\frac{f(x+h)-f(x)}{h}$ は $h\in(0,\varepsilon)$ で単調非減少で、$h<0$ の値で下から押さえられます。よって $h\downarrow0$ の極限 $f'_+(x)$ が有限値で存在し、同様に $f'_-(x)$ も存在して $f'_-(x)\le f'_+(x)$ です。$x<y$ なら 1 から $f'_+(x)\le\frac{f(y)-f(x)}{y-x}\le f'_-(y)$ です。

3. $f$ が $x$ で微分可能でないことは $f'_-(x)<f'_+(x)$ と同じです。そのような各 $x$ に開区間 $(f'_-(x),f'_+(x))$ を対応させると、2 からこれらは互いに交わりません。各区間は有理数を含むので、そのような $x$ は高々可算個です。

∎

4. 劣微分

定義 4.1（劣勾配・劣微分）↗

$f:\mathbb{R}^n\to(-\infty,\infty]$ を凸関数、$x\in\operatorname{dom}f$ とする。$s\in\mathbb{R}^n$ が $x$ における $f$ の劣勾配であるとは、

$$f(z)\ge f(x)+\langle s,z-x\rangle\qquad(z\in\mathbb{R}^n)$$

となることをいう。劣勾配全体を $\partial f(x)$ と書き、劣微分という。

劣勾配とは、グラフに $x$ で下から接する超平面の傾きです。$f(x)=|x|$（$n=1$）なら $\partial f(0)=[-1,1]$、$x\ne0$ では $\partial f(x)=\{\operatorname{sign}x\}$ です。定義から直ちに、$0\in\partial f(x)$ と $x$ が $f$ の最小点であることは同値です。凸最適化で「勾配が $0$ なら最小」が成り立つ理由はこれです。

劣微分の存在を示すために、方向微分（ある向きに動かしたときの変化率）を使います。次の補題の「劣線形」とは、$p(cd)=cp(d)$（$c>0$）と $p(d_1+d_2)\le p(d_1)+p(d_2)$ を満たすことです。線形より少し緩い条件で、Hahn–Banach の定理が「線形汎関数を $p$ 以下に保ったまま延ばす」ときの上からの制約の役をします。

補題 4.2（方向微分は劣線形）✓

$f$ を凸関数、$x$ を $\operatorname{dom}f$ の内点とする。このとき各 $d\in\mathbb{R}^n$ について

$$f'(x;d):=\lim_{t\downarrow0}\frac{f(x+td)-f(x)}{t}$$

は有限値で存在し、$d\mapsto f'(x;d)$ は劣線形（定義 3.1［Banach 空間の基本定理］）で、$f'(x;d)\le f(x+d)-f(x)$ を満たす。

証明（補題 4.2）

$\varphi(t)=f(x+td)$ は $0$ を含む開区間で有限な 1 変数凸関数なので、命題 3.4 の 2 により $f'(x;d)=\varphi'_+(0)$ は有限値で存在し、差分商の単調性から $f'(x;d)\le\varphi(1)-\varphi(0)$（$x+d\notin\operatorname{dom}f$ なら右辺は $\infty$ で自明）です。$c>0$ について $f'(x;cd)=cf'(x;d)$ は定義から明らかです。劣加法性は、凸性 $f(x+t(d_1+d_2))\le\frac12f(x+2td_1)+\frac12f(x+2td_2)$ の両辺から $f(x)$ を引いて $t$ で割り、$t\downarrow0$ とすれば得られます。

∎

定理 4.3（劣微分の存在と最大値公式）✓

$f$ を凸関数、$x$ を $\operatorname{dom}f$ の内点とする。このとき $\partial f(x)$ は空でないコンパクト凸集合で、

$$f'(x;d)=\max_{s\in\partial f(x)}\langle s,d\rangle\qquad(d\in\mathbb{R}^n).$$

さらに、$f$ が $x$ で微分可能であることと、$\partial f(x)$ がただ 1 点からなることは同値であり、そのとき $\partial f(x)=\{\nabla f(x)\}$ である。

証明（定理 4.3）

特徴づけ。 $s\in\partial f(x)$ と「すべての $d$ で $\langle s,d\rangle\le f'(x;d)$」は同値です。実際、前者なら $\frac{f(x+td)-f(x)}{t}\ge\langle s,d\rangle$ で $t\downarrow0$ とすればよく、後者なら 補題 4.2 から $\langle s,d\rangle\le f'(x;d)\le f(x+d)-f(x)$ で、$d=z-x$ とすればよいです。この特徴づけから $\partial f(x)$ は閉凸集合で、$f'(x;\cdot)$ は有限な凸関数なので連続で（定理 3.2）単位球面上で有界であり、 $\partial f(x)$ は有界、したがってコンパクトです（定理 5.2［コンパクト性］）。

最大値公式。 $d$ を固定し、部分空間 $\mathbb{R}d$ 上の線形汎関数 $\ell(td)=tf'(x;d)$ を考えます。$t\ge0$ では $\ell(td)=f'(x;td)$、$t<0$ では劣線形性から $0=f'(x;0)\le f'(x;td)+f'(x;-td)$ なので $\ell(td)=-f'(x;-td)\le f'(x;td)$ です。Hahn–Banach の定理（定理 3.2［Banach 空間の基本定理］）で $\ell$ を $\mathbb{R}^n$ 上の線形汎関数 $L\le f'(x;\cdot)$ に延ばし、$L=\langle s,\cdot\rangle$ と書くと、特徴づけから $s\in\partial f(x)$ で $\langle s,d\rangle=f'(x;d)$ です。とくに $\partial f(x)\ne\emptyset$ です。

微分可能性。 $f$ が $x$ で微分可能なら $f'(x;d)=\langle\nabla f(x),d\rangle$ で、$s\in\partial f(x)$ は $\langle s-\nabla f(x),d\rangle\le0$ をすべての $d$ で満たすので、$d=s-\nabla f(x)$ として $s=\nabla f(x)$ です。逆に $\partial f(x)=\{s\}$ なら最大値公式から $f'(x;d)=\langle s,d\rangle$ です。$g(h)=f(x+h)-f(x)-\langle s,h\rangle$ は凸で $g\ge0$、$g(0)=0$、すべての方向で $g'(0;d)=0$ です。$h=\sum_ih_ie_i$、$\lambda=\sum_i|h_i|>0$ とすると、$h=\sum_i\frac{|h_i|}{\lambda}(\lambda\sigma_ie_i)$（$\sigma_i=\operatorname{sign}h_i$）は凸結合なので

$$0\le\frac{g(h)}{\lambda}\le\max_{i,\ \pm}\frac{g(\pm\lambda e_i)}{\lambda}\xrightarrow[\lambda\to0]{}0$$

です。$|h|\le\lambda\le\sqrt n|h|$ なので $g(h)/|h|\to0$、すなわち $f$ は $x$ で微分可能で $\nabla f(x)=s$ です。

∎

定理 4.4（Jensen の不等式）✓

$(\Omega,\mathcal{F},P)$ を確率空間とする。

1. $f:\mathbb{R}^n\to\mathbb{R}$ を凸関数、$X$ を可積分な $\mathbb{R}^n$ 値確率変数とすると、$f(X)$ の期待値は $(-\infty,\infty]$ の値として定まり、$f(E[X])\le E[f(X)]$ である。
2. $n=1$ で、$f$ が開区間 $I$ 上で有限な凸関数、$X$ が $I$ に値をとる可積分な確率変数なら、$E[X]\in I$ であり、同じ不等式が成り立つ。

証明（定理 4.4）

1. $m=E[X]$ とし、定理 4.3 で $s\in\partial f(m)$ を取ります。すべての $\omega$ で $f(X(\omega))\ge f(m)+\langle s,X(\omega)-m\rangle$ です。右辺は可積分なので $f(X)$ の負の部分は可積分で、$E[f(X)]$ は $(-\infty,\infty]$ の値として定まります。両辺の期待値を取ると $E[f(X)]\ge f(m)+\langle s,E[X]-m\rangle=f(m)$ です（$f(X)$ の可測性は 定理 3.2 による連続性から従います）。

2. $I=(a,b)$ とします。$b<\infty$ で $E[X]=b$ なら $E[b-X]=0$ かつ $b-X>0$ なので矛盾、$E[X]>b$ も $X<b$ から不可能です。$a$ の側も同様で、$E[X]\in I$ です。あとは 1 と同じ議論を $I$ 上で行います。

∎

条件付き期待値版（定理 4.6［条件付き期待値］）も、劣勾配による下からの評価を使うという点で同じ仕組みです。

5. Legendre–Fenchel 変換

定義 5.1（Legendre–Fenchel 変換（共役関数））↗

真な関数 $f:\mathbb{R}^n\to(-\infty,\infty]$ に対し、

$$f^{*}(y):=\sup_{x\in\mathbb{R}^n}\bigl(\langle x,y\rangle-f(x)\bigr)\qquad(y\in\mathbb{R}^n)$$

を $f$ の Legendre–Fenchel 変換（共役関数）という。$f^{**}:=(f^{*})^{*}$ と書く。

$f^{*}(y)$ は、傾き $y$ の直線（超平面）$\langle x,y\rangle-c$ がグラフの下に収まる最小の切片 $c$ です。下の図のように、傾きを指定してグラフを下から支える直線を探す、と読めます。

傾き y の直線を下から押し上げ、グラフに接したときの切片が −f*(y)。接点 x では y ∈ ∂f(x)

命題 5.2（共役関数の基本性質）✓

$f$ を真な関数とする。

1. $f^{*}$ は凸かつ下半連続である（値 $+\infty$ を取り得る）。
2. （Fenchel–Young の不等式）すべての $x,y$ で $f(x)+f^{*}(y)\ge\langle x,y\rangle$。
3. $f$ が凸なら、$x\in\operatorname{dom}f$ について、等号 $f(x)+f^{*}(y)=\langle x,y\rangle$ と $y\in\partial f(x)$ は同値である。
4. $f^{**}\le f$。

証明（命題 5.2）

1. 各 $x\in\operatorname{dom}f$ について $y\mapsto\langle x,y\rangle-f(x)$ はアフィン（したがって凸かつ連続）で、$f^{*}$ はその上限です。凸関数の族の上限は凸で（各関数の凸性の不等式の右辺を上限で押さえればよい）、連続関数の族の上限は下半連続です（エピグラフが閉集合の共通部分になり、命題 2.2 の 2）。

2. 定義の上限は $x$ での値以上です（$f(x)=\infty$ なら自明）。

3. $y\in\partial f(x)$ は「すべての $z$ で $\langle z,y\rangle-f(z)\le\langle x,y\rangle-f(x)$」と書き直せ、これは上限が $z=x$ で達成されること、すなわち $f^{*}(y)=\langle x,y\rangle-f(x)$ と同値です。

4. 2 から、すべての $y$ で $\langle x,y\rangle-f^{*}(y)\le f(x)$ なので、$y$ について上限を取れば $f^{**}(x)\le f(x)$ です。

∎

例 5.3（共役関数の計算例）

1. $p>1$、$\frac1p+\frac1q=1$ とし、$f(x)=\frac1p|x|^p$（$n=1$）とします。$xy-\frac1p|x|^p$ の最大は $|x|^{p-1}=|y|$ で達成され、$f^{*}(y)=\frac1q|y|^q$ です。Fenchel–Young の不等式はヤングの不等式 $xy\le\frac{|x|^p}{p}+\frac{|y|^q}{q}$（補題 4.1［L^p 空間と関数解析への導入］）です。
2. $A$ を正定値対称行列、$f(x)=\frac12\langle x,Ax\rangle$ とすると、$\langle x,y\rangle-f(x)$ の勾配が $0$ になるのは $x=A^{-1}y$ のときで、$f^{*}(y)=\frac12\langle y,A^{-1}y\rangle$ です。
3. $f(x)=e^x$ なら、$y>0$ で $f^{*}(y)=y\log y-y$、$f^{*}(0)=0$、$y<0$ で $f^{*}(y)=\infty$ です（$y<0$ では $x\to-\infty$ で $xy-e^x\to\infty$）。統計力学では、自由エネルギー（対数分配関数）の共役がエントロピーになる、という関係の最も簡単な例です。
4. 凸集合 $C$ の標示関数については $\iota_C^{*}(y)=\sup_{x\in C}\langle x,y\rangle$（支持関数）です。$C$ が単位球なら $\iota_C^{*}(y)=|y|$ です。

5.1. 分離定理と Fenchel–Moreau の定理

$f^{**}=f$ を示す鍵は、閉凸集合とその外の点を超平面で分けることです。有限次元では、最近点への射影で直接示せます。

補題 5.4（閉凸集合と点の強分離）✓

$C\subseteq\mathbb{R}^m$ を空でない閉凸集合、$p\notin C$ とする。このとき $v\in\mathbb{R}^m$ で

$$\sup_{c\in C}\langle v,c\rangle<\langle v,p\rangle$$

となるものが存在する。

証明（補題 5.4）

$c_0\in C$ を取ります。$C\cap\overline{B}(p,|p-c_0|)$ は有界閉集合なのでコンパクトで（定理 5.2［コンパクト性］）、連続関数 $c\mapsto|p-c|$ はそこで最小値をとります（系 6.2［コンパクト性］）。最小点 $q$ は $C$ 全体での $p$ への最近点です。$c\in C$、$0<t\le1$ について $q+t(c-q)\in C$ なので

$$|p-q|^2\le|p-q-t(c-q)|^2=|p-q|^2-2t\langle p-q,c-q\rangle+t^2|c-q|^2.$$

$t$ で割って $t\downarrow0$ とすると $\langle p-q,c-q\rangle\le0$ です。$v=p-q\ne0$ とおくと、すべての $c\in C$ で $\langle v,c\rangle\le\langle v,q\rangle=\langle v,p\rangle-|v|^2$ です。

∎

無限次元のノルム空間でも同じ形の分離定理が成り立ちます（定理 3.5［Banach 空間の基本定理］）。ここでは有限次元で足ります。

定理 5.5（Fenchel–Moreau の定理）✓

$f:\mathbb{R}^n\to(-\infty,\infty]$ を真な関数とする。$f^{**}=f$ であるための必要十分条件は、$f$ が凸かつ下半連続であることである。

証明（定理 5.5）

必要性。 $f^{**}=f$ なら、$f$ は（$f^{*}$ が真でない場合も含めて）アフィン関数の族の上限なので、命題 5.2 の 1 と同じ理由で凸かつ下半連続です。

十分性。 $f$ を真な凸下半連続関数とします。命題 5.2 の 4 から $f^{**}\le f$ なので、逆向きを示します。鍵となるのは次の主張です。

主張. $x_0\in\mathbb{R}^n$、$\alpha<f(x_0)$ なら、アフィン関数 $h(x)=\langle y,x\rangle-c$ で $h\le f$ かつ $h(x_0)>\alpha$ となるものがある。

これを認めると、$h\le f$ は「すべての $x$ で $\langle y,x\rangle-f(x)\le c$」すなわち $f^{*}(y)\le c$ を意味するので、$f^{**}(x_0)\ge\langle y,x_0\rangle-f^{*}(y)\ge h(x_0)>\alpha$ です。$\alpha<f(x_0)$ は任意なので $f^{**}(x_0)\ge f(x_0)$ です。

主張の証明。 $E=\operatorname{epi}f\subseteq\mathbb{R}^{n+1}$ は空でない閉凸集合（命題 2.2）で、$(x_0,\alpha)\notin E$ です。補題 5.4 により $(b,\beta)\in\mathbb{R}^n\times\mathbb{R}$ と実数 $\gamma$ で

$$\langle b,x\rangle+\beta t<\gamma<\langle b,x_0\rangle+\beta\alpha\qquad((x,t)\in E)$$

となるものがあります。$(x,t)\in E$ なら $t$ をいくらでも大きくできるので $\beta\le0$ です。

(i) $\beta<0$ の場合：$x\in\operatorname{dom}f$ について $t=f(x)$ とおけば $f(x)>(\gamma-\langle b,x\rangle)/\beta$、つまり $h(x):=(\gamma-\langle b,x\rangle)/\beta$ は $f$ 以下のアフィン関数です。右側の不等式を $\beta<0$ で割ると $h(x_0)>\alpha$ です。

(ii) $\beta=0$ の場合：$\operatorname{dom}f$ 上で $\langle b,x\rangle<\gamma$、かつ $\langle b,x_0\rangle>\gamma$ です（とくに $x_0\notin\operatorname{dom}f$）。まず、$f$ 以下のアフィン関数 $h_0$ が少なくとも一つ存在します。実際、$x_1\in\operatorname{dom}f$ と $\alpha_1<f(x_1)$ に上の分離を行うと、$x_1\in\operatorname{dom}f$ なので (ii) の状況（$\langle b,x_1\rangle<\gamma<\langle b,x_1\rangle$）は起こらず、(i) によりアフィン関数が得られます。そこで $k>0$ について $h_k(x)=h_0(x)+k(\langle b,x\rangle-\gamma)$ とおくと、$\operatorname{dom}f$ 上で $h_k\le h_0\le f$、その外では $f=\infty$ なので $h_k\le f$ です。$h_k(x_0)=h_0(x_0)+k(\langle b,x_0\rangle-\gamma)\to\infty$（$k\to\infty$）なので、十分大きな $k$ で $h_k(x_0)>\alpha$ です。

∎

下半連続性は外せません。たとえば $f=\iota_{(-1,1)}$（開区間の標示関数）なら $f^{*}(y)=|y|$、$f^{**}=\iota_{[-1,1]}$ で、端点で $f^{**}\ne f$ です。凸でない $f$ では、$f^{**}$ は $f$ 以下の最大の凸下半連続関数（凸包絡）になります（演習 7.3）。熱力学では、これが Maxwell の等面積則に相当します。

6. 凸関数列の微分の収束

最後に、各点収束する凸関数列の勾配の収束を示します。準備として、各点収束が局所的に一様なリプシッツ評価を与えることを示します。

次の補題は、定理 3.2 の証明をそのままなぞりますが、関数が $k$ ごとに変わる点だけが違います。立方体の頂点の値は $k$ ごとに収束する数列なので有界で、そのため上からの評価にも下からの評価にも $k$ によらない定数が取れます。

補題 6.1（各点収束する凸関数列は局所一様にリプシッツ）✓

$U\subseteq\mathbb{R}^n$ を開凸集合、$f_k$ を $U$ 上で有限な凸関数の列とし、各 $x\in U$ で $f_k(x)$ が有限な極限 $f(x)$ に収束するとする。このとき各 $x_0\in U$ に対し、$r>0$ と $L$ が存在して、すべての $k$ について $f_k$ は $\overline{B}(x_0,r)$ 上で $L$-リプシッツである。極限 $f$ も凸で、同じ球の上で $L$-リプシッツである。

証明（補題 6.1）

定理 3.2 の証明を、$k$ について一様に行います。立方体 $Q=x_0+[-\delta,\delta]^n\subseteq U$ の頂点 $v_\sigma$ は有限個で、各 $(f_k(v_\sigma))_k$ は収束列なので有界です。よって $M_1:=\sup_k\max_\sigma f_k(v_\sigma)<\infty$ で、$Q$ 上 $f_k\le M_1$ です。同様に $m_0:=\inf_kf_k(x_0)>-\infty$ で、$Q$ 上 $f_k\ge2m_0-M_1$ です。したがって $k$ によらない $M$ で $Q$ 上 $|f_k|\le M$ となり、補題 3.1 から $\overline{B}(x_0,\delta/2)$ 上ですべての $f_k$ が $(4M/\delta)$-リプシッツです。凸性とリプシッツ性の不等式は各点の極限で保たれるので、$f$ も同じ性質をもちます。

∎

定理 6.2（劣勾配の収束）✓

補題 6.1 の仮定のもとで、$f$ が $x\in U$ で微分可能であるとする。$x_k\in U$、$x_k\to x$、$s_k\in\partial f_k(x_k)$ ならば、$s_k\to\nabla f(x)$ である。ここで $\partial f_k$ は、$f_k$ を $U$ の外で $+\infty$ と延ばした凸関数の劣微分とする。

証明（定理 6.2）

補題 6.1 の $r,L$ を $x$ について取ります。十分大きな $k$ で $|x_k-x|<r/2$ です。

有界性。 $s_k\ne0$ なら $u=s_k/|s_k|$ とし、$z=x_k+\frac r2u\in\overline{B}(x,r)$ を劣勾配の不等式に入れると $\frac r2|s_k|\le f_k(z)-f_k(x_k)\le L\frac r2$ なので、$|s_k|\le L$ です。

極限の同定。 $s$ を $(s_k)$ の任意の集積点とし、部分列 $s_{k_j}\to s$ を取ります。$z\in U$ について劣勾配の不等式は

$$f_{k_j}(z)\ge f_{k_j}(x_{k_j})+\langle s_{k_j},z-x_{k_j}\rangle$$

です。$|f_{k_j}(x_{k_j})-f(x)|\le L|x_{k_j}-x|+|f_{k_j}(x)-f(x)|\to0$（一様なリプシッツ性と各点収束）なので、$j\to\infty$ として $f(z)\ge f(x)+\langle s,z-x\rangle$（$z\in U$）を得ます。$d\in\mathbb{R}^n$ と小さな $t>0$ について $z=x+td$ とおけば $\frac{f(x+td)-f(x)}{t}\ge\langle s,d\rangle$ で、$t\downarrow0$ として $\langle\nabla f(x),d\rangle\ge\langle s,d\rangle$ です。$d=s-\nabla f(x)$ とおけば $s=\nabla f(x)$ です。

有界な列のすべての集積点が $\nabla f(x)$ に等しいので、$s_k\to\nabla f(x)$ です（収束しないなら、$\nabla f(x)$ から $\varepsilon$ 以上離れた部分列が取れ、Bolzano–Weierstrass によりその部分列は別の集積点をもつので矛盾）。

∎

系 6.3（勾配の局所一様収束）✓

$U\subseteq\mathbb{R}^n$ を開凸集合、$f_k$ と $f$ を $U$ 上で微分可能な有限凸関数とし、$U$ 上で $f_k\to f$ が各点収束するとする。このとき $\nabla f_k\to\nabla f$ は $U$ の各コンパクト部分集合上で一様収束する。とくに $\nabla f$ は連続である。

証明（系 6.3）

まず $\nabla f$ の連続性を示します。$x_k\to x$ なら、定数列 $f_k=f$ に 定理 6.2 を適用して $\nabla f(x_k)\to\nabla f(x)$ です（定理 4.3 により $\partial f(x_k)=\{\nabla f(x_k)\}$）。

$K\subseteq U$ をコンパクトとし、一様収束しないと仮定すると、$\varepsilon>0$、部分列 $k_j$、点 $x_j\in K$ で $|\nabla f_{k_j}(x_j)-\nabla f(x_j)|\ge\varepsilon$ となるものがあります。$K$ はコンパクトなので、さらに部分列を取って $x_j\to x\in K$ としてよいです。部分列 $f_{k_j}$ も $f$ に各点収束するので、定理 6.2 から $\nabla f_{k_j}(x_j)\to\nabla f(x)$、前段から $\nabla f(x_j)\to\nabla f(x)$ で、矛盾です。

∎

例 6.4（極限が微分できない点で起きること）

$f_k(x)=\sqrt{x^2+1/k}$ は滑らかな凸関数で、$f(x)=|x|$ に一様収束します。$x\ne0$ では $f_k'(x)=x/\sqrt{x^2+1/k}\to\operatorname{sign}x=f'(x)$ で、定理 6.2 のとおりです。$x=0$ では $f$ は微分できず、$x_k\to0$ の取り方によって $f_k'(x_k)$ は $[-1,1]=\partial f(0)$ の任意の値に近づけます（たとえば $x_k=c/\sqrt k$ なら $f_k'(x_k)\to c/\sqrt{c^2+1}$）。定理 6.2 の証明の「極限の同定」の段は、微分可能性なしでも集積点が $\partial f(x)$ に入ることを示しています。

凸性を外すと定理は崩れます。$g_k(x)=\sin(kx)/k$ は $0$ に一様収束しますが、$g_k'(x)=\cos(kx)$ はどの点でも $0$ に収束しません。

注意 6.5（熱力学極限への応用）

統計力学では、有限体積 $\Lambda$ の圧力 $p_\Lambda(\mu)=|\Lambda|^{-1}\log Z_\Lambda(\mu)$ が化学ポテンシャル $\mu$ の凸関数で、その導関数が粒子数密度です。$p_\Lambda\to p$ が各点で示せれば、$p$ が微分可能な $\mu$ で密度も収束することが 定理 6.2 から従います。$p$ が微分できない点（1 次相転移）では、密度の極限は $\partial p(\mu)$ の区間の中で境界条件によって変わり得ます。命題 3.4 の 3 により、そのような点は高々可算個です。

7. 演習

演習 7.1易

Jensen の不等式（定理 4.4）を $f=-\log$ に使って、正の数 $a_1,\dots,a_m$ の相加平均・相乗平均の不等式 $(a_1\cdots a_m)^{1/m}\le\frac1m(a_1+\cdots+a_m)$ を示せ。

解答

$\Omega=\{1,\dots,m\}$ に一様な確率 $P(\{i\})=1/m$ を入れ、$X(i)=a_i$ とします。$g=-\log$ は $(0,\infty)$ 上で凸です。実際 $g'(x)=-1/x$ は単調増加なので、$s<t<u$ について平均値の定理（定理 3.3［平均値の定理とテイラーの定理］）から $\frac{g(t)-g(s)}{t-s}=g'(\xi_1)\le g'(\xi_2)=\frac{g(u)-g(t)}{u-t}$（$\xi_1\in(s,t)$、$\xi_2\in(t,u)$）で、これを $t=(1-\lambda)s+\lambda u$ について整理すると凸性の不等式になります（命題 3.4 の 1 の計算を逆にたどる）。定理 4.4 の 2 から $-\log E[X]\le E[-\log X]$、すなわち $\log\frac{\sum a_i}{m}\ge\frac1m\sum\log a_i$ です。指数関数を取れば結論です。

演習 7.2標準

$f(x)=|x|$（$\mathbb{R}^n$ のユークリッドノルム）の劣微分を、$x=0$ と $x\ne0$ で求めよ。また $f^{*}$ を求めよ。

解答

$x\ne0$ では $f$ は微分可能で $\nabla f(x)=x/|x|$ なので、定理 4.3 から $\partial f(x)=\{x/|x|\}$ です。$x=0$ では $s\in\partial f(0)$ は「すべての $z$ で $|z|\ge\langle s,z\rangle$」で、コーシー・シュワルツの不等式から $|s|\le1$ なら成り立ち、$|s|>1$ なら $z=s$ で破れます。よって $\partial f(0)=\overline{B}(0,1)$ です。共役は、$|y|\le1$ なら $\langle x,y\rangle-|x|\le0$（等号は $x=0$）で $f^{*}(y)=0$、$|y|>1$ なら $x=ty$、$t\to\infty$ で $t(|y|^2-|y|)\to\infty$ なので $f^{*}(y)=\infty$ です。すなわち $f^{*}=\iota_{\overline{B}(0,1)}$ で、例 5.3 の 4 と合わせて 定理 5.5 を確かめられます。

演習 7.3難

$f:\mathbb{R}^n\to(-\infty,\infty]$ を、あるアフィン関数以上となる真な関数とする（凸とは限らない）。$f^{**}$ は、$f$ 以下の凸下半連続関数のうちで最大のものであることを示せ。$n=1$、$f(x)=(x^2-1)^2$ について $f^{**}$ を求めよ。

解答

$f^{**}\le f$ で、$f^{**}$ は凸下半連続です（命題 5.2）。$g$ を $f$ 以下の凸下半連続関数とすると、共役の定義から $g\le f$ なら $g^{*}\ge f^{*}$、もう一度共役を取ると $g^{**}\le f^{**}$ です。$f$ が真で $g\le f$ なので $g$ も真であり、定理 5.5 により $g=g^{**}\le f^{**}$ です。アフィン関数 $\langle a,x\rangle-c$ 以上という仮定は $f^{*}(a)\le c$ を与え、$f^{*}$ が真で $f^{**}$ が意味をもつために使います。

$f(x)=(x^2-1)^2$ は $x=\pm1$ で $0$ をとり、$|x|\ge1$ では $f''=12x^2-4>0$ なので凸です。$[-1,1]$ 上で $0$、$|x|\ge1$ で $f$ とした関数 $g$ は、$f'(\pm1)=0$ なので $\pm1$ で傾きがなめらかにつながり、導関数が単調非減少なので凸で（演習 7.1 の解答と同じ議論）、$f$ 以下です。$f$ 以下の凸関数 $h$ は $h(\pm1)\le0$ なので凸性から $[-1,1]$ 上で $h\le0=g$、外側では $h\le f=g$ です。よって $f^{**}=g$ で、二つの井戸の底を水平な線分で結んだ形になります（Maxwell の等面積則の形）。

参考文献

• R. T. Rockafellar, Convex Analysis, Princeton University Press, 1970 — §10（連続性と各点収束）、§12（共役関数）、§23–25（劣微分と微分可能性。§6 の定理は Theorem 24.5 と 25.7 に当たる）。
• J.-B. Hiriart-Urruty and C. Lemaréchal, Fundamentals of Convex Analysis, Springer, 2001 — 第 B〜E 章。
• H. H. Bauschke and P. L. Combettes, Convex Analysis and Monotone Operator Theory in Hilbert Spaces, 2nd ed., Springer, 2017 — 第 13 章（Fenchel–Moreau の定理の無限次元版）。
• B. Simon, The Statistical Mechanics of Lattice Gases, Vol. I, Princeton University Press, 1993 — 凸関数と熱力学極限（圧力の凸性と密度）。