# 凸解析：凸関数の連続性・劣微分・Legendre–Fenchel 変換と微分の収束 > 有限次元の凸関数が内部で局所リプシッツであることを示し、劣微分の存在と Jensen の不等式、Legendre–Fenchel 変換と Fenchel–Moreau の双対定理を証明する。最後に、各点収束する凸関数列の勾配が一様収束することを示す。 > https://rikai.mugen-giken.com/mathematics/real-analysis/convex-analysis ## 0. この記事の要点 「谷の形」をした関数は、角が尖っていて微分できない点があっても、その点を下から支える直線をいくつも引けます。この記事は、そのような関数について、傾きをどう扱うか、傾きの情報だけで元の関数がどこまで決まるかを調べます。読み終えると、微分できない点を含む関数でも最小点を見つけたり、熱力学の Legendre 変換を扱ったりするための基本の道具がそろいます。 - $\mathbb{R}^n$ の開凸集合上で有限な凸関数は、自動的に**局所リプシッツ連続**（各点の近くで[リプシッツ連続](/mathematics/real-analysis/uniform-continuity#def-lipschitz)、つまり 2 点での値の差が距離の定数倍で抑えられること）です。凸性という代数的な条件だけから連続性が出るのは、有限次元の特徴です。 - 微分できない点でも、凸関数には「下から接する傾き」の集合である**劣微分** $\partial f(x)$ があります。内点では空でなく、$\partial f(x)$ が 1 点であることと $f$ が微分可能であることは同値です。劣微分の存在から **Jensen の不等式**がすぐに従います。 - **Legendre–Fenchel 変換** $f^{*}(y)=\sup_x(\langle x,y\rangle-f(x))$ は、微分可能性も狭義凸性も仮定せずに定義できる Legendre 変換です。熱力学の自由エネルギーや、統計力学の圧力とエントロピーの関係がこの形をしています。 - **Fenchel–Moreau の定理**：真な関数 $f$ について、$f^{**}=f$ となるのは $f$ が凸かつ下半連続のときに限ります。証明の核心は、閉凸集合と外の点を超平面で分けることです。 - 凸関数の列が[各点収束](/mathematics/real-analysis/uniform-convergence#def-pointwise)すると、極限が微分可能な点では**勾配も収束**し、しかもコンパクト集合上で一様に収束します。一般の関数ではまったく成り立たない現象で、熱力学極限で「自由エネルギーの収束から密度の収束を導く」ときの道具になります。 ## 1. 動機 — 微分しないで「傾き」を扱う 熱力学では、内部エネルギー $U(S)$ からヘルムホルツの自由エネルギー $F(T)=\min_S(U(S)-TS)$ を作ります。教科書的な Legendre 変換は、$U$ が滑らかで狭義凸なとき、$T=U'(S)$ を $S$ について解いて代入する、という手順です（[熱力学ポテンシャル](/physics/thermodynamics/thermodynamic-potentials) の ）。しかし相転移があると、$F$ は折れ曲がり、$U$ には直線部分ができ、$T=U'(S)$ は一意に解けません。それでも「最小値を取る」という定義は意味をもちます。この定義を出発点にすると、微分可能性を仮定しない理論が作れます。それが凸解析です。 もう一つの動機は極限です。有限の系の自由エネルギー $f_N$ は滑らかでも、$N\to\infty$ の極限 $f$ は折れ曲がることがあります。それでも、$f$ が微分可能な点では $f_N'\to f'$ が成り立つでしょうか。一般の関数列では成り立ちません（$\sin(Nx)/N\to0$ でも導関数 $\cos(Nx)$ は収束しません）。凸関数列では成り立つ、というのがこの記事の最後の定理です。 この記事では、$\mathbb{R}^n$ の点を $x,y$ と書き、標準内積を $\langle x,y\rangle$、ユークリッドノルムを $|x|$、開球を $B(x,r)$ と書きます。 ## 2. 凸集合と凸関数 - $C\subseteq\mathbb{R}^n$ が**凸**であるとは、$x,y\in C$、$0\le\lambda\le1$ について $(1-\lambda)x+\lambda y\in C$ となることをいう。 - $f:\mathbb{R}^n\to(-\infty,\infty]$ が**凸**であるとは、$x,y\in\mathbb{R}^n$、$0\le\lambda\le1$ について $$ f((1-\lambda)x+\lambda y)\le(1-\lambda)f(x)+\lambda f(y) $$ となることをいう（$\infty$ を含む演算は $0\cdot\infty=0$、$a+\infty=\infty$ と約束する）。 - $\operatorname{dom}f=\{x:f(x)<\infty\}$ を**有効定義域**、$\operatorname{epi}f=\{(x,t)\in\mathbb{R}^n\times\mathbb{R}: f(x)\le t\}$ を**エピグラフ**という。$\operatorname{dom}f\ne\emptyset$ のとき $f$ は**真**であるという。 - $f$ が**下半連続**であるとは、すべての $x$ と $x_k\to x$ について $f(x)\le\liminf_kf(x_k)$ となることをいう。 値 $+\infty$ を許すのは、凸集合 $C$ 上の凸関数を「$C$ の外で $+\infty$」と延ばして $\mathbb{R}^n$ 全体の関数として扱うためです。とくに凸集合 $C$ の**標示関数** $\iota_C$（$C$ 上で $0$、外で $+\infty$）は凸関数です。 定義に出てきた言葉を言い換えておきます。有効定義域は「関数が有限の値を取る点の集まり」、エピグラフは「グラフとその上側を合わせた領域」です。凸関数とは、この領域が凸集合になる関数のことだ、と次の命題で言い直せます。
f のグラフ エピグラフ epi f
$f:\mathbb{R}^n\to(-\infty,\infty]$ について、次が成り立つ。 1. $f$ が凸であることと、$\operatorname{epi}f$ が $\mathbb{R}^{n+1}$ の凸集合であることは同値である。 2. $f$ が下半連続であることと、$\operatorname{epi}f$ が閉集合であることは同値である。 **1.** $f$ が凸で $(x,s),(y,t)\in\operatorname{epi}f$ なら $f((1-\lambda)x+\lambda y)\le(1-\lambda)s+\lambda t$ なので、内分点もエピグラフに入ります。逆に $\operatorname{epi}f$ が凸とし、$x,y\in\operatorname{dom}f$ とします（どちらかが $\operatorname{dom}f$ の外なら不等式の右辺は $\infty$）。$(x,f(x)),(y,f(y))\in\operatorname{epi}f$ の内分点がエピグラフに入ることが、凸性の不等式そのものです。 **2.** 下半連続とし、$(x_k,t_k)\in\operatorname{epi}f$ が $(x,t)$ に収束するとすると、$f(x)\le\liminf f(x_k)\le\lim t_k=t$ です。逆にエピグラフが閉で、$x_k\to x$、$\liminf f(x_k) ## 3. 凸関数の連続性 凸関数の連続性は、「上から押さえられれば、自動的に下からも押さえられ、さらにリプシッツになる」という 2 段階で示します。 $f$ を凸関数とし、閉球 $\overline{B}(x_0,2r)$ 上で有限かつ $|f|\le M$ とする。このとき $x,y\in\overline{B}(x_0,r)$ について $$ |f(x)-f(y)|\le\frac{2M}{r}|x-y|. $$ $x\ne y$ とし、$z=y+r\frac{y-x}{|y-x|}$ とおくと、$|z-x_0|\le|y-x_0|+r\le2r$ です。$\lambda=\frac{|y-x|}{r+|y-x|}$ とすると $y=(1-\lambda)x+\lambda z$ と書けるので（$z-x=\frac{r+|y-x|}{|y-x|}(y-x)$ から確かめられます）、凸性から $$ f(y)-f(x)\le\lambda(f(z)-f(x))\le\lambda\cdot2M\le\frac{2M}{r}|y-x|. $$ $x,y$ を入れ替えれば逆向きの不等式も出ます。 次の定理の証明の考え方は、「立方体の角（頂点）での値さえ押さえれば、中の値も押さえられる」ことです。$n=1$ なら、区間 $[x_0-\delta,x_0+\delta]$ の点は両端点の $(1-\lambda)$ と $\lambda$ の重みの平均です。$n=2$ なら、正方形の点は 4 つの角の重み $(1-\lambda_1)(1-\lambda_2)$、$\lambda_1(1-\lambda_2)$、$(1-\lambda_1)\lambda_2$、$\lambda_1\lambda_2$ の平均で、この 4 つの重みの和は 1 です。証明の式は、これを $n$ 個の座標に広げたものです。 $U\subseteq\mathbb{R}^n$ を開凸集合、$f$ を $U$ 上で有限な凸関数とする。このとき各 $x_0\in U$ に対し、$r>0$ と $L$ が存在して $f$ は $\overline{B}(x_0,r)$ 上で $L$-リプシッツである。とくに $f$ は $U$ 上で連続である。 $\delta>0$ を、立方体 $Q=x_0+[-\delta,\delta]^n$ が $U$ に含まれるように取ります。 **上からの評価。** $Q$ の各点は $Q$ の $2^n$ 個の頂点の凸結合です。実際、$x=x_0+(\delta(2\lambda_i-1))_{i}$（$\lambda_i\in[0,1]$）と書くと、頂点 $v_\sigma=x_0+(\delta\sigma_i)_i$（$\sigma\in\{-1,1\}^n$）に重み $\prod_i\lambda_i^{(1+\sigma_i)/2}(1-\lambda_i)^{(1-\sigma_i)/2}$ を付けた凸結合が $x$ に一致します（座標ごとに展開すれば $i$ 番目の座標は $\lambda_i\delta-(1-\lambda_i)\delta$ です）。凸性の不等式を繰り返し使うと（有限個の凸結合への拡張は $\lambda$ の個数に関する帰納法）、$Q$ 上で $f\le M_1:=\max_\sigma f(v_\sigma)$ です。 **下からの評価。** $x\in Q$ なら $2x_0-x\in Q$ で、$x_0$ は $x$ と $2x_0-x$ の中点なので $f(x_0)\le\frac12f(x)+\frac12f(2x_0-x)$、すなわち $f(x)\ge2f(x_0)-M_1$ です。 したがって $M=\max(|M_1|,|2f(x_0)-M_1|)$ について $Q$ 上で $|f|\le M$ です。$Q\supseteq\overline{B}(x_0,\delta)$ なので、 を $r=\delta/2$ で使えば $\overline{B}(x_0,\delta/2)$ 上で $(4M/\delta)$-リプシッツです。 1. $f:[0,1]\to\mathbb{R}$ を $f(0)=1$、$0 は開集合の上での主張です。 2. 無限次元のノルム空間では、至るところ有限な凸関数（さらに線形汎関数）でも連続とは限りません。 の証明は、有限個の頂点で立方体を張れることを使っています。 1 変数では、凸性は「傾きが増える」ことと同じです。 $I\subseteq\mathbb{R}$ を開区間、$f$ を $I$ 上で有限な凸関数とする。 1. （3 弦の補題）$s **1.** $t=(1-\lambda)s+\lambda u$、$\lambda=\frac{t-s}{u-s}$ と書くと $f(t)\le(1-\lambda)f(s)+\lambda f(u)$ です。両辺から $f(s)$ を引いて $t-s=\lambda(u-s)$ で割ると左の不等式、$f(u)$ を引いて $u-t=(1-\lambda)(u-s)$ で割ると右の不等式です。 **2.** 1 から、$h\mapsto\frac{f(x+h)-f(x)}{h}$ は $h\in(0,\varepsilon)$ で単調非減少で、$h<0$ の値で下から押さえられます。よって $h\downarrow0$ の極限 $f'_+(x)$ が有限値で存在し、同様に $f'_-(x)$ も存在して $f'_-(x)\le f'_+(x)$ です。$x ## 4. 劣微分 $f:\mathbb{R}^n\to(-\infty,\infty]$ を凸関数、$x\in\operatorname{dom}f$ とする。$s\in\mathbb{R}^n$ が $x$ における $f$ の**劣勾配**であるとは、 $$ f(z)\ge f(x)+\langle s,z-x\rangle\qquad(z\in\mathbb{R}^n) $$ となることをいう。劣勾配全体を $\partial f(x)$ と書き、**劣微分**という。 劣勾配とは、グラフに $x$ で下から接する超平面の傾きです。$f(x)=|x|$（$n=1$）なら $\partial f(0)=[-1,1]$、$x\ne0$ では $\partial f(x)=\{\operatorname{sign}x\}$ です。定義から直ちに、**$0\in\partial f(x)$ と $x$ が $f$ の最小点であることは同値**です。凸最適化で「勾配が $0$ なら最小」が成り立つ理由はこれです。 劣微分の存在を示すために、[方向微分](/mathematics/calculus/multivariable-differentiation#def-directional)（ある向きに動かしたときの変化率）を使います。次の補題の「劣線形」とは、$p(cd)=cp(d)$（$c>0$）と $p(d_1+d_2)\le p(d_1)+p(d_2)$ を満たすことです。線形より少し緩い条件で、Hahn–Banach の定理が「線形汎関数を $p$ 以下に保ったまま延ばす」ときの上からの制約の役をします。 $f$ を凸関数、$x$ を $\operatorname{dom}f$ の内点とする。このとき各 $d\in\mathbb{R}^n$ について $$ f'(x;d):=\lim_{t\downarrow0}\frac{f(x+td)-f(x)}{t} $$ は有限値で存在し、$d\mapsto f'(x;d)$ は劣線形（）で、$f'(x;d)\le f(x+d)-f(x)$ を満たす。 $\varphi(t)=f(x+td)$ は $0$ を含む開区間で有限な 1 変数凸関数なので、 の 2 により $f'(x;d)=\varphi'_+(0)$ は有限値で存在し、差分商の単調性から $f'(x;d)\le\varphi(1)-\varphi(0)$（$x+d\notin\operatorname{dom}f$ なら右辺は $\infty$ で自明）です。$c>0$ について $f'(x;cd)=cf'(x;d)$ は定義から明らかです。劣加法性は、凸性 $f(x+t(d_1+d_2))\le\frac12f(x+2td_1)+\frac12f(x+2td_2)$ の両辺から $f(x)$ を引いて $t$ で割り、$t\downarrow0$ とすれば得られます。 $f$ を凸関数、$x$ を $\operatorname{dom}f$ の内点とする。このとき $\partial f(x)$ は空でないコンパクト凸集合で、 $$ f'(x;d)=\max_{s\in\partial f(x)}\langle s,d\rangle\qquad(d\in\mathbb{R}^n). $$ さらに、$f$ が $x$ で微分可能であることと、$\partial f(x)$ がただ 1 点からなることは同値であり、そのとき $\partial f(x)=\{\nabla f(x)\}$ である。 **特徴づけ。** $s\in\partial f(x)$ と「すべての $d$ で $\langle s,d\rangle\le f'(x;d)$」は同値です。実際、前者なら $\frac{f(x+td)-f(x)}{t}\ge\langle s,d\rangle$ で $t\downarrow0$ とすればよく、後者なら から $\langle s,d\rangle\le f'(x;d)\le f(x+d)-f(x)$ で、$d=z-x$ とすればよいです。この特徴づけから $\partial f(x)$ は閉凸集合で、$f'(x;\cdot)$ は有限な凸関数なので連続で（）単位球面上で有界であり、 $\partial f(x)$ は有界、したがってコンパクトです（）。 **最大値公式。** $d$ を固定し、部分空間 $\mathbb{R}d$ 上の線形汎関数 $\ell(td)=tf'(x;d)$ を考えます。$t\ge0$ では $\ell(td)=f'(x;td)$、$t<0$ では劣線形性から $0=f'(x;0)\le f'(x;td)+f'(x;-td)$ なので $\ell(td)=-f'(x;-td)\le f'(x;td)$ です。Hahn–Banach の定理（）で $\ell$ を $\mathbb{R}^n$ 上の線形汎関数 $L\le f'(x;\cdot)$ に延ばし、$L=\langle s,\cdot\rangle$ と書くと、特徴づけから $s\in\partial f(x)$ で $\langle s,d\rangle=f'(x;d)$ です。とくに $\partial f(x)\ne\emptyset$ です。 **微分可能性。** $f$ が $x$ で微分可能なら $f'(x;d)=\langle\nabla f(x),d\rangle$ で、$s\in\partial f(x)$ は $\langle s-\nabla f(x),d\rangle\le0$ をすべての $d$ で満たすので、$d=s-\nabla f(x)$ として $s=\nabla f(x)$ です。逆に $\partial f(x)=\{s\}$ なら最大値公式から $f'(x;d)=\langle s,d\rangle$ です。$g(h)=f(x+h)-f(x)-\langle s,h\rangle$ は凸で $g\ge0$、$g(0)=0$、すべての方向で $g'(0;d)=0$ です。$h=\sum_ih_ie_i$、$\lambda=\sum_i|h_i|>0$ とすると、$h=\sum_i\frac{|h_i|}{\lambda}(\lambda\sigma_ie_i)$（$\sigma_i=\operatorname{sign}h_i$）は凸結合なので $$ 0\le\frac{g(h)}{\lambda}\le\max_{i,\ \pm}\frac{g(\pm\lambda e_i)}{\lambda}\xrightarrow[\lambda\to0]{}0 $$ です。$|h|\le\lambda\le\sqrt n|h|$ なので $g(h)/|h|\to0$、すなわち $f$ は $x$ で微分可能で $\nabla f(x)=s$ です。 $(\Omega,\mathcal{F},P)$ を確率空間とする。 1. $f:\mathbb{R}^n\to\mathbb{R}$ を凸関数、$X$ を可積分な $\mathbb{R}^n$ 値確率変数とすると、$f(X)$ の期待値は $(-\infty,\infty]$ の値として定まり、$f(E[X])\le E[f(X)]$ である。 2. $n=1$ で、$f$ が開区間 $I$ 上で有限な凸関数、$X$ が $I$ に値をとる可積分な確率変数なら、$E[X]\in I$ であり、同じ不等式が成り立つ。 **1.** $m=E[X]$ とし、 で $s\in\partial f(m)$ を取ります。すべての $\omega$ で $f(X(\omega))\ge f(m)+\langle s,X(\omega)-m\rangle$ です。右辺は可積分なので $f(X)$ の負の部分は可積分で、$E[f(X)]$ は $(-\infty,\infty]$ の値として定まります。両辺の期待値を取ると $E[f(X)]\ge f(m)+\langle s,E[X]-m\rangle=f(m)$ です（$f(X)$ の可測性は による連続性から従います）。 **2.** $I=(a,b)$ とします。$b<\infty$ で $E[X]=b$ なら $E[b-X]=0$ かつ $b-X>0$ なので矛盾、$E[X]>b$ も $X 条件付き期待値版（）も、劣勾配による下からの評価を使うという点で同じ仕組みです。 ## 5. Legendre–Fenchel 変換 真な関数 $f:\mathbb{R}^n\to(-\infty,\infty]$ に対し、 $$ f^{*}(y):=\sup_{x\in\mathbb{R}^n}\bigl(\langle x,y\rangle-f(x)\bigr)\qquad(y\in\mathbb{R}^n) $$ を $f$ の **Legendre–Fenchel 変換**（**共役関数**）という。$f^{**}:=(f^{*})^{*}$ と書く。 $f^{*}(y)$ は、傾き $y$ の直線（超平面）$\langle x,y\rangle-c$ がグラフの下に収まる最小の切片 $c$ です。下の図のように、傾きを指定してグラフを下から支える直線を探す、と読めます。
切片 −f*(y) 接点 x 傾き y f
$f$ を真な関数とする。 1. $f^{*}$ は凸かつ下半連続である（値 $+\infty$ を取り得る）。 2. （Fenchel–Young の不等式）すべての $x,y$ で $f(x)+f^{*}(y)\ge\langle x,y\rangle$。 3. $f$ が凸なら、$x\in\operatorname{dom}f$ について、等号 $f(x)+f^{*}(y)=\langle x,y\rangle$ と $y\in\partial f(x)$ は同値である。 4. $f^{**}\le f$。 **1.** 各 $x\in\operatorname{dom}f$ について $y\mapsto\langle x,y\rangle-f(x)$ はアフィン（したがって凸かつ連続）で、$f^{*}$ はその上限です。凸関数の族の上限は凸で（各関数の凸性の不等式の右辺を上限で押さえればよい）、連続関数の族の上限は下半連続です（エピグラフが閉集合の共通部分になり、 の 2）。 **2.** 定義の上限は $x$ での値以上です（$f(x)=\infty$ なら自明）。 **3.** $y\in\partial f(x)$ は「すべての $z$ で $\langle z,y\rangle-f(z)\le\langle x,y\rangle-f(x)$」と書き直せ、これは上限が $z=x$ で達成されること、すなわち $f^{*}(y)=\langle x,y\rangle-f(x)$ と同値です。 **4.** 2 から、すべての $y$ で $\langle x,y\rangle-f^{*}(y)\le f(x)$ なので、$y$ について上限を取れば $f^{**}(x)\le f(x)$ です。 1. $p>1$、$\frac1p+\frac1q=1$ とし、$f(x)=\frac1p|x|^p$（$n=1$）とします。$xy-\frac1p|x|^p$ の最大は $|x|^{p-1}=|y|$ で達成され、$f^{*}(y)=\frac1q|y|^q$ です。Fenchel–Young の不等式はヤングの不等式 $xy\le\frac{|x|^p}{p}+\frac{|y|^q}{q}$（）です。 2. $A$ を正定値対称行列、$f(x)=\frac12\langle x,Ax\rangle$ とすると、$\langle x,y\rangle-f(x)$ の勾配が $0$ になるのは $x=A^{-1}y$ のときで、$f^{*}(y)=\frac12\langle y,A^{-1}y\rangle$ です。 3. $f(x)=e^x$ なら、$y>0$ で $f^{*}(y)=y\log y-y$、$f^{*}(0)=0$、$y<0$ で $f^{*}(y)=\infty$ です（$y<0$ では $x\to-\infty$ で $xy-e^x\to\infty$）。統計力学では、自由エネルギー（対数分配関数）の共役がエントロピーになる、という関係の最も簡単な例です。 4. 凸集合 $C$ の標示関数については $\iota_C^{*}(y)=\sup_{x\in C}\langle x,y\rangle$（**支持関数**）です。$C$ が単位球なら $\iota_C^{*}(y)=|y|$ です。 ### 5.1. 分離定理と Fenchel–Moreau の定理 $f^{**}=f$ を示す鍵は、閉凸集合とその外の点を超平面で分けることです。有限次元では、最近点への射影で直接示せます。 $C\subseteq\mathbb{R}^m$ を空でない閉凸集合、$p\notin C$ とする。このとき $v\in\mathbb{R}^m$ で $$ \sup_{c\in C}\langle v,c\rangle<\langle v,p\rangle $$ となるものが存在する。 $c_0\in C$ を取ります。$C\cap\overline{B}(p,|p-c_0|)$ は有界閉集合なのでコンパクトで（）、連続関数 $c\mapsto|p-c|$ はそこで最小値をとります（）。最小点 $q$ は $C$ 全体での $p$ への最近点です。$c\in C$、$0 無限次元のノルム空間でも同じ形の分離定理が成り立ちます（）。ここでは有限次元で足ります。 $f:\mathbb{R}^n\to(-\infty,\infty]$ を真な関数とする。$f^{**}=f$ であるための必要十分条件は、$f$ が凸かつ下半連続であることである。 **必要性。** $f^{**}=f$ なら、$f$ は（$f^{*}$ が真でない場合も含めて）アフィン関数の族の上限なので、 の 1 と同じ理由で凸かつ下半連続です。 **十分性。** $f$ を真な凸下半連続関数とします。 の 4 から $f^{**}\le f$ なので、逆向きを示します。鍵となるのは次の主張です。 **主張.** $x_0\in\mathbb{R}^n$、$\alpha\alpha$ となるものがある。 これを認めると、$h\le f$ は「すべての $x$ で $\langle y,x\rangle-f(x)\le c$」すなわち $f^{*}(y)\le c$ を意味するので、$f^{**}(x_0)\ge\langle y,x_0\rangle-f^{*}(y)\ge h(x_0)>\alpha$ です。$\alpha）で、$(x_0,\alpha)\notin E$ です。 により $(b,\beta)\in\mathbb{R}^n\times\mathbb{R}$ と実数 $\gamma$ で $$ \langle b,x\rangle+\beta t<\gamma<\langle b,x_0\rangle+\beta\alpha\qquad((x,t)\in E) $$ となるものがあります。$(x,t)\in E$ なら $t$ をいくらでも大きくできるので $\beta\le0$ です。 (i) $\beta<0$ の場合：$x\in\operatorname{dom}f$ について $t=f(x)$ とおけば $f(x)>(\gamma-\langle b,x\rangle)/\beta$、つまり $h(x):=(\gamma-\langle b,x\rangle)/\beta$ は $f$ 以下のアフィン関数です。右側の不等式を $\beta<0$ で割ると $h(x_0)>\alpha$ です。 (ii) $\beta=0$ の場合：$\operatorname{dom}f$ 上で $\langle b,x\rangle<\gamma$、かつ $\langle b,x_0\rangle>\gamma$ です（とくに $x_0\notin\operatorname{dom}f$）。まず、$f$ 以下のアフィン関数 $h_0$ が少なくとも一つ存在します。実際、$x_1\in\operatorname{dom}f$ と $\alpha_10$ について $h_k(x)=h_0(x)+k(\langle b,x\rangle-\gamma)$ とおくと、$\operatorname{dom}f$ 上で $h_k\le h_0\le f$、その外では $f=\infty$ なので $h_k\le f$ です。$h_k(x_0)=h_0(x_0)+k(\langle b,x_0\rangle-\gamma)\to\infty$（$k\to\infty$）なので、十分大きな $k$ で $h_k(x_0)>\alpha$ です。 下半連続性は外せません。たとえば $f=\iota_{(-1,1)}$（開区間の標示関数）なら $f^{*}(y)=|y|$、$f^{**}=\iota_{[-1,1]}$ で、端点で $f^{**}\ne f$ です。凸でない $f$ では、$f^{**}$ は $f$ 以下の最大の凸下半連続関数（**凸包絡**）になります（）。熱力学では、これが Maxwell の等面積則に相当します。 ## 6. 凸関数列の微分の収束 最後に、各点収束する凸関数列の勾配の収束を示します。準備として、各点収束が局所的に**一様な**リプシッツ評価を与えることを示します。 次の補題は、 の証明をそのままなぞりますが、関数が $k$ ごとに変わる点だけが違います。立方体の頂点の値は $k$ ごとに収束する数列なので有界で、そのため上からの評価にも下からの評価にも $k$ によらない定数が取れます。 $U\subseteq\mathbb{R}^n$ を開凸集合、$f_k$ を $U$ 上で有限な凸関数の列とし、各 $x\in U$ で $f_k(x)$ が有限な極限 $f(x)$ に収束するとする。このとき各 $x_0\in U$ に対し、$r>0$ と $L$ が存在して、すべての $k$ について $f_k$ は $\overline{B}(x_0,r)$ 上で $L$-リプシッツである。極限 $f$ も凸で、同じ球の上で $L$-リプシッツである。 の証明を、$k$ について一様に行います。立方体 $Q=x_0+[-\delta,\delta]^n\subseteq U$ の頂点 $v_\sigma$ は有限個で、各 $(f_k(v_\sigma))_k$ は収束列なので有界です。よって $M_1:=\sup_k\max_\sigma f_k(v_\sigma)<\infty$ で、$Q$ 上 $f_k\le M_1$ です。同様に $m_0:=\inf_kf_k(x_0)>-\infty$ で、$Q$ 上 $f_k\ge2m_0-M_1$ です。したがって $k$ によらない $M$ で $Q$ 上 $|f_k|\le M$ となり、 から $\overline{B}(x_0,\delta/2)$ 上ですべての $f_k$ が $(4M/\delta)$-リプシッツです。凸性とリプシッツ性の不等式は各点の極限で保たれるので、$f$ も同じ性質をもちます。 の仮定のもとで、$f$ が $x\in U$ で微分可能であるとする。$x_k\in U$、$x_k\to x$、$s_k\in\partial f_k(x_k)$ ならば、$s_k\to\nabla f(x)$ である。ここで $\partial f_k$ は、$f_k$ を $U$ の外で $+\infty$ と延ばした凸関数の劣微分とする。 の $r,L$ を $x$ について取ります。十分大きな $k$ で $|x_k-x|0$ について $z=x+td$ とおけば $\frac{f(x+td)-f(x)}{t}\ge\langle s,d\rangle$ で、$t\downarrow0$ として $\langle\nabla f(x),d\rangle\ge\langle s,d\rangle$ です。$d=s-\nabla f(x)$ とおけば $s=\nabla f(x)$ です。 有界な列のすべての集積点が $\nabla f(x)$ に等しいので、$s_k\to\nabla f(x)$ です（収束しないなら、$\nabla f(x)$ から $\varepsilon$ 以上離れた部分列が取れ、Bolzano–Weierstrass によりその部分列は別の集積点をもつので矛盾）。 $U\subseteq\mathbb{R}^n$ を開凸集合、$f_k$ と $f$ を $U$ 上で微分可能な有限凸関数とし、$U$ 上で $f_k\to f$ が各点収束するとする。このとき $\nabla f_k\to\nabla f$ は $U$ の各コンパクト部分集合上で一様収束する。とくに $\nabla f$ は連続である。 まず $\nabla f$ の連続性を示します。$x_k\to x$ なら、定数列 $f_k=f$ に を適用して $\nabla f(x_k)\to\nabla f(x)$ です（ により $\partial f(x_k)=\{\nabla f(x_k)\}$）。 $K\subseteq U$ をコンパクトとし、一様収束しないと仮定すると、$\varepsilon>0$、部分列 $k_j$、点 $x_j\in K$ で $|\nabla f_{k_j}(x_j)-\nabla f(x_j)|\ge\varepsilon$ となるものがあります。$K$ はコンパクトなので、さらに部分列を取って $x_j\to x\in K$ としてよいです。部分列 $f_{k_j}$ も $f$ に各点収束するので、 から $\nabla f_{k_j}(x_j)\to\nabla f(x)$、前段から $\nabla f(x_j)\to\nabla f(x)$ で、矛盾です。 $f_k(x)=\sqrt{x^2+1/k}$ は滑らかな凸関数で、$f(x)=|x|$ に一様収束します。$x\ne0$ では $f_k'(x)=x/\sqrt{x^2+1/k}\to\operatorname{sign}x=f'(x)$ で、 のとおりです。$x=0$ では $f$ は微分できず、$x_k\to0$ の取り方によって $f_k'(x_k)$ は $[-1,1]=\partial f(0)$ の任意の値に近づけます（たとえば $x_k=c/\sqrt k$ なら $f_k'(x_k)\to c/\sqrt{c^2+1}$）。 の証明の「極限の同定」の段は、微分可能性なしでも集積点が $\partial f(x)$ に入ることを示しています。 凸性を外すと定理は崩れます。$g_k(x)=\sin(kx)/k$ は $0$ に一様収束しますが、$g_k'(x)=\cos(kx)$ はどの点でも $0$ に収束しません。 統計力学では、有限体積 $\Lambda$ の圧力 $p_\Lambda(\mu)=|\Lambda|^{-1}\log Z_\Lambda(\mu)$ が化学ポテンシャル $\mu$ の凸関数で、その導関数が粒子数密度です。$p_\Lambda\to p$ が各点で示せれば、$p$ が微分可能な $\mu$ で密度も収束することが から従います。$p$ が微分できない点（1 次相転移）では、密度の極限は $\partial p(\mu)$ の区間の中で境界条件によって変わり得ます。 の 3 により、そのような点は高々可算個です。 ## 7. 演習 Jensen の不等式（）を $f=-\log$ に使って、正の数 $a_1,\dots,a_m$ の相加平均・相乗平均の不等式 $(a_1\cdots a_m)^{1/m}\le\frac1m(a_1+\cdots+a_m)$ を示せ。 $\Omega=\{1,\dots,m\}$ に一様な確率 $P(\{i\})=1/m$ を入れ、$X(i)=a_i$ とします。$g=-\log$ は $(0,\infty)$ 上で凸です。実際 $g'(x)=-1/x$ は単調増加なので、$s）から $\frac{g(t)-g(s)}{t-s}=g'(\xi_1)\le g'(\xi_2)=\frac{g(u)-g(t)}{u-t}$（$\xi_1\in(s,t)$、$\xi_2\in(t,u)$）で、これを $t=(1-\lambda)s+\lambda u$ について整理すると凸性の不等式になります（ の 1 の計算を逆にたどる）。 の 2 から $-\log E[X]\le E[-\log X]$、すなわち $\log\frac{\sum a_i}{m}\ge\frac1m\sum\log a_i$ です。指数関数を取れば結論です。 $f(x)=|x|$（$\mathbb{R}^n$ のユークリッドノルム）の劣微分を、$x=0$ と $x\ne0$ で求めよ。また $f^{*}$ を求めよ。 $x\ne0$ では $f$ は微分可能で $\nabla f(x)=x/|x|$ なので、 から $\partial f(x)=\{x/|x|\}$ です。$x=0$ では $s\in\partial f(0)$ は「すべての $z$ で $|z|\ge\langle s,z\rangle$」で、コーシー・シュワルツの不等式から $|s|\le1$ なら成り立ち、$|s|>1$ なら $z=s$ で破れます。よって $\partial f(0)=\overline{B}(0,1)$ です。共役は、$|y|\le1$ なら $\langle x,y\rangle-|x|\le0$（等号は $x=0$）で $f^{*}(y)=0$、$|y|>1$ なら $x=ty$、$t\to\infty$ で $t(|y|^2-|y|)\to\infty$ なので $f^{*}(y)=\infty$ です。すなわち $f^{*}=\iota_{\overline{B}(0,1)}$ で、 の 4 と合わせて を確かめられます。 $f:\mathbb{R}^n\to(-\infty,\infty]$ を、あるアフィン関数以上となる真な関数とする（凸とは限らない）。$f^{**}$ は、$f$ 以下の凸下半連続関数のうちで最大のものであることを示せ。$n=1$、$f(x)=(x^2-1)^2$ について $f^{**}$ を求めよ。 $f^{**}\le f$ で、$f^{**}$ は凸下半連続です（）。$g$ を $f$ 以下の凸下半連続関数とすると、共役の定義から $g\le f$ なら $g^{*}\ge f^{*}$、もう一度共役を取ると $g^{**}\le f^{**}$ です。$f$ が真で $g\le f$ なので $g$ も真であり、 により $g=g^{**}\le f^{**}$ です。アフィン関数 $\langle a,x\rangle-c$ 以上という仮定は $f^{*}(a)\le c$ を与え、$f^{*}$ が真で $f^{**}$ が意味をもつために使います。 $f(x)=(x^2-1)^2$ は $x=\pm1$ で $0$ をとり、$|x|\ge1$ では $f''=12x^2-4>0$ なので凸です。$[-1,1]$ 上で $0$、$|x|\ge1$ で $f$ とした関数 $g$ は、$f'(\pm1)=0$ なので $\pm1$ で傾きがなめらかにつながり、導関数が単調非減少なので凸で（ の解答と同じ議論）、$f$ 以下です。$f$ 以下の凸関数 $h$ は $h(\pm1)\le0$ なので凸性から $[-1,1]$ 上で $h\le0=g$、外側では $h\le f=g$ です。よって $f^{**}=g$ で、二つの井戸の底を水平な線分で結んだ形になります（Maxwell の等面積則の形）。 ## 参考文献 - R. T. Rockafellar, *Convex Analysis*, Princeton University Press, 1970 — §10（連続性と各点収束）、§12（共役関数）、§23–25（劣微分と微分可能性。§6 の定理は Theorem 24.5 と 25.7 に当たる）。 - J.-B. Hiriart-Urruty and C. Lemaréchal, *Fundamentals of Convex Analysis*, Springer, 2001 — 第 B〜E 章。 - H. H. Bauschke and P. L. Combettes, *Convex Analysis and Monotone Operator Theory in Hilbert Spaces*, 2nd ed., Springer, 2017 — 第 13 章（Fenchel–Moreau の定理の無限次元版）。 - B. Simon, *The Statistical Mechanics of Lattice Gases*, Vol. I, Princeton University Press, 1993 — 凸関数と熱力学極限（圧力の凸性と密度）。