コンテンツにスキップ

多変数関数の微分と偏微分:微分とは「一次近似」のことである

対象読者: 本テーマ第 1〜4 章の 1 変数の極限・微分・積分を学び、学部 1 年の線形代数(行列・行列式・二次形式)を知っている人。偏微分や全微分は未習でもかまいません。

前提となる記事:積分の基本定理と定積分:リーマン和から原始関数へ

生 Markdown

山の斜面の傾きは、東へ進むときと北へ進むときで違います。では「この地点の傾き」を、どう決めればよいのでしょうか。東西・南北の傾きを別々に調べるだけでは足りない例があります。この記事はその例から始めて、「曲面を、その地点のすぐ近くでは 1 枚の平らな板で置き換える」という見方で微分を定義し直します。読み終えると、その板(接平面)の式、いちばん急に登る向き、頂上・谷底・峠の見分け方を計算できるようになります。

  • 2 変数関数の「微分」は、各変数ごとに微分すること(偏微分)ではありません。偏導関数が両方存在しても、その点で関数が連続ですらない例があります。
  • 正しい一般化は「一次関数で近似したときの誤差が o(∥h∥)o(\|\boldsymbol h\|) になること」、すなわち全微分可能性です。連続性・方向微分・接平面は、すべてこの 1 つの定義から出てきます。
  • 偏導関数が近傍で存在してその点で連続(C1C^1 級)なら、全微分可能です。実際の計算では、微分可能性はほぼこの十分条件で確認します。
  • 2 次までのテイラー展開の 2 次項は、ヘッセ行列 HH による 2 次形式を用いて 12 hTHh\frac{1}{2}\,\boldsymbol h^{\mathsf{T}} H \boldsymbol h と書けます。極値判定は、この 2 次形式 hTHh\boldsymbol h^{\mathsf{T}} H \boldsymbol h が正定値・負定値・不定値のどれかを見る問題に還元されます。
  • 証明は 2 変数で行いますが、全微分の定義・C1C^1 級ならば全微分可能・連鎖律(ヤコビ行列の積)・平均値不等式・偏微分の順序交換は、§9 で nn 変数・ベクトル値(Rn→Rm\mathbb{R}^n\to\mathbb{R}^m)の場合にも証明します。
  • det⁡H>0\det H > 0 かつ fxx>0f_{xx} > 0 なら極小、det⁡H<0\det H < 0 なら鞍点(峠のように、ある向きには登りある向きには下る点)です。det⁡H=0\det H = 0 のときは 2 次の情報だけでは決まらず、実際に判定できない例を挙げます。

1. 動機:偏微分だけでは「微分」にならない

Section titled “1. 動機:偏微分だけでは「微分」にならない”

1 変数の微分係数 f′(a)f'(a) には 2 つの顔がありました。1 つは「接線の傾き」という幾何的な顔、もう 1 つは

f(a+h)=f(a)+f′(a)h+o(h)(h→0)f(a+h) = f(a) + f'(a)h + o(h) \qquad (h \to 0)

という一次近似としての顔です。この 2 つは同じことの言い換えでした(導関数の定義と基本的な微分法 の 微分可能性と一次近似(定理 4.1)[導関数の定義と基本的な微分法])。

変数を 2 つに増やすと、この 2 つの顔がずれ始めます。z=f(x,y)z = f(x,y) のグラフは空間内の曲面です。曲面の「接するもの」は直線ではなく平面でしょう。ところが平面は方向を 2 つ持っています。そこで素朴に考えれば、yy を固定して xx で微分し、xx を固定して yy で微分すれば、その 2 本の接線が張る平面が接平面になりそうです。実際、18 世紀には弦の振動や流体の研究の中でこの操作(偏微分)が自由に使われていました。記号 ∂\partial は 18 世紀末のルジャンドルにさかのぼり、19 世紀にヤコビが用いたことで定着したとされます。

しかしこの素朴な期待は外れます。xx 軸方向と yy 軸方向という 2 本の直線に沿った情報は、平面全体のごく一部の情報でしかありません。実際、両方の偏微分係数が存在するのに、その点で関数が連続でさえない例があります(例 3.2)。連続でない関数のグラフに接平面が引けるはずがありませんから、偏微分可能性は「微分可能」の定義として不適格です。

ではどちらの顔を定義に採用すべきでしょうか。答えは一次近似の方です。微分可能とは、その点の近くで関数が一次関数によって「誤差が距離より速く 0 に近づく精度で」近似できることだと定義し直します。この定式化は変数の個数に依らず、そのままノルム空間上の写像に一般化されてフレシェ微分になります。この記事はその定義を 2 変数の場合に据え、そこから接平面・勾配・連鎖律・テイラー展開・極値判定を順に組み立てます。

2. 準備:2 変数関数、曲面、平面上の極限

Section titled “2. 準備:2 変数関数、曲面、平面上の極限”

R2\mathbb{R}^2 の点を x=(x,y)\boldsymbol x = (x,y) と書き、ユークリッドノルムを ∥x∥=x2+y2\|\boldsymbol x\| = \sqrt{x^2+y^2} とします。a∈R2\boldsymbol a \in \mathbb{R}^2 と r>0r>0 に対し B(a,r)={x∈R2:∥x−a∥<r}B(\boldsymbol a, r) = \{\boldsymbol x \in \mathbb{R}^2 : \|\boldsymbol x - \boldsymbol a\| < r\} を開球(開円板)と呼び、U⊂R2U \subset \mathbb{R}^2 が開集合であるとは、任意の a∈U\boldsymbol a \in U に対しある r>0r>0 が存在して B(a,r)⊂UB(\boldsymbol a,r) \subset U となることをいいます。以下、ff の定義域は常に開集合 UU とします。これは「a\boldsymbol a の全方向に少し動く余地がある」ことを保証するためで、微分を論じるときに必須の仮定です。

f:U→Rf: U \to \mathbb{R} に対し、そのグラフは Gf={(x,y,f(x,y))∈R3:(x,y)∈U}G_f = \{(x,y,f(x,y)) \in \mathbb{R}^3 : (x,y) \in U\} という空間内の曲面です。曲面を紙の上で見るために、c∈Rc \in \mathbb{R} に対する等位集合(等高線)Lc={(x,y)∈U:f(x,y)=c}L_c = \{(x,y) \in U : f(x,y) = c\} を描くのが常套手段です。地形図の等高線と同じで、線が混み合っているところほど傾きが急になります。

注意 2.1(平面上の極限は「あらゆる近づき方」を要求する)

a∈U\boldsymbol a \in U とし、ff が a\boldsymbol a の除外近傍で定義されているとします。lim⁡x→af(x)=L\lim_{\boldsymbol x \to \boldsymbol a} f(\boldsymbol x) = L とは、

∀ε>0, ∃δ>0, ∀x,0<∥x−a∥<δ  ⟹  ∣f(x)−L∣<ε\forall \varepsilon > 0,\ \exists \delta > 0,\ \forall \boldsymbol x,\quad 0 < \|\boldsymbol x - \boldsymbol a\| < \delta \implies |f(\boldsymbol x) - L| < \varepsilon

が成り立つことです。1 変数の定義(極限と連続性 (ε-δ論法) の 関数の極限(定義 3.1)[極限と連続性])で ∣x−a∣|x-a| を ∥x−a∥\|\boldsymbol x - \boldsymbol a\| に置き換えただけの形ですが、内容は大きく違います。1 変数では a\boldsymbol a への近づき方は左右 2 通りでしたが、平面では直線・曲線・らせんなど無数にあり、そのすべてで同じ LL に収束することを要求しているからです。

したがって、ある 1 つの近づき方で極限が LL でも、それは lim⁡=L\lim = L の証明にはなりません。逆に、2 つの近づき方で異なる値が出れば極限は存在しない、という否定の道具としては強力に使えます。例 3.2 でこれを使います。

3. 偏微分:一変数に切り落とす

Section titled “3. 偏微分:一変数に切り落とす”

定義 3.1(偏微分係数と偏導関数)↗

U⊂R2U \subset \mathbb{R}^2 を開集合、f:U→Rf: U \to \mathbb{R}、a=(a,b)∈U\boldsymbol a = (a,b) \in U とします。極限

∂f∂x(a,b)=lim⁡h→0f(a+h, b)−f(a,b)h\frac{\partial f}{\partial x}(a,b) = \lim_{h \to 0} \frac{f(a+h,\, b) - f(a,b)}{h}

が存在するとき、ff は a\boldsymbol a で xx について偏微分可能といい、この値を xx に関する偏微分係数と呼びます。yy についても同様に

∂f∂y(a,b)=lim⁡k→0f(a, b+k)−f(a,b)k\frac{\partial f}{\partial y}(a,b) = \lim_{k \to 0} \frac{f(a,\, b+k) - f(a,b)}{k}

で定めます。両方が存在するとき、単に a\boldsymbol a で偏微分可能といいます。UU の各点で偏微分可能なとき、対応 (x,y)↦∂f/∂x (x,y)(x,y) \mapsto \partial f/\partial x\,(x,y) を偏導関数と呼び、fxf_x とも書きます(fyf_y も同様)。

定義の右辺は、bb を固定した 1 変数関数 φ(t)=f(t,b)\varphi(t) = f(t,b) の t=at=a における微分係数にほかなりません。つまり偏微分とは、曲面を平面 y=by=b で切った切り口の曲線の傾きです。したがって計算では、他の変数を定数とみなして 1 変数の微分公式をそのまま使えばよいことになります。

たとえば f(x,y)=x2y3+exyf(x,y) = x^2y^3 + e^{xy} とすると、xx で偏微分するときは yy を定数と見て

fx(x,y)=2xy3+y exy,fy(x,y)=3x2y2+x exyf_x(x,y) = 2xy^3 + y\,e^{xy}, \qquad f_y(x,y) = 3x^2y^2 + x\,e^{xy}

となり、(1,1)(1,1) では fx(1,1)=2+ef_x(1,1) = 2 + e、fy(1,1)=3+ef_y(1,1) = 3 + e です。exye^{xy} の項では、合成関数の微分により内側 xyxy の xx 偏微分 yy が掛かる点に注意してください。

さて、偏微分は xx 軸方向と yy 軸方向という 2 本の直線に沿った情報しか見ていません。これがどれほど弱い情報かを見ます。

例 3.2(偏微分可能なのに連続でない関数)

f(x,y)={xyx2+y2((x,y)≠(0,0))0((x,y)=(0,0))f(x,y) = \begin{cases} \dfrac{xy}{x^2+y^2} & ((x,y) \ne (0,0)) \\[2mm] 0 & ((x,y) = (0,0)) \end{cases}

とします。まず原点での偏微分を計算します。f(h,0)=0/(h2)=0f(h,0) = 0/(h^2) = 0 なので

fx(0,0)=lim⁡h→0f(h,0)−f(0,0)h=lim⁡h→00−0h=0f_x(0,0) = \lim_{h\to 0}\frac{f(h,0)-f(0,0)}{h} = \lim_{h\to 0}\frac{0-0}{h} = 0

であり、同じく f(0,k)=0f(0,k)=0 から fy(0,0)=0f_y(0,0)=0 です。つまり ff は原点で偏微分可能で、両方の偏微分係数は 00 です。

ところが ff は原点で連続ではありません。直線 y=xy = x に沿って原点に近づけると、x≠0x \ne 0 に対し

f(x,x)=x⋅xx2+x2=12f(x,x) = \frac{x\cdot x}{x^2+x^2} = \frac{1}{2}

なので極限は 1/21/2、xx 軸に沿えば f(x,0)=0f(x,0)=0 なので極限は 00 です。2 つの近づき方で値が異なるので、注意 2.1 により lim⁡(x,y)→(0,0)f(x,y)\lim_{(x,y)\to(0,0)} f(x,y) は存在せず、とくに f(0,0)=0f(0,0)=0 に一致しません。

実際この ff は極座標で f(rcos⁡θ,rsin⁡θ)=12sin⁡2θf(r\cos\theta, r\sin\theta) = \frac{1}{2}\sin 2\theta となり、rr に依らず角度だけで値が決まります。原点をどれだけ拡大しても同じ模様が見えるので、原点で値が定まりようがありません。

この例は、偏微分可能性を「微分可能」の定義に採用してはいけないことを決定的に示しています。連続でない関数を微分可能と呼ぶわけにはいきません。

4. 全微分可能性:微分とは一次近似のことである

Section titled “4. 全微分可能性:微分とは一次近似のことである”

定義 4.1(全微分可能)↗

U⊂R2U \subset \mathbb{R}^2 を開集合、f:U→Rf: U \to \mathbb{R}、a∈U\boldsymbol a \in U とします。ある実数の組 (p,q)(p,q) が存在して、h=(h,k)\boldsymbol h = (h,k) に対し

lim⁡h→0∣ f(a+h)−f(a)−(p h+q k) ∣∥h∥=0\lim_{\boldsymbol h \to \boldsymbol 0} \frac{\bigl|\,f(\boldsymbol a + \boldsymbol h) - f(\boldsymbol a) - (p\,h + q\,k)\,\bigr|}{\|\boldsymbol h\|} = 0

が成り立つとき、ff は a\boldsymbol a で全微分可能(単に微分可能)であるといいます。このとき線形写像 h↦ph+qk\boldsymbol h \mapsto p h + q k を ff の a\boldsymbol a における微分と呼びます。同じことを

f(a+h)=f(a)+p h+q k+o(∥h∥)(h→0)f(\boldsymbol a + \boldsymbol h) = f(\boldsymbol a) + p\,h + q\,k + o(\|\boldsymbol h\|) \qquad (\boldsymbol h \to \boldsymbol 0)

とも書きます。nn 変数・ベクトル値関数への一般化は 定義 9.1 です。

分母が ∥h∥\|\boldsymbol h\| である点が要です。誤差が単に 00 に近づくだけでは足りず、h\boldsymbol h が原点に近づく速さより速く 00 にならなければなりません。そして極限は h→0\boldsymbol h \to \boldsymbol 0 の全方向で取られているので、この定義は最初からあらゆる方向を同時に制御しています。例 3.2 の失敗が起きないのはこのためです。

定義 4.2(方向微分)↗

u∈R2\boldsymbol u \in \mathbb{R}^2 を ∥u∥=1\|\boldsymbol u\| = 1 なるベクトルとします。極限

Duf(a)=lim⁡t→0f(a+tu)−f(a)tD_{\boldsymbol u} f(\boldsymbol a) = \lim_{t \to 0} \frac{f(\boldsymbol a + t\boldsymbol u) - f(\boldsymbol a)}{t}

が存在するとき、これを u\boldsymbol u 方向の方向微分係数と呼びます。u=(1,0)\boldsymbol u = (1,0) のときが fx(a)f_x(\boldsymbol a)、u=(0,1)\boldsymbol u = (0,1) のときが fy(a)f_y(\boldsymbol a) です。

命題 4.3(全微分可能性から出てくるもの)✓

ff が a∈U\boldsymbol a \in U で全微分可能で、定義 4.1 の条件が組 (p,q)(p,q) について成り立つとします。このとき次が成り立ちます。

  1. ff は a\boldsymbol a で連続である。
  2. 任意の単位ベクトル u=(u1,u2)\boldsymbol u = (u_1,u_2) について方向微分係数が存在し、Duf(a)=p u1+q u2D_{\boldsymbol u} f(\boldsymbol a) = p\,u_1 + q\,u_2 である。とくに ff は a\boldsymbol a で偏微分可能で p=fx(a), q=fy(a)p = f_x(\boldsymbol a),\ q = f_y(\boldsymbol a) である。
  3. したがって条件を満たす組 (p,q)(p,q) はただ 1 つに定まる。
証明(命題 4.3)

h≠0\boldsymbol h \ne \boldsymbol 0 に対し誤差項を

R(h)=f(a+h)−f(a)−(ph+qk)R(\boldsymbol h) = f(\boldsymbol a+\boldsymbol h) - f(\boldsymbol a) - (p h + q k)

と置きます。定義 4.1 の仮定は ∣R(h)∣/∥h∥→0|R(\boldsymbol h)|/\|\boldsymbol h\| \to 0 です。

(1) ∥h∥→0\|\boldsymbol h\| \to 0 のとき ∣R(h)∣=∣R(h)∣∥h∥⋅∥h∥→0⋅0=0|R(\boldsymbol h)| = \frac{|R(\boldsymbol h)|}{\|\boldsymbol h\|}\cdot \|\boldsymbol h\| \to 0 \cdot 0 = 0 です(収束する 2 つの量の積)。また ∣ph+qk∣≤∣p∣∣h∣+∣q∣∣k∣≤(∣p∣+∣q∣)∥h∥→0|ph+qk| \le |p||h| + |q||k| \le (|p|+|q|)\|\boldsymbol h\| \to 0 です。ここで ∣h∣≤∥h∥|h| \le \|\boldsymbol h\| と ∣k∣≤∥h∥|k| \le \|\boldsymbol h\| を使いました。よって

f(a+h)−f(a)=(ph+qk)+R(h)→0f(\boldsymbol a + \boldsymbol h) - f(\boldsymbol a) = (ph+qk) + R(\boldsymbol h) \to 0

となり、lim⁡h→0f(a+h)=f(a)\lim_{\boldsymbol h \to \boldsymbol 0} f(\boldsymbol a+\boldsymbol h) = f(\boldsymbol a)、すなわち ff は a\boldsymbol a で連続です。

(2) t≠0t \ne 0 に対し h=tu\boldsymbol h = t\boldsymbol u と取ります。∥h∥=∣t∣ ∥u∥=∣t∣\|\boldsymbol h\| = |t|\,\|\boldsymbol u\| = |t| に注意すると

f(a+tu)−f(a)t=t(pu1+qu2)+R(tu)t=pu1+qu2+R(tu)t\frac{f(\boldsymbol a + t\boldsymbol u) - f(\boldsymbol a)}{t} = \frac{t(p u_1 + q u_2) + R(t\boldsymbol u)}{t} = p u_1 + q u_2 + \frac{R(t\boldsymbol u)}{t}

です。最後の項は ∣R(tu)t∣=∣R(tu)∣∥tu∥\left|\frac{R(t\boldsymbol u)}{t}\right| = \frac{|R(t\boldsymbol u)|}{\|t\boldsymbol u\|} であり、t→0t \to 0 のとき tu→0t\boldsymbol u \to \boldsymbol 0 なので、仮定よりこれは 00 に収束します。よって Duf(a)=pu1+qu2D_{\boldsymbol u}f(\boldsymbol a) = pu_1+qu_2 が存在します。u=(1,0)\boldsymbol u=(1,0) と u=(0,1)\boldsymbol u=(0,1) を代入して fx(a)=pf_x(\boldsymbol a)=p、fy(a)=qf_y(\boldsymbol a)=q を得ます。

(3) (2) により p,qp,q は ff の偏微分係数として決まってしまうので、条件を満たす組は一意です。

この命題により、全微分可能なら微分は必ず h↦fx(a)h+fy(a)k\boldsymbol h \mapsto f_x(\boldsymbol a)h + f_y(\boldsymbol a)k の形をしています。そこで次のベクトルに名前を付けます。

∇f(a)=(fx(a), fy(a))(勾配ベクトル、グラディエント)\nabla f(\boldsymbol a) = \bigl(f_x(\boldsymbol a),\, f_y(\boldsymbol a)\bigr) \quad (\text{勾配ベクトル、グラディエント})

これを使うと全微分可能性は f(a+h)=f(a)+⟨∇f(a),h⟩+o(∥h∥)f(\boldsymbol a+\boldsymbol h) = f(\boldsymbol a) + \langle \nabla f(\boldsymbol a), \boldsymbol h\rangle + o(\|\boldsymbol h\|) と書けます。逆は成り立ちません。偏微分係数が存在して勾配ベクトルが書けても、それが一次近似を与えるとは限らないのです。

例 4.4(連続かつ偏微分可能だが全微分可能でない関数)

f(x,y)=∣xy∣f(x,y) = \sqrt{|xy|} とします。相加相乗平均の不等式から ∣x∣∣y∣≤∣x∣+∣y∣2≤∥x∥\sqrt{|x||y|} \le \frac{|x|+|y|}{2} \le \|\boldsymbol x\| なので、x→0\boldsymbol x \to \boldsymbol 0 のとき f(x)→0=f(0)f(\boldsymbol x) \to 0 = f(\boldsymbol 0) となり、ff は原点で連続です。

偏微分は 例 3.2 と同様で、f(h,0)=∣h⋅0∣=0f(h,0) = \sqrt{|h\cdot 0|} = 0 より

fx(0,0)=lim⁡h→00−0h=0,f_x(0,0) = \lim_{h\to0}\frac{0-0}{h} = 0,

同様に fy(0,0)=0f_y(0,0)=0 です。よって候補となる一次近似は h↦0\boldsymbol h \mapsto 0、つまり平面 z=0z=0 しかありません。

ところがこの候補は一次近似になっていません。h=(t,t)\boldsymbol h = (t,t)(t≠0t \ne 0)と取ると f(t,t)=t2=∣t∣f(t,t) = \sqrt{t^2} = |t|、∥h∥=2 ∣t∣\|\boldsymbol h\| = \sqrt{2}\,|t| なので

∣f(h)−f(0)−0∣∥h∥=∣t∣2 ∣t∣=12\frac{|f(\boldsymbol h) - f(\boldsymbol 0) - 0|}{\|\boldsymbol h\|} = \frac{|t|}{\sqrt{2}\,|t|} = \frac{1}{\sqrt{2}}

となり、t→0t \to 0 としても 00 に収束しません。命題 4.3 (3) より一次近似の候補は上の 1 つだけでしたから、ff は原点で全微分可能ではありません。

幾何的には、この曲面は原点で「谷が折れている」形をしています。xx 軸と yy 軸に沿った切り口はどちらも平坦なのに、斜め方向の切り口は ∣t∣|t| という角を持つグラフになっているのです。

では全微分可能性はどうやって確かめればよいのでしょうか。毎回 o(∥h∥)o(\|\boldsymbol h\|) を評価するのは大変です。次の定理が実用上ほとんどすべてを片付けてくれます。

定理 4.5(C¹ 級ならば全微分可能)✓

U⊂R2U \subset \mathbb{R}^2 を開集合、f:U→Rf: U \to \mathbb{R}、a=(a,b)∈U\boldsymbol a = (a,b) \in U とします。偏導関数 fx,fyf_x, f_y が a\boldsymbol a のある近傍 B(a,r)⊂UB(\boldsymbol a, r) \subset U の各点で存在し、かつ a\boldsymbol a で連続であるとします。このとき ff は a\boldsymbol a で全微分可能です。

とくに fx,fyf_x, f_y が UU 全体で存在して連続なとき(このとき ff は UU 上 C1C^1 級であるといいます)、ff は UU の各点で全微分可能です。

nn 変数・ベクトル値の場合は 定理 9.3 で証明します。

証明の方針は、点 (a,b)(a,b) から (a+h,b+k)(a+h,b+k) への移動を「まず xx 方向に hh、次に yy 方向に kk」の 2 歩に分け、各 1 歩を 1 変数の平均値の定理で評価することです。1 歩ごとの変化が偏導関数の値で書けるので、偏導関数の連続性から誤差が o(∥h∥)o(\|\boldsymbol h\|) になることが出てきます。

証明(定理 4.5)

∥h∥=∥(h,k)∥<r\|\boldsymbol h\| = \|(h,k)\| < r とします。差を 2 段階に分解します。

f(a+h,b+k)−f(a,b)=[f(a+h,b+k)−f(a,b+k)]⏟(I)+[f(a,b+k)−f(a,b)]⏟(II)f(a+h,b+k) - f(a,b) = \underbrace{\bigl[f(a+h,b+k) - f(a,b+k)\bigr]}_{(\mathrm{I})} + \underbrace{\bigl[f(a,b+k) - f(a,b)\bigr]}_{(\mathrm{II})}

(I)(\mathrm{I}) は第 2 変数を b+kb+k に固定した 1 変数関数 s↦f(s,b+k)s \mapsto f(s, b+k) の差です。∥h∥<r\|\boldsymbol h\| < r なので aa と a+ha+h を結ぶ線分上の点 (s,b+k)(s,b+k) はすべて B(a,r)B(\boldsymbol a,r) に入り、そこで fxf_x が存在します。よってこの 1 変数関数は微分可能で、平均値の定理(平均値の定理とテイラーの定理 の ラグランジュの平均値の定理(定理 3.3)[平均値の定理とテイラーの定理])より、ある θ1∈(0,1)\theta_1 \in (0,1) が存在して

(I)=fx(a+θ1h, b+k) h.(\mathrm{I}) = f_x(a+\theta_1 h,\ b+k)\, h .

(II)(\mathrm{II}) についても同様に、ある θ2∈(0,1)\theta_2 \in (0,1) が存在して (II)=fy(a, b+θ2k) k(\mathrm{II}) = f_y(a,\ b+\theta_2 k)\, k です。したがって

f(a+h,b+k)−f(a,b)−fx(a,b)h−fy(a,b)k=[fx(a+θ1h,b+k)−fx(a,b)]h+[fy(a,b+θ2k)−fy(a,b)]k.\begin{aligned} &f(a+h,b+k) - f(a,b) - f_x(a,b)h - f_y(a,b)k \\ &\quad = \bigl[f_x(a+\theta_1 h, b+k) - f_x(a,b)\bigr] h + \bigl[f_y(a, b+\theta_2 k) - f_y(a,b)\bigr] k . \end{aligned}

右辺の 2 つの角括弧をそれぞれ ε1(h)\varepsilon_1(\boldsymbol h)、ε2(h)\varepsilon_2(\boldsymbol h) と置きます。∣θ1h∣≤∣h∣≤∥h∥|\theta_1 h| \le |h| \le \|\boldsymbol h\|、∣θ2k∣≤∥h∥|\theta_2 k| \le \|\boldsymbol h\| ですから、h→0\boldsymbol h \to \boldsymbol 0 のとき点 (a+θ1h,b+k)(a+\theta_1h, b+k) と (a,b+θ2k)(a, b+\theta_2k) はともに a\boldsymbol a に収束します。仮定より fx,fyf_x, f_y は a\boldsymbol a で連続なので ε1(h)→0\varepsilon_1(\boldsymbol h) \to 0、ε2(h)→0\varepsilon_2(\boldsymbol h) \to 0 です。よって ∣h∣,∣k∣≤∥h∥|h|,|k| \le \|\boldsymbol h\| を使って

∣f(a+h)−f(a)−fx(a)h−fy(a)k∣∥h∥≤∣ε1(h)∣+∣ε2(h)∣⟶0\frac{\bigl|f(\boldsymbol a+\boldsymbol h) - f(\boldsymbol a) - f_x(\boldsymbol a)h - f_y(\boldsymbol a)k\bigr|}{\|\boldsymbol h\|} \le |\varepsilon_1(\boldsymbol h)| + |\varepsilon_2(\boldsymbol h)| \longrightarrow 0

となり、定義 4.1 の条件が (p,q)=(fx(a),fy(a))(p,q) = (f_x(\boldsymbol a), f_y(\boldsymbol a)) で成り立ちます。

注意 4.6(仮定はどこまで弱められるか)

上の証明を読み返すと、fyf_y については連続性を使っていないことに気づきます。(II)(\mathrm{II}) は第 1 変数を aa に固定した 1 変数関数の差なので、平均値の定理を使わずに fy(a,b)f_y(a,b) の定義そのもの、すなわち f(a,b+k)−f(a,b)=fy(a,b)k+o(k)f(a,b+k)-f(a,b) = f_y(a,b)k + o(k) を使えばよいからです。したがって、fxf_x が近傍で存在して a\boldsymbol a で連続、fyf_y は a\boldsymbol a で存在するだけ、という非対称な仮定でも全微分可能性は従います。xx と yy の役割を入れ替えても同様です。

逆に、全微分可能でも偏導関数が連続とは限りません。r=x2+y2r = \sqrt{x^2+y^2} として

f(x,y)={r2sin⁡1r(x≠0)0(x=0)f(x,y) = \begin{cases} r^2 \sin\dfrac{1}{r} & (\boldsymbol x \ne \boldsymbol 0)\\[1mm] 0 & (\boldsymbol x = \boldsymbol 0)\end{cases}

は ∣f(h)−0−0∣≤∥h∥2|f(\boldsymbol h) - 0 - 0| \le \|\boldsymbol h\|^2 より原点で全微分可能(∇f(0)=0\nabla f(\boldsymbol 0) = \boldsymbol 0)ですが、x≠0\boldsymbol x \ne \boldsymbol 0 では

fx(x,y)=2xsin⁡1r−xrcos⁡1rf_x(x,y) = 2x\sin\frac{1}{r} - \frac{x}{r}\cos\frac{1}{r}

であり、xx 軸上を x↓0x \downarrow 0 とすると第 2 項が −cos⁡(1/x)-\cos(1/x) となって振動するので、fxf_x は原点で連続ではありません。つまり C1C^1 級は全微分可能性の十分条件であって必要条件ではありません。

以上で 4 つの条件の関係が出そろいました。

4 つの条件の含意。矢印はすべて一方向で、逆向きはいずれも成り立ちません
主張その逆が成り立たない反例
全微分可能 ⇒\Rightarrow 偏微分可能f(x,y)=xy/(x2+y2)f(x,y)=xy/(x^2+y^2)(原点では 00)。原点で偏微分可能だが連続ですらない(例 3.2)
全微分可能 ⇒\Rightarrow 連続f(x,y)=∣xy∣f(x,y)=\sqrt{\lvert xy\rvert}。原点で連続かつ偏微分可能だが全微分可能でない(例 4.4)
C1C^1 級 ⇒\Rightarrow 全微分可能f(x,y)=r2sin⁡(1/r)f(x,y)=r^2\sin(1/r)。原点で全微分可能だが fxf_x が原点で不連続(注意 4.6)

全微分可能性の定義は、そのまま「接平面が引ける」という幾何的条件です。

定義 5.1(接平面)↗

ff が a=(a,b)\boldsymbol a = (a,b) で全微分可能であるとき、R3\mathbb{R}^3 の平面

z=f(a,b)+fx(a,b) (x−a)+fy(a,b) (y−b)z = f(a,b) + f_x(a,b)\,(x-a) + f_y(a,b)\,(y-b)

を、グラフ GfG_f の点 (a,b,f(a,b))(a,b,f(a,b)) における接平面と呼びます。

注意 5.2(接平面はなぜこの平面でなければならないか)

点 (a,b,f(a,b))(a,b,f(a,b)) を通る非鉛直な平面は z=f(a,b)+p(x−a)+q(y−b)z = f(a,b) + p(x-a) + q(y-b) と書けます。この平面が曲面に「接する」とは、真下に測った縦方向のずれ

f(x,y)−[f(a,b)+p(x−a)+q(y−b)]f(x,y) - \bigl[f(a,b) + p(x-a)+q(y-b)\bigr]

が、点 (a,b)(a,b) からの距離 ∥(x−a,y−b)∥\|(x-a,y-b)\| に比べて無視できるほど速く 00 になること、と定めるのが自然でしょう。これはまさに 定義 4.1 の条件です。したがって接平面が存在することと全微分可能であることは同値であり、命題 4.3 (3) より接平面は存在すれば一意です。

例 4.4 の ∣xy∣\sqrt{\lvert xy\rvert} では、xx 軸方向と yy 軸方向の接線はどちらも水平でしたが、それらが張る平面 z=0z=0 は上の意味で接していませんでした。「2 本の接線を張れば接平面」という素朴な期待が破れるのは、まさにこの点です。

接平面の方程式は z−f(a,b)=⟨∇f(a,b),(x−a,y−b)⟩z - f(a,b) = \langle \nabla f(a,b), (x-a, y-b)\rangle と書けるので、法線ベクトルは (fx(a,b), fy(a,b), −1)(f_x(a,b),\, f_y(a,b),\, -1) です。

例 5.3(接平面による一次近似の精度)

f(x,y)=x2+y2f(x,y) = \sqrt{x^2+y^2} の点 (3,4)(3,4) における接平面を求め、3.022+3.962\sqrt{3.02^2 + 3.96^2} を近似します。

ff は原点以外で C1C^1 級です。実際

fx=xx2+y2,fy=yx2+y2f_x = \frac{x}{\sqrt{x^2+y^2}}, \qquad f_y = \frac{y}{\sqrt{x^2+y^2}}

は原点を除いて連続なので、定理 4.5 より (3,4)(3,4) で全微分可能です。f(3,4)=5f(3,4) = 5、fx(3,4)=3/5=0.6f_x(3,4) = 3/5 = 0.6、fy(3,4)=4/5=0.8f_y(3,4) = 4/5 = 0.8 なので接平面は

z=5+0.6(x−3)+0.8(y−4).z = 5 + 0.6(x-3) + 0.8(y-4).

(x,y)=(3.02,3.96)(x,y) = (3.02, 3.96) を代入すると

z=5+0.6×0.02+0.8×(−0.04)=5+0.012−0.032=4.980.z = 5 + 0.6 \times 0.02 + 0.8 \times (-0.04) = 5 + 0.012 - 0.032 = 4.980 .

真の値は 9.1204+15.6816=24.802=4.98016…\sqrt{9.1204 + 15.6816} = \sqrt{24.802} = 4.98016\ldots です。誤差は約 1.6×10−41.6\times 10^{-4}、変位の大きさは ∥h∥=0.022+0.042≈0.0447\|\boldsymbol h\| = \sqrt{0.02^2+0.04^2} \approx 0.0447 ですから、誤差は ∥h∥\|\boldsymbol h\| の約 0.36%0.36\%、∥h∥2≈0.002\|\boldsymbol h\|^2 \approx 0.002 の約 8%8\% です。誤差が ∥h∥\|\boldsymbol h\| ではなく ∥h∥2\|\boldsymbol h\|^2 の程度になっているのは偶然ではなく、定理 7.4 で説明がつきます。

命題 5.4(勾配は最急上昇方向を指す)✓

ff が a\boldsymbol a で全微分可能で ∇f(a)≠0\nabla f(\boldsymbol a) \ne \boldsymbol 0 とします。単位ベクトル u\boldsymbol u を動かすとき、方向微分係数 Duf(a)D_{\boldsymbol u}f(\boldsymbol a) は

u=∇f(a)∥∇f(a)∥のとき最大値  ∥∇f(a)∥\boldsymbol u = \frac{\nabla f(\boldsymbol a)}{\|\nabla f(\boldsymbol a)\|} \quad \text{のとき最大値} \ \ \|\nabla f(\boldsymbol a)\|

を取り、その逆向きのとき最小値 −∥∇f(a)∥-\|\nabla f(\boldsymbol a)\| を取ります。また Duf(a)=0D_{\boldsymbol u} f(\boldsymbol a) = 0 となるのは u\boldsymbol u が ∇f(a)\nabla f(\boldsymbol a) と直交するとき、かつそのときに限ります。

証明(命題 5.4)

命題 4.3 (2) より Duf(a)=⟨∇f(a),u⟩D_{\boldsymbol u}f(\boldsymbol a) = \langle \nabla f(\boldsymbol a), \boldsymbol u\rangle です。コーシー・シュワルツの不等式より

∣⟨∇f(a),u⟩∣≤∥∇f(a)∥ ∥u∥=∥∇f(a)∥|\langle \nabla f(\boldsymbol a), \boldsymbol u\rangle| \le \|\nabla f(\boldsymbol a)\|\,\|\boldsymbol u\| = \|\nabla f(\boldsymbol a)\|

であり、等号成立は u\boldsymbol u と ∇f(a)\nabla f(\boldsymbol a) が平行なとき、かつそのときに限ります。∥u∥=1\|\boldsymbol u\|=1 という制約のもとで平行なベクトルは u=±∇f(a)/∥∇f(a)∥\boldsymbol u = \pm \nabla f(\boldsymbol a)/\|\nabla f(\boldsymbol a)\| の 2 つで、++ のとき内積は ∥∇f(a)∥\|\nabla f(\boldsymbol a)\|(最大)、−- のとき −∥∇f(a)∥-\|\nabla f(\boldsymbol a)\|(最小)です。最後の主張は内積が 00 であることの言い換えです。

この命題は、勾配降下法をはじめとする最適化手法が「−∇f-\nabla f の向きに進む」理由そのものです。また、ff が C1C^1 級で ∇f(a)≠0\nabla f(\boldsymbol a) \ne \boldsymbol 0 のとき、a\boldsymbol a を通る等高線に沿って動く曲線 γ\gamma を取ると f(γ(t))f(\gamma(t)) は定数なので、次節の連鎖律から ⟨∇f,γ′⟩=0\langle \nabla f, \gamma'\rangle = 0、すなわち勾配は等高線に直交します。等高線が混んでいる場所ほど ∥∇f∥\|\nabla f\| が大きい、という地形図の直観はこれで正当化されます。

定理 6.1(連鎖律(曲線に沿った微分))✓

I⊂RI \subset \mathbb{R} を開区間、γ:I→U\gamma: I \to U、γ(t)=(x(t),y(t))\gamma(t) = (x(t), y(t)) とし、x,yx, y は t0∈It_0 \in I で微分可能とします。さらに f:U→Rf: U \to \mathbb{R} が a=γ(t0)\boldsymbol a = \gamma(t_0) で全微分可能とします。このとき合成 g=f∘γg = f \circ \gamma は t0t_0 で微分可能で

g′(t0)=fx(a) x′(t0)+fy(a) y′(t0)=⟨∇f(a),γ′(t0)⟩g'(t_0) = f_x(\boldsymbol a)\, x'(t_0) + f_y(\boldsymbol a)\, y'(t_0) = \langle \nabla f(\boldsymbol a), \gamma'(t_0)\rangle

が成り立ちます。ヤコビ行列の積の形をした一般の連鎖律(Rp→Rn→Rm\mathbb{R}^p\to\mathbb{R}^n\to\mathbb{R}^m)は 定理 9.4 です。

証明の方針は次のとおりです。全微分可能性の定義は「誤差を ∥h∥\|\boldsymbol h\| で割ると 00 に近づく」という極限の形をしています。この割った量を E(h)E(\boldsymbol h) と名付けて「h=0\boldsymbol h=\boldsymbol 0 で値 00 を取る連続関数」とみなすと、誤差が「EE と ∥h∥\|\boldsymbol h\| の積」という扱いやすい形になり、曲線 γ\gamma を代入しても評価が崩れません。

証明(定理 6.1)

誤差項を扱いやすくするため、h≠0\boldsymbol h \ne \boldsymbol 0 に対し

E(h)=f(a+h)−f(a)−⟨∇f(a),h⟩∥h∥,E(0)=0E(\boldsymbol h) = \frac{f(\boldsymbol a+\boldsymbol h) - f(\boldsymbol a) - \langle \nabla f(\boldsymbol a), \boldsymbol h\rangle}{\|\boldsymbol h\|}, \qquad E(\boldsymbol 0) = 0

と定めます。定義 4.1 と 命題 4.3 (2) より EE は 0\boldsymbol 0 で連続で、すべての h\boldsymbol h について

f(a+h)−f(a)=⟨∇f(a),h⟩+E(h) ∥h∥f(\boldsymbol a + \boldsymbol h) - f(\boldsymbol a) = \langle \nabla f(\boldsymbol a), \boldsymbol h\rangle + E(\boldsymbol h)\,\|\boldsymbol h\|

が成り立ちます(h=0\boldsymbol h = \boldsymbol 0 でも両辺 00 で成立)。

t≠t0t \ne t_0 に対し h(t)=γ(t)−γ(t0)\boldsymbol h(t) = \gamma(t) - \gamma(t_0) と置くと、上式から

g(t)−g(t0)t−t0=⟨∇f(a), h(t)t−t0⟩+E(h(t))⋅∥h(t)∥∣t−t0∣⋅sgn⁡(t−t0)\frac{g(t)-g(t_0)}{t-t_0} = \Bigl\langle \nabla f(\boldsymbol a),\ \frac{\boldsymbol h(t)}{t-t_0}\Bigr\rangle + E(\boldsymbol h(t))\cdot\frac{\|\boldsymbol h(t)\|}{|t-t_0|}\cdot \operatorname{sgn}(t-t_0)

となります。x,yx,y が t0t_0 で微分可能なので h(t)t−t0→(x′(t0),y′(t0))=γ′(t0)\frac{\boldsymbol h(t)}{t-t_0} \to (x'(t_0), y'(t_0)) = \gamma'(t_0) であり、第 1 項は内積の連続性より ⟨∇f(a),γ′(t0)⟩\langle \nabla f(\boldsymbol a), \gamma'(t_0)\rangle に収束します。

第 2 項を評価します。∥h(t)∥∣t−t0∣=∥h(t)t−t0∥→∥γ′(t0)∥\frac{\|\boldsymbol h(t)\|}{|t-t_0|} = \left\|\frac{\boldsymbol h(t)}{t-t_0}\right\| \to \|\gamma'(t_0)\| なので、この量は t0t_0 の近くで有界です。一方 x,yx,y は t0t_0 で微分可能ゆえ連続なので h(t)→0\boldsymbol h(t) \to \boldsymbol 0 であり、EE の 0\boldsymbol 0 での連続性から E(h(t))→E(0)=0E(\boldsymbol h(t)) \to E(\boldsymbol 0) = 0 です。有界量と 00 に収束する量の積は 00 に収束するので、第 2 項は 00 に収束します。

以上より g′(t0)g'(t_0) が存在して ⟨∇f(a),γ′(t0)⟩\langle \nabla f(\boldsymbol a), \gamma'(t_0)\rangle に等しいことが示されました。

注意 6.2(変数変換の形の連鎖律)

x=x(u,v)x = x(u,v)、y=y(u,v)y = y(u,v) が (u0,v0)(u_0,v_0) で偏微分可能で、ff が対応する点で全微分可能なとき、F(u,v)=f(x(u,v),y(u,v))F(u,v) = f(x(u,v), y(u,v)) について

∂F∂u=∂f∂x∂x∂u+∂f∂y∂y∂u,∂F∂v=∂f∂x∂x∂v+∂f∂y∂y∂v\frac{\partial F}{\partial u} = \frac{\partial f}{\partial x}\frac{\partial x}{\partial u} + \frac{\partial f}{\partial y}\frac{\partial y}{\partial u}, \qquad \frac{\partial F}{\partial v} = \frac{\partial f}{\partial x}\frac{\partial x}{\partial v} + \frac{\partial f}{\partial y}\frac{\partial y}{\partial v}

が成り立ちます。vv を固定すれば u↦(x(u,v),y(u,v))u \mapsto (x(u,v),y(u,v)) は 1 本の曲線なので、これは 定理 6.1 をその曲線に適用しただけです。この 2 つの式は行列を使って

(FuFv)=(fxfy)(xuxvyuyv)\begin{pmatrix} F_u & F_v \end{pmatrix} = \begin{pmatrix} f_x & f_y \end{pmatrix} \begin{pmatrix} x_u & x_v \\ y_u & y_v \end{pmatrix}

とまとめられます。右の行列が重積分と累次積分でいうヤコビ行列(定義 6.6)[重積分と累次積分]で、その行列式(ヤコビアン)は 重積分の変数変換公式(定理 6.7)[重積分と累次積分] で主役になります。

7. 高階偏微分とテイラーの定理

Section titled “7. 高階偏微分とテイラーの定理”

偏導関数 fx,fyf_x, f_y がまた UU 上の関数なので、これらをさらに偏微分できます。記号は

fxy=∂2f∂y ∂x=∂∂y(∂f∂x)f_{xy} = \frac{\partial^2 f}{\partial y\,\partial x} = \frac{\partial}{\partial y}\left(\frac{\partial f}{\partial x}\right)

と約束します(先に xx、次に yy)。fxx,fyx,fyyf_{xx}, f_{yx}, f_{yy} も同様です。2 階までのすべての偏導関数が存在して連続なとき ff は C2C^2 級であるといいます。

定理 7.1(シュワルツの定理(偏微分の順序交換))✓

UU を開集合、f:U→Rf: U \to \mathbb{R}、a∈U\boldsymbol a \in U とします。fx,fy,fxy,fyxf_x, f_y, f_{xy}, f_{yx} が a\boldsymbol a のある近傍で存在し、fxyf_{xy} と fyxf_{yx} が a\boldsymbol a で連続であるとします。このとき

fxy(a)=fyx(a)f_{xy}(\boldsymbol a) = f_{yx}(\boldsymbol a)

が成り立ちます。とくに ff が C2C^2 級ならば、2 階偏導関数は微分の順序に依りません。

nn 変数の場合は、2 つの変数だけを動かして帰着させる形で 定理 9.9 に証明があります。

この定理は、次に定めるヘッセ行列が対称になること(したがってテイラーの定理の 2 次項を fxxh2+2fxyhk+fyyk2f_{xx}h^2+2f_{xy}hk+f_{yy}k^2 とまとめられること)の根拠になります。証明は本筋から外れるので記事末の Appendix に置いてあります。

注意 7.2(連続性を落とすと順序は交換できない)

証明は Appendix に置きます。仮定の連続性は落とせません。

f(x,y)={xy x2−y2x2+y2(x≠0)0(x=0)f(x,y) = \begin{cases} xy\,\dfrac{x^2-y^2}{x^2+y^2} & (\boldsymbol x \ne \boldsymbol 0) \\[2mm] 0 & (\boldsymbol x = \boldsymbol 0)\end{cases}

とすると、y≠0y \ne 0 に対し

fx(0,y)=lim⁡h→0f(h,y)−0h=lim⁡h→0y h2−y2h2+y2=y⋅−y2y2=−yf_x(0,y) = \lim_{h\to0}\frac{f(h,y)-0}{h} = \lim_{h\to0} y\,\frac{h^2-y^2}{h^2+y^2} = y\cdot\frac{-y^2}{y^2} = -y

であり(fx(0,0)=0f_x(0,0)=0 もこの式に含まれます)、したがって fxy(0,0)=ddy(−y)∣y=0=−1f_{xy}(0,0) = \frac{d}{dy}(-y)\big|_{y=0} = -1 です。同様に fy(x,0)=x⋅x2x2=xf_y(x,0) = x\cdot\frac{x^2}{x^2} = x から fyx(0,0)=1f_{yx}(0,0) = 1 となり、両者は一致しません。この ff の 2 階混合偏導関数は原点以外では連続ですが、原点では連続になりません。

C2C^2 級のとき、2 階偏導関数を並べた対称行列

Hf(a)=(fxx(a)fxy(a)fyx(a)fyy(a))=(fxx(a)fxy(a)fxy(a)fyy(a))H_f(\boldsymbol a) = \begin{pmatrix} f_{xx}(\boldsymbol a) & f_{xy}(\boldsymbol a) \\ f_{yx}(\boldsymbol a) & f_{yy}(\boldsymbol a)\end{pmatrix} = \begin{pmatrix} f_{xx}(\boldsymbol a) & f_{xy}(\boldsymbol a) \\ f_{xy}(\boldsymbol a) & f_{yy}(\boldsymbol a)\end{pmatrix}

をヘッセ行列と呼びます(対称性は 定理 7.1 によります)。

定義 7.3(ヘッセ行列・臨界点・極値)↗

ff を UU 上 C2C^2 級とします。上の行列 Hf(a)H_f(\boldsymbol a) を a\boldsymbol a におけるヘッセ行列と呼びます。また ∇f(a)=0\nabla f(\boldsymbol a) = \boldsymbol 0 を満たす点 a\boldsymbol a を 臨界点(停留点)と呼びます。

ff が a\boldsymbol a で極大であるとは、ある δ>0\delta>0 が存在して x∈B(a,δ)\boldsymbol x \in B(\boldsymbol a,\delta) ならば f(x)≤f(a)f(\boldsymbol x) \le f(\boldsymbol a) となることをいいます(不等号を逆にすれば極小)。x≠a\boldsymbol x \ne \boldsymbol a で不等号が真に成り立つときは狭義の極大・極小といいます。極大でも極小でもない臨界点を鞍点と呼びます。

ff が a\boldsymbol a で全微分可能かつ極値を取るなら ∇f(a)=0\nabla f(\boldsymbol a) = \boldsymbol 0 です。実際、t↦f(a+tu)t \mapsto f(\boldsymbol a + t\boldsymbol u) は t=0t=0 で 1 変数関数として極値を取るので、フェルマーの補題(補題 2.5)[平均値の定理とテイラーの定理] により微分係数 Duf(a)D_{\boldsymbol u}f(\boldsymbol a) は 00 になり、u=(1,0),(0,1)\boldsymbol u=(1,0),(0,1) を取れば fx(a)=fy(a)=0f_x(\boldsymbol a)=f_y(\boldsymbol a)=0 です。したがって極値の候補は臨界点に限られます。問題は、臨界点が極大か極小か鞍点かをどう見分けるかです。

定理 7.4(2 変数のテイラーの定理(2 次まで))✓

ff を開集合 UU 上の C2C^2 級関数、a∈U\boldsymbol a \in U とし、B(a,r)⊂UB(\boldsymbol a, r) \subset U とします。∥h∥<r\|\boldsymbol h\| < r なる h=(h,k)\boldsymbol h = (h,k) に対し次が成り立ちます。

  1. (ラグランジュ剰余)ある θ∈(0,1)\theta \in (0,1) が存在して
f(a+h)=f(a)+⟨∇f(a),h⟩+12 hTHf(a+θh) h.f(\boldsymbol a+\boldsymbol h) = f(\boldsymbol a) + \langle \nabla f(\boldsymbol a), \boldsymbol h\rangle + \frac{1}{2}\,\boldsymbol h^{\mathsf{T}} H_f(\boldsymbol a + \theta\boldsymbol h)\, \boldsymbol h .
  1. (ペアノ剰余)h→0\boldsymbol h \to \boldsymbol 0 のとき
f(a+h)=f(a)+⟨∇f(a),h⟩+12 hTHf(a) h+o(∥h∥2).f(\boldsymbol a+\boldsymbol h) = f(\boldsymbol a) + \langle \nabla f(\boldsymbol a), \boldsymbol h\rangle + \frac{1}{2}\,\boldsymbol h^{\mathsf{T}} H_f(\boldsymbol a)\, \boldsymbol h + o(\|\boldsymbol h\|^2).

ここで hTHh=fxxh2+2fxyhk+fyyk2\boldsymbol h^{\mathsf{T}} H \boldsymbol h = f_{xx}h^2 + 2f_{xy}hk + f_{yy}k^2 です。

証明(定理 7.4)

(1) φ(t)=f(a+th)\varphi(t) = f(\boldsymbol a + t\boldsymbol h) と置きます。開球は凸なので t∈[0,1]t \in [0,1] に対し a+th∈B(a,r)⊂U\boldsymbol a + t\boldsymbol h \in B(\boldsymbol a,r) \subset U であり、φ\varphi は [0,1][0,1] を含む開区間で定義されます。C2C^2 級の仮定と 定理 4.5 により ff も fxf_x も fyf_y も全微分可能なので、定理 6.1 を曲線 γ(t)=a+th\gamma(t) = \boldsymbol a + t\boldsymbol h(γ′(t)=h\gamma'(t) = \boldsymbol h)に適用できて

φ′(t)=fx(a+th) h+fy(a+th) k.\varphi'(t) = f_x(\boldsymbol a+t\boldsymbol h)\,h + f_y(\boldsymbol a+t\boldsymbol h)\,k .

もう一度、今度は fxf_x と fyf_y に 定理 6.1 を適用すると

φ′′(t)=[fxxh+fxyk]h+[fyxh+fyyk]k=fxxh2+2fxyhk+fyyk2\varphi''(t) = \bigl[f_{xx}h + f_{xy}k\bigr]h + \bigl[f_{yx}h + f_{yy}k\bigr]k = f_{xx}h^2 + 2f_{xy}hk + f_{yy}k^2

(すべて a+th\boldsymbol a + t\boldsymbol h での値、最後の等号で 定理 7.1 を使いました)。すなわち φ′′(t)=hTHf(a+th)h\varphi''(t) = \boldsymbol h^{\mathsf{T}}H_f(\boldsymbol a+t\boldsymbol h)\boldsymbol h であり、これは tt の連続関数です。

1 変数のテイラーの定理(平均値の定理とテイラーの定理 の テイラーの定理(ラグランジュの剰余)(定理 5.3)[平均値の定理とテイラーの定理])を φ\varphi に n=1n=1 次まで適用すると、ある θ∈(0,1)\theta \in (0,1) が存在して

φ(1)=φ(0)+φ′(0)+12φ′′(θ)\varphi(1) = \varphi(0) + \varphi'(0) + \frac{1}{2}\varphi''(\theta)

です。φ(1)=f(a+h)\varphi(1) = f(\boldsymbol a+\boldsymbol h)、φ(0)=f(a)\varphi(0)=f(\boldsymbol a)、φ′(0)=⟨∇f(a),h⟩\varphi'(0) = \langle \nabla f(\boldsymbol a),\boldsymbol h\rangle を代入すれば (1) を得ます。

(2) (1) の右辺から 12hTHf(a)h\frac12 \boldsymbol h^{\mathsf{T}}H_f(\boldsymbol a)\boldsymbol h を引いた差は

12hT[Hf(a+θh)−Hf(a)]h\frac{1}{2}\boldsymbol h^{\mathsf{T}}\bigl[H_f(\boldsymbol a+\theta\boldsymbol h) - H_f(\boldsymbol a)\bigr]\boldsymbol h

です。この角括弧の行列の成分を mijm_{ij}、M(h)=max⁡i,j∣mij∣M(\boldsymbol h) = \max_{i,j}|m_{ij}| と書くと、∣h∣,∣k∣≤∥h∥|h|,|k| \le \|\boldsymbol h\| より

∣hT[ ⋅ ]h∣≤∑i,j∣mij∣ ∣hi∣ ∣hj∣≤4 M(h) ∥h∥2.\bigl|\boldsymbol h^{\mathsf{T}}[\,\cdot\,]\boldsymbol h\bigr| \le \sum_{i,j} |m_{ij}|\,|h_i|\,|h_j| \le 4\,M(\boldsymbol h)\,\|\boldsymbol h\|^2 .

∥θh∥≤∥h∥→0\|\theta \boldsymbol h\| \le \|\boldsymbol h\| \to 0 と 2 階偏導関数の a\boldsymbol a での連続性より M(h)→0M(\boldsymbol h) \to 0 ですから、この差は o(∥h∥2)o(\|\boldsymbol h\|^2) です。

例 7.5(exp(x)cos y の原点まわりの 2 次近似)

f(x,y)=excos⁡yf(x,y) = e^x\cos y を原点のまわりで 2 次まで展開します。ff は C∞C^\infty 級です。

fx=excos⁡y,fy=−exsin⁡y,fxx=excos⁡y,fxy=−exsin⁡y,fyy=−excos⁡y.\begin{aligned} f_x &= e^x\cos y, & f_y &= -e^x\sin y,\\ f_{xx} &= e^x\cos y, & f_{xy} &= -e^x\sin y, & f_{yy} &= -e^x\cos y . \end{aligned}

原点で値を取ると f(0,0)=1f(0,0)=1、∇f(0,0)=(1,0)\nabla f(0,0) = (1,0)、Hf(0,0)=(100−1)H_f(0,0) = \begin{pmatrix} 1 & 0\\ 0 & -1\end{pmatrix} です。定理 7.4 (2) より

excos⁡y=1+x+12(x2−y2)+o(x2+y2).e^x\cos y = 1 + x + \frac{1}{2}\bigl(x^2 - y^2\bigr) + o(x^2+y^2).

検算しましょう。1 変数の展開 ex=1+x+x22+o(x2)e^x = 1 + x + \frac{x^2}{2} + o(x^2)、cos⁡y=1−y22+o(y2)\cos y = 1 - \frac{y^2}{2}+o(y^2) を掛け合わせて 2 次までを残すと

(1+x+x22)(1−y22)=1+x+x22−y22+(3 次以上)\Bigl(1+x+\frac{x^2}{2}\Bigr)\Bigl(1-\frac{y^2}{2}\Bigr) = 1 + x + \frac{x^2}{2} - \frac{y^2}{2} + (\text{3 次以上})

となり一致します。なお fxx+fyy=0f_{xx}+f_{yy} = 0 であり、excos⁡y=Re⁡(ex+iy)e^x\cos y = \operatorname{Re}(e^{x+iy}) が調和関数であることが 2 次項の形(x2x^2 と y2y^2 の係数が符号だけ違う)に現れています。

臨界点 a\boldsymbol a では ∇f(a)=0\nabla f(\boldsymbol a) = \boldsymbol 0 なので、定理 7.4 (2) は

f(a+h)−f(a)=12hTHf(a)h+o(∥h∥2)f(\boldsymbol a + \boldsymbol h) - f(\boldsymbol a) = \frac{1}{2}\boldsymbol h^{\mathsf{T}}H_f(\boldsymbol a)\boldsymbol h + o(\|\boldsymbol h\|^2)

となります。増減を決めるのは 2 次形式 Q(h)=hTHf(a)hQ(\boldsymbol h) = \boldsymbol h^{\mathsf{T}}H_f(\boldsymbol a)\boldsymbol h の符号です。そこでまず 2 次形式を分類します。

補題 8.1(2 変数 2 次形式の符号)✓

実数 A,B,CA,B,C に対し Q(h,k)=Ah2+2Bhk+Ck2Q(h,k) = Ah^2 + 2Bhk + Ck^2 と置き、Δ=AC−B2\Delta = AC - B^2 とします。

  1. Δ>0\Delta > 0 かつ A>0A > 0 ならば、(h,k)≠(0,0)(h,k)\ne(0,0) なるすべての (h,k)(h,k) に対し Q(h,k)>0Q(h,k) > 0(正定値)。
  2. Δ>0\Delta > 0 かつ A<0A < 0 ならば、同様に常に Q(h,k)<0Q(h,k) < 0(負定値)。
  3. Δ<0\Delta < 0 ならば、Q(u)>0Q(\boldsymbol u) > 0 となる u\boldsymbol u と Q(v)<0Q(\boldsymbol v) < 0 となる v\boldsymbol v がともに存在する(不定値)。

なお Δ>0\Delta > 0 のとき A=0A = 0 はあり得ません(A=0A=0 なら Δ=−B2≤0\Delta = -B^2 \le 0)。

証明(補題 8.1)

(1) A≠0A \ne 0 のとき平方完成すると

Q(h,k)=A(h+BAk)2+AC−B2Ak2=A(h+BAk)2+ΔAk2.Q(h,k) = A\Bigl(h + \frac{B}{A}k\Bigr)^2 + \frac{AC-B^2}{A}k^2 = A\Bigl(h+\frac{B}{A}k\Bigr)^2 + \frac{\Delta}{A}k^2 .

A>0A>0、Δ>0\Delta>0 なら両項とも 00 以上です。Q(h,k)=0Q(h,k)=0 とすると両項がともに 00 で、第 2 項から k=0k=0、これを第 1 項に入れて Ah2=0Ah^2=0 より h=0h=0 を得ます。よって (h,k)≠(0,0)(h,k)\ne(0,0) なら Q(h,k)>0Q(h,k)>0 です。

(2) −Q-Q に (1) を適用します。−Q-Q の係数は (−A,−B,−C)(-A,-B,-C) で、判別量は (−A)(−C)−(−B)2=Δ>0(-A)(-C)-(-B)^2 = \Delta > 0、かつ −A>0-A>0 なので −Q-Q は正定値、すなわち QQ は負定値です。

(3) A≠0A \ne 0 のときは u=(1,0)\boldsymbol u = (1,0)、v=(−B,A)\boldsymbol v = (-B, A)(A≠0A\ne0 より v≠0\boldsymbol v \ne \boldsymbol 0)と取ります。

Q(1,0)=A,Q(−B,A)=AB2−2B⋅BA+CA2=A(AC−B2)=AΔ.Q(1,0) = A, \qquad Q(-B,A) = AB^2 - 2B\cdot BA + CA^2 = A(AC - B^2) = A\Delta .

Δ<0\Delta<0 なので AA と AΔA\Delta は逆符号です。よって A>0A>0 なら u=(1,0)\boldsymbol u=(1,0) で正・v=(−B,A)\boldsymbol v=(-B,A) で負、A<0A<0 なら役割を入れ替えればよく、いずれにせよ正負両方の値を取ります。

A=0A = 0 のときは Δ=−B2<0\Delta = -B^2 < 0 より B≠0B \ne 0 です。Q(h,1)=2Bh+CQ(h,1) = 2Bh + C は hh の 1 次関数で B≠0B\ne0 ですから、hh を大きく取れば正、小さく取れば負になります。

定理 8.2(ヘッセ行列による極値判定)✓

ff を開集合 UU 上の C2C^2 級関数、a∈U\boldsymbol a \in U を臨界点(∇f(a)=0\nabla f(\boldsymbol a) = \boldsymbol 0)とし、

Δ=det⁡Hf(a)=fxx(a)fyy(a)−fxy(a)2\Delta = \det H_f(\boldsymbol a) = f_{xx}(\boldsymbol a)f_{yy}(\boldsymbol a) - f_{xy}(\boldsymbol a)^2

と置きます。

  1. Δ>0\Delta > 0 かつ fxx(a)>0f_{xx}(\boldsymbol a) > 0 ならば、ff は a\boldsymbol a で狭義の極小。
  2. Δ>0\Delta > 0 かつ fxx(a)<0f_{xx}(\boldsymbol a) < 0 ならば、ff は a\boldsymbol a で狭義の極大。
  3. Δ<0\Delta < 0 ならば、a\boldsymbol a は鞍点(極大でも極小でもない)。
  4. Δ=0\Delta = 0 のときは、この情報だけでは極大・極小・鞍点のいずれとも決まらない。
証明(定理 8.2)

Q(h)=hTHf(a)hQ(\boldsymbol h) = \boldsymbol h^{\mathsf{T}}H_f(\boldsymbol a)\boldsymbol h、R(h)=f(a+h)−f(a)−12Q(h)R(\boldsymbol h) = f(\boldsymbol a+\boldsymbol h)-f(\boldsymbol a) - \frac12 Q(\boldsymbol h) と置きます。a\boldsymbol a が臨界点なので 定理 7.4 (2) より R(h)=o(∥h∥2)R(\boldsymbol h) = o(\|\boldsymbol h\|^2) です。

(1) 補題 8.1 (1) より QQ は正定値です。単位円 S={u:∥u∥=1}S = \{\boldsymbol u : \|\boldsymbol u\|=1\} は R2\mathbb{R}^2 の有界閉集合、QQ は多項式なので連続ですから、最大値・最小値の定理により m=min⁡u∈SQ(u)m = \min_{\boldsymbol u \in S} Q(\boldsymbol u) が存在し、正定値性より m>0m>0 です。QQ は 2 次の同次式(Q(th)=t2Q(h)Q(t\boldsymbol h) = t^2Q(\boldsymbol h))なので、h≠0\boldsymbol h \ne \boldsymbol 0 に対し

Q(h)=∥h∥2 Q ⁣(h∥h∥)≥m∥h∥2.Q(\boldsymbol h) = \|\boldsymbol h\|^2\, Q\!\left(\frac{\boldsymbol h}{\|\boldsymbol h\|}\right) \ge m\|\boldsymbol h\|^2 .

一方 R(h)=o(∥h∥2)R(\boldsymbol h) = o(\|\boldsymbol h\|^2) より、ε=m/4\varepsilon = m/4 に対しある δ>0\delta>0 が存在して 0<∥h∥<δ0 < \|\boldsymbol h\| < \delta ならば ∣R(h)∣≤m4∥h∥2|R(\boldsymbol h)| \le \frac{m}{4}\|\boldsymbol h\|^2 です。よってそのような h\boldsymbol h に対し

f(a+h)−f(a)=12Q(h)+R(h)≥m2∥h∥2−m4∥h∥2=m4∥h∥2>0f(\boldsymbol a+\boldsymbol h)-f(\boldsymbol a) = \frac{1}{2}Q(\boldsymbol h) + R(\boldsymbol h) \ge \frac{m}{2}\|\boldsymbol h\|^2 - \frac{m}{4}\|\boldsymbol h\|^2 = \frac{m}{4}\|\boldsymbol h\|^2 > 0

となり、B(a,δ)B(\boldsymbol a,\delta) 内の a\boldsymbol a 以外の点では ff の値が真に大きくなります。すなわち狭義の極小です。

(2) −f-f に (1) を適用します。H−f=−HfH_{-f} = -H_f なので det⁡H−f=(−1)2det⁡Hf=Δ>0\det H_{-f} = (-1)^2\det H_f = \Delta > 0、かつ (−f)xx=−fxx>0(-f)_{xx} = -f_{xx} > 0 です。よって −f-f は狭義の極小、すなわち ff は狭義の極大です。

(3) 補題 8.1 (3) より Q(u)>0>Q(v)Q(\boldsymbol u)>0>Q(\boldsymbol v) なる u,v\boldsymbol u,\boldsymbol v が取れます。QQ の同次性から u,v\boldsymbol u,\boldsymbol v は単位ベクトルとしてよいです。g(t)=f(a+tu)g(t) = f(\boldsymbol a+t\boldsymbol u) と置くと、t≠0t \ne 0 に対し

g(t)−g(0)=t22Q(u)+R(tu),∣R(tu)∣t2→0 (t→0)g(t)-g(0) = \frac{t^2}{2}Q(\boldsymbol u) + R(t\boldsymbol u), \qquad \frac{|R(t\boldsymbol u)|}{t^2} \to 0 \ (t\to0)

なので、∣t∣|t| が十分小さければ ∣R(tu)∣≤t24Q(u)|R(t\boldsymbol u)| \le \frac{t^2}{4}Q(\boldsymbol u) となり g(t)−g(0)≥t24Q(u)>0g(t)-g(0) \ge \frac{t^2}{4}Q(\boldsymbol u) > 0 です。同様に v\boldsymbol v 方向では f(a+tv)−f(a)<0f(\boldsymbol a + t\boldsymbol v) - f(\boldsymbol a) < 0 となります。したがって a\boldsymbol a のどんな近傍にも ff の値が f(a)f(\boldsymbol a) より大きい点と小さい点の両方が存在し、極大でも極小でもありません。

(4) 反例を並べれば十分です。f(x,y)=x4+y4f(x,y)=x^4+y^4、g(x,y)=−(x4+y4)g(x,y)=-(x^4+y^4)、h(x,y)=x4−y4h(x,y)=x^4-y^4 はいずれも原点が臨界点でヘッセ行列は零行列(Δ=0\Delta=0)ですが、原点はそれぞれ狭義の極小・狭義の極大・鞍点です(hh は xx 軸方向で正、yy 軸方向で負)。

例 8.3(臨界点をすべて求めて判定する)

f(x,y)=x3−3xy+y3f(x,y) = x^3 - 3xy + y^3 の極値を調べます。ff は多項式なので C∞C^\infty 級です。

臨界点。 fx=3x2−3y=0f_x = 3x^2 - 3y = 0 より y=x2y = x^2、fy=−3x+3y2=0f_y = -3x + 3y^2 = 0 より x=y2x = y^2 です。前者を後者に代入して x=x4x = x^4、すなわち x(x3−1)=0x(x^3-1) = 0 なので x=0x = 0 または x=1x=1 です。y=x2y=x^2 より臨界点は (0,0)(0,0) と (1,1)(1,1) の 2 つです。

ヘッセ行列。 fxx=6xf_{xx} = 6x、fxy=−3f_{xy} = -3、fyy=6yf_{yy} = 6y なので

Hf(x,y)=(6x−3−36y),Δ(x,y)=36xy−9.H_f(x,y) = \begin{pmatrix} 6x & -3 \\ -3 & 6y\end{pmatrix}, \qquad \Delta(x,y) = 36xy - 9 .

判定。 (0,0)(0,0) では Δ=−9<0\Delta = -9 < 0 なので 定理 8.2 (3) より鞍点です。(1,1)(1,1) では Δ=36−9=27>0\Delta = 36-9 = 27 > 0 かつ fxx(1,1)=6>0f_{xx}(1,1)=6>0 なので同 (1) より狭義の極小で、極小値は f(1,1)=1−3+1=−1f(1,1) = 1 - 3 + 1 = -1 です。

なお ff は最小値を持ちません。y=0y=0 とすると f(x,0)=x3→−∞f(x,0)=x^3 \to -\infty(x→−∞x \to -\infty)だからです。極小は「近傍で最小」というだけの局所的な性質であることに注意してください。

Δ=0\Delta = 0 の場合が難しいのは、単に判定法が弱いからではありません。次の例は、直線に沿って調べるだけでは極値判定ができないことを示します。

次の例は、det⁡H=0\det H = 0 のとき 2 次の情報だけでは判定できないことを示します。一見すると、原点を通る直線に沿って調べれば十分に思えますが、そうではありません。f=(y−x2)(y−2x2)f=(y-x^2)(y-2x^2) は、2 つの放物線 y=x2y=x^2 と y=2x2y=2x^2 にはさまれた細い領域では(一方の因子が正、他方が負なので)負になります。この領域は原点の近くで xx 軸に沿って寝ており、原点を通る直線は原点のごく近くではこの領域に入らないため、直線だけを調べると見落とします。

例 8.4(どの直線に沿っても極小、しかし極小でない)

f(x,y)=(y−x2)(y−2x2)=y2−3x2y+2x4f(x,y) = (y-x^2)(y-2x^2) = y^2 - 3x^2y + 2x^4 とします。

臨界点とヘッセ行列。 fx=−6xy+8x3f_x = -6xy + 8x^3、fy=2y−3x2f_y = 2y - 3x^2 より、原点は臨界点です。fxx=−6y+24x2f_{xx} = -6y+24x^2、fxy=−6xf_{xy} = -6x、fyy=2f_{yy} = 2 なので

Hf(0,0)=(0002),Δ=0.H_f(0,0) = \begin{pmatrix} 0 & 0 \\ 0 & 2\end{pmatrix}, \qquad \Delta = 0 .

定理 8.2 (4) の判定不能の場合です。

原点を通る直線に沿った振る舞い。 傾き mm の直線 y=mxy=mx に沿うと

f(x,mx)=m2x2−3mx3+2x4=x2(m2−3mx+2x2).f(x,mx) = m^2x^2 - 3mx^3 + 2x^4 = x^2\bigl(m^2 - 3mx + 2x^2\bigr).

m≠0m \ne 0 なら括弧内は x→0x\to0 で m2>0m^2>0 に近づくので、∣x∣|x| が十分小さければ f(x,mx)>0f(x,mx)>0 です。m=0m=0 なら f(x,0)=2x4>0f(x,0)=2x^4>0(x≠0x\ne0)、鉛直な直線 x=0x=0 上でも f(0,y)=y2>0f(0,y)=y^2>0(y≠0y\ne0)です。つまり原点を通るどの直線に沿っても、原点は狭義の極小です。

それでも原点は極小ではありません。 放物線 y=32x2y = \frac{3}{2}x^2 に沿うと

f(x,32x2)=(32x2−x2)(32x2−2x2)=x22⋅(−x22)=−x44<0(x≠0)f\Bigl(x, \tfrac{3}{2}x^2\Bigr) = \Bigl(\tfrac{3}{2}x^2 - x^2\Bigr)\Bigl(\tfrac{3}{2}x^2 - 2x^2\Bigr) = \frac{x^2}{2}\cdot\Bigl(-\frac{x^2}{2}\Bigr) = -\frac{x^4}{4} < 0 \quad (x \ne 0)

です。原点のどんな近傍にもこの放物線上の点が入っているので、f(x)<f(0,0)=0f(\boldsymbol x) < f(0,0)=0 となる点が原点のいくらでも近くにあります。よって原点は極小ではありません(同様に極大でもないので鞍点です)。

からくりは、ff が負になる領域が 2 本の放物線 y=x2y=x^2 と y=2x2y=2x^2 に挟まれた領域だということです。この領域は原点で「つぶれて」いて、原点を通る直線はどれも、原点の近くではこの領域の外を通ってしまいます。

f が負になる領域y = x²y = 2x²原点を通る直線O
f(x, y) = (y − x²)(y − 2x²) が負になる領域。原点を通る直線は、原点の近くではこの領域に入りません

この例は「1 変数の問題に落として調べる」という方針の限界を示しています。多変数の極値問題では、原点への近づき方が直線だけではないことを、常に意識してください。

9. n 変数・ベクトル値関数への一般化

Section titled “9. n 変数・ベクトル値関数への一般化”

ここまでは f:U→Rf:U\to\mathbb{R}、U⊂R2U\subset\mathbb{R}^2 の場合だけを証明してきました。他の記事で「nn 変数でも同じ」と使うために、この節で f:U→Rmf:U\to\mathbb{R}^m、U⊂RnU\subset\mathbb{R}^n の場合に、全微分の定義・C1C^1 級ならば全微分可能・連鎖律・平均値不等式・偏微分の順序交換を証明します。証明の骨格は 2 変数の場合と同じで、違いは添え字が増えることと、値がベクトルになることだけです。

以下 U⊂RnU\subset\mathbb{R}^n は開集合とし、Rn,Rm\mathbb{R}^n,\mathbb{R}^m にはユークリッドノルム ∥⋅∥\|\cdot\| を入れ、e1,…,en\boldsymbol e_1,\dots,\boldsymbol e_n を Rn\mathbb{R}^n の標準基底とします。f=(f1,…,fm)T:U→Rm\boldsymbol f=(f_1,\dots,f_m)^{\mathsf{T}}:U\to\mathbb{R}^m の成分関数 fif_i の偏微分は、定義 3.1 と同じく ∂fi/∂xj(a)=lim⁡t→0(fi(a+tej)−fi(a))/t\partial f_i/\partial x_j(\boldsymbol a)=\lim_{t\to0}\bigl(f_i(\boldsymbol a+t\boldsymbol e_j)-f_i(\boldsymbol a)\bigr)/t で定めます。

ここでは、行列の「大きさ」を測る物差しを 2 種類使います。成分をすべて 2 乗して足す測り方(フロベニウスノルム)は計算しやすく、x\boldsymbol x を何倍に伸ばしうるかで測る測り方(作用素ノルム)は一次近似の誤差評価に向いています。以下では前者が後者を上から抑えることを示し、2 変数での評価(∣ph+qk∣≤(∣p∣+∣q∣)∥h∥|ph+qk|\le(|p|+|q|)\|\boldsymbol h\|)の代わりに使います。

行列 A=(aij)∈Rm×nA=(a_{ij})\in\mathbb{R}^{m\times n} に対し、フロベニウスノルムを ∥A∥F=(∑i,jaij2)1/2\|A\|_F=\bigl(\sum_{i,j}a_{ij}^2\bigr)^{1/2}、作用素ノルムを ∥A∥=sup⁡{∥Ax∥:∥x∥≤1}\|A\|=\sup\{\|A\boldsymbol x\|:\|\boldsymbol x\|\le1\} と書きます。第 ii 行を ri\boldsymbol r_i とすると、コーシー・シュワルツの不等式から ∣ri⋅x∣≤∥ri∥∥x∥|\boldsymbol r_i\cdot\boldsymbol x|\le\|\boldsymbol r_i\|\|\boldsymbol x\| であり、これを ii について 2 乗和すると

∥Ax∥≤∥A∥F ∥x∥(x∈Rn)\|A\boldsymbol x\|\le\|A\|_F\,\|\boldsymbol x\|\qquad(\boldsymbol x\in\mathbb{R}^n)

を得ます。したがって ∥A∥≤∥A∥F<∞\|A\|\le\|A\|_F<\infty であり、定義から ∥Ax∥≤∥A∥ ∥x∥\|A\boldsymbol x\|\le\|A\|\,\|\boldsymbol x\| です。

定義 9.1(全微分可能(n 変数・ベクトル値))↗

f:U→Rm\boldsymbol f:U\to\mathbb{R}^m、a∈U\boldsymbol a\in U とします。ある行列 A∈Rm×nA\in\mathbb{R}^{m\times n} が存在して

lim⁡h→0∥f(a+h)−f(a)−Ah∥∥h∥=0\lim_{\boldsymbol h\to\boldsymbol 0}\frac{\|\boldsymbol f(\boldsymbol a+\boldsymbol h)-\boldsymbol f(\boldsymbol a)-A\boldsymbol h\|}{\|\boldsymbol h\|}=0

が成り立つとき、f\boldsymbol f は a\boldsymbol a で全微分可能であるといい、線形写像 h↦Ah\boldsymbol h\mapsto A\boldsymbol h を f\boldsymbol f の a\boldsymbol a における微分と呼びます。m=1, n=2m=1,\ n=2 のときは 定義 4.1 に一致します(A=(p  q)A=(p\ \ q))。

命題 9.2(全微分可能性の基本性質(n 変数・ベクトル値))✓

f\boldsymbol f が a\boldsymbol a で全微分可能で、定義 9.1 の条件が行列 AA で成り立つとします。

  1. f\boldsymbol f は a\boldsymbol a で連続である。
  2. すべての成分 fif_i が a\boldsymbol a で偏微分可能で、AA の (i,j)(i,j) 成分は ∂fi/∂xj(a)\partial f_i/\partial x_j(\boldsymbol a) である。とくに AA は一意に定まる。この行列をヤコビ行列と呼び Jf(a)J_{\boldsymbol f}(\boldsymbol a) と書く。m=1m=1 のときその 1 行が ∇f(a)\nabla f(\boldsymbol a) である。
  3. 逆に、各成分 fif_i が(m=1m=1 の意味で)a\boldsymbol a で全微分可能ならば、f\boldsymbol f は a\boldsymbol a で全微分可能で、Jf(a)J_{\boldsymbol f}(\boldsymbol a) の第 ii 行は ∇fi(a)\nabla f_i(\boldsymbol a) である。
証明(命題 9.2)

R(h)=f(a+h)−f(a)−Ah\boldsymbol R(\boldsymbol h)=\boldsymbol f(\boldsymbol a+\boldsymbol h)-\boldsymbol f(\boldsymbol a)-A\boldsymbol h と置きます。仮定は ∥R(h)∥/∥h∥→0\|\boldsymbol R(\boldsymbol h)\|/\|\boldsymbol h\|\to0 です。

(1) ∥R(h)∥=∥R(h)∥∥h∥∥h∥→0\|\boldsymbol R(\boldsymbol h)\|=\frac{\|\boldsymbol R(\boldsymbol h)\|}{\|\boldsymbol h\|}\|\boldsymbol h\|\to0 であり、∥Ah∥≤∥A∥F∥h∥→0\|A\boldsymbol h\|\le\|A\|_F\|\boldsymbol h\|\to0 です。よって f(a+h)−f(a)=Ah+R(h)→0\boldsymbol f(\boldsymbol a+\boldsymbol h)-\boldsymbol f(\boldsymbol a)=A\boldsymbol h+\boldsymbol R(\boldsymbol h)\to\boldsymbol 0 で、f\boldsymbol f は a\boldsymbol a で連続です。

(2) h=tej\boldsymbol h=t\boldsymbol e_j(t≠0t\ne0)と取ると ∥h∥=∣t∣\|\boldsymbol h\|=|t| で、AejA\boldsymbol e_j は AA の第 jj 列です。

f(a+tej)−f(a)t−Aej=R(tej)t\frac{\boldsymbol f(\boldsymbol a+t\boldsymbol e_j)-\boldsymbol f(\boldsymbol a)}{t}-A\boldsymbol e_j=\frac{\boldsymbol R(t\boldsymbol e_j)}{t}

の右辺はノルムが ∥R(tej)∥/∥tej∥→0\|\boldsymbol R(t\boldsymbol e_j)\|/\|t\boldsymbol e_j\|\to0 (t→0t\to0) です。各成分の絶対値はベクトルのノルム以下なので、第 ii 成分について (fi(a+tej)−fi(a))/t→aij\bigl(f_i(\boldsymbol a+t\boldsymbol e_j)-f_i(\boldsymbol a)\bigr)/t\to a_{ij}、すなわち ∂fi/∂xj(a)=aij\partial f_i/\partial x_j(\boldsymbol a)=a_{ij} です。

(3) 各 ii について R\boldsymbol R の第 ii 成分を RiR_i とすると、Ri(h)=fi(a+h)−fi(a)−⟨∇fi(a),h⟩R_i(\boldsymbol h)=f_i(\boldsymbol a+\boldsymbol h)-f_i(\boldsymbol a)-\langle\nabla f_i(\boldsymbol a),\boldsymbol h\rangle で、仮定より ∣Ri(h)∣/∥h∥→0|R_i(\boldsymbol h)|/\|\boldsymbol h\|\to0 です。AA を第 ii 行が ∇fi(a)\nabla f_i(\boldsymbol a) の行列とすると ∥R∥≤∑i∣Ri∣\|\boldsymbol R\|\le\sum_i|R_i| なので ∥R(h)∥/∥h∥→0\|\boldsymbol R(\boldsymbol h)\|/\|\boldsymbol h\|\to0 です。

(3) により、ベクトル値関数の全微分可能性は成分ごとに調べればよいことになります。命題 4.3 は m=1m=1, n=2n=2 の場合です。

定理 9.3(C¹ 級ならば全微分可能(n 変数・ベクトル値))✓

f:U→Rm\boldsymbol f:U\to\mathbb{R}^m、a∈U\boldsymbol a\in U とし、すべての ∂fi/∂xj\partial f_i/\partial x_j が a\boldsymbol a のある近傍 B(a,r)⊂UB(\boldsymbol a,r)\subset U で存在して a\boldsymbol a で連続であるとします。このとき f\boldsymbol f は a\boldsymbol a で全微分可能で、微分はヤコビ行列 Jf(a)=(∂fi/∂xj(a))J_{\boldsymbol f}(\boldsymbol a)=\bigl(\partial f_i/\partial x_j(\boldsymbol a)\bigr) です。したがってすべての偏導関数が UU で存在して連続(C1C^1 級)ならば、f\boldsymbol f は UU の各点で全微分可能です。

証明(定理 9.3)

命題 9.2 (3) により m=1m=1 の場合に帰着します。f=fif=f_i と書きます。∥h∥<r\|\boldsymbol h\|<r なる h=(h1,…,hn)\boldsymbol h=(h_1,\dots,h_n) に対し、p0=a\boldsymbol p_0=\boldsymbol a、pj=a+h1e1+⋯+hjej\boldsymbol p_j=\boldsymbol a+h_1\boldsymbol e_1+\cdots+h_j\boldsymbol e_j(j=1,…,nj=1,\dots,n)と置くと pn=a+h\boldsymbol p_n=\boldsymbol a+\boldsymbol h で、

f(a+h)−f(a)=∑j=1n[f(pj)−f(pj−1)]f(\boldsymbol a+\boldsymbol h)-f(\boldsymbol a)=\sum_{j=1}^n\bigl[f(\boldsymbol p_j)-f(\boldsymbol p_{j-1})\bigr]

です。pj−1\boldsymbol p_{j-1} から pj=pj−1+hjej\boldsymbol p_j=\boldsymbol p_{j-1}+h_j\boldsymbol e_j への線分上の点は、座標が (h1,…,hj−1,shj,0,…,0)(h_1,\dots,h_{j-1},sh_j,0,\dots,0)(s∈[0,1]s\in[0,1])の a\boldsymbol a からの変位なので、a\boldsymbol a からの距離は高々 ∥h∥<r\|\boldsymbol h\|<r で、B(a,r)B(\boldsymbol a,r) に入ります。そこで ∂f/∂xj\partial f/\partial x_j が存在しますから、s↦f(pj−1+s hjej)s\mapsto f(\boldsymbol p_{j-1}+s\,h_j\boldsymbol e_j) は [0,1][0,1] で微分可能で、平均値の定理により、ある θj∈(0,1)\theta_j\in(0,1) が存在して

f(pj)−f(pj−1)=∂f∂xj(qj) hj,qj=pj−1+θjhjejf(\boldsymbol p_j)-f(\boldsymbol p_{j-1})=\frac{\partial f}{\partial x_j}(\boldsymbol q_j)\,h_j,\qquad\boldsymbol q_j=\boldsymbol p_{j-1}+\theta_jh_j\boldsymbol e_j

となります(hj=0h_j=0 なら両辺 00)。よって εj(h)=∂f∂xj(qj)−∂f∂xj(a)\varepsilon_j(\boldsymbol h)=\frac{\partial f}{\partial x_j}(\boldsymbol q_j)-\frac{\partial f}{\partial x_j}(\boldsymbol a) と置くと

f(a+h)−f(a)−⟨∇f(a),h⟩=∑j=1nεj(h) hj.f(\boldsymbol a+\boldsymbol h)-f(\boldsymbol a)-\langle\nabla f(\boldsymbol a),\boldsymbol h\rangle=\sum_{j=1}^n\varepsilon_j(\boldsymbol h)\,h_j .

∥qj−a∥≤∥h∥→0\|\boldsymbol q_j-\boldsymbol a\|\le\|\boldsymbol h\|\to0 で、∂f/∂xj\partial f/\partial x_j は a\boldsymbol a で連続なので εj(h)→0\varepsilon_j(\boldsymbol h)\to0 です。∣hj∣≤∥h∥|h_j|\le\|\boldsymbol h\| から、左辺の絶対値を ∥h∥\|\boldsymbol h\| で割った量は ∑j∣εj(h)∣→0\sum_j|\varepsilon_j(\boldsymbol h)|\to0 です。これは 定義 9.1 の条件です。

n=2n=2 の場合の証明(定理 4.5)は座標を動かす順序が逆でしたが、本質は同じで、座標を 1 つずつ動かして 1 変数の平均値の定理を nn 回使うだけです。

定理 9.4(連鎖律(ヤコビ行列の積))✓

V⊂RpV\subset\mathbb{R}^p、U⊂RnU\subset\mathbb{R}^n を開集合、g:V→Rn\boldsymbol g:V\to\mathbb{R}^n、f:U→Rm\boldsymbol f:U\to\mathbb{R}^m とし、g(V)⊂U\boldsymbol g(V)\subset U とします。g\boldsymbol g が b∈V\boldsymbol b\in V で全微分可能、f\boldsymbol f が a=g(b)\boldsymbol a=\boldsymbol g(\boldsymbol b) で全微分可能ならば、f∘g\boldsymbol f\circ\boldsymbol g は b\boldsymbol b で全微分可能で

Jf∘g(b)=Jf(g(b)) Jg(b)J_{\boldsymbol f\circ\boldsymbol g}(\boldsymbol b)=J_{\boldsymbol f}(\boldsymbol g(\boldsymbol b))\,J_{\boldsymbol g}(\boldsymbol b)

(m×nm\times n 行列と n×pn\times p 行列の積)が成り立ちます。

証明(定理 9.4)

A=Jf(a)A=J_{\boldsymbol f}(\boldsymbol a)、B=Jg(b)B=J_{\boldsymbol g}(\boldsymbol b) と置きます。定理 6.1 の証明と同じく、誤差を連続な関数で表します。a+k∈U\boldsymbol a+\boldsymbol k\in U なる k≠0\boldsymbol k\ne\boldsymbol 0 に対し

E(k)=f(a+k)−f(a)−Ak∥k∥,E(0)=0\boldsymbol E(\boldsymbol k)=\frac{\boldsymbol f(\boldsymbol a+\boldsymbol k)-\boldsymbol f(\boldsymbol a)-A\boldsymbol k}{\|\boldsymbol k\|},\qquad\boldsymbol E(\boldsymbol 0)=\boldsymbol 0

と定めると、f\boldsymbol f の全微分可能性は E\boldsymbol E が 0\boldsymbol 0 で連続であることそのもので、f(a+k)−f(a)=Ak+E(k)∥k∥\boldsymbol f(\boldsymbol a+\boldsymbol k)-\boldsymbol f(\boldsymbol a)=A\boldsymbol k+\boldsymbol E(\boldsymbol k)\|\boldsymbol k\| がすべての k\boldsymbol k で成り立ちます。同様に g\boldsymbol g について F(h)\boldsymbol F(\boldsymbol h) (F(0)=0\boldsymbol F(\boldsymbol 0)=\boldsymbol 0 で 0\boldsymbol 0 で連続) を取り、g(b+h)−g(b)=Bh+F(h)∥h∥\boldsymbol g(\boldsymbol b+\boldsymbol h)-\boldsymbol g(\boldsymbol b)=B\boldsymbol h+\boldsymbol F(\boldsymbol h)\|\boldsymbol h\| とします。

k(h)=g(b+h)−g(b)\boldsymbol k(\boldsymbol h)=\boldsymbol g(\boldsymbol b+\boldsymbol h)-\boldsymbol g(\boldsymbol b) と置くと、f(g(b+h))=f(a+k(h))\boldsymbol f(\boldsymbol g(\boldsymbol b+\boldsymbol h))=\boldsymbol f(\boldsymbol a+\boldsymbol k(\boldsymbol h)) なので

f(g(b+h))−f(g(b))−ABh=A(k(h)−Bh)+E(k(h))∥k(h)∥=AF(h)∥h∥+E(k(h))∥k(h)∥.\begin{aligned} &\boldsymbol f(\boldsymbol g(\boldsymbol b+\boldsymbol h))-\boldsymbol f(\boldsymbol g(\boldsymbol b))-AB\boldsymbol h\\ &\quad=A\bigl(\boldsymbol k(\boldsymbol h)-B\boldsymbol h\bigr)+\boldsymbol E(\boldsymbol k(\boldsymbol h))\|\boldsymbol k(\boldsymbol h)\|=A\boldsymbol F(\boldsymbol h)\|\boldsymbol h\|+\boldsymbol E(\boldsymbol k(\boldsymbol h))\|\boldsymbol k(\boldsymbol h)\| . \end{aligned}

∥h∥\|\boldsymbol h\| で割って評価します。第 1 項は ∥AF(h)∥≤∥A∥F∥F(h)∥→0\|A\boldsymbol F(\boldsymbol h)\|\le\|A\|_F\|\boldsymbol F(\boldsymbol h)\|\to0 です。第 2 項について、∥k(h)∥≤∥Bh∥+∥F(h)∥∥h∥≤(∥B∥F+∥F(h)∥)∥h∥\|\boldsymbol k(\boldsymbol h)\|\le\|B\boldsymbol h\|+\|\boldsymbol F(\boldsymbol h)\|\|\boldsymbol h\|\le(\|B\|_F+\|\boldsymbol F(\boldsymbol h)\|)\|\boldsymbol h\| で、F(h)→0\boldsymbol F(\boldsymbol h)\to\boldsymbol 0 なので ∥k(h)∥/∥h∥\|\boldsymbol k(\boldsymbol h)\|/\|\boldsymbol h\| は 0\boldsymbol 0 の近くで有界です。また 命題 9.2 (1) により g\boldsymbol g は b\boldsymbol b で連続、すなわち k(h)→0\boldsymbol k(\boldsymbol h)\to\boldsymbol 0 ですから E(k(h))→0\boldsymbol E(\boldsymbol k(\boldsymbol h))\to\boldsymbol 0 です。有界量と 0\boldsymbol 0 に収束する量の積なので第 2 項も 0\boldsymbol 0 に収束します。以上で ∥f(g(b+h))−f(g(b))−ABh∥/∥h∥→0\|\boldsymbol f(\boldsymbol g(\boldsymbol b+\boldsymbol h))-\boldsymbol f(\boldsymbol g(\boldsymbol b))-AB\boldsymbol h\|/\|\boldsymbol h\|\to0 が示され、命題 9.2 (2) により微分の行列は ABAB です。

p=1p=1、m=1m=1、n=2n=2 とすれば 定理 6.1、成分で書けば 注意 6.2 の式になります。成分で書くと一般に

∂(f∘g)i∂yl(b)=∑j=1n∂fi∂xj(g(b)) ∂gj∂yl(b)\frac{\partial(\boldsymbol f\circ\boldsymbol g)_i}{\partial y_l}(\boldsymbol b)=\sum_{j=1}^n\frac{\partial f_i}{\partial x_j}(\boldsymbol g(\boldsymbol b))\,\frac{\partial g_j}{\partial y_l}(\boldsymbol b)

であり、「中間変数 xjx_j のすべてを経由する経路について足す」という規則です。

例 9.5(ヤコビ行列の積による連鎖律の検算)

g(r,θ)=(rcos⁡θ, rsin⁡θ)\boldsymbol g(r,\theta)=(r\cos\theta,\ r\sin\theta)、f(x,y)=x2+xyf(x,y)=x^2+xy とすると、Jf=(2x+yx)J_f=\begin{pmatrix}2x+y & x\end{pmatrix}、Jg=(cos⁡θ−rsin⁡θsin⁡θrcos⁡θ)J_{\boldsymbol g}=\begin{pmatrix}\cos\theta&-r\sin\theta\\\sin\theta&r\cos\theta\end{pmatrix} です。定理 9.4 により、(r,θ)=(1,π/2)(r,\theta)=(1,\pi/2)(g=(0,1)\boldsymbol g=(0,1))では

Jf∘g(1,π2)=(10)(0−110)=(0−1).J_{f\circ\boldsymbol g}(1,\tfrac\pi2)=\begin{pmatrix}1&0\end{pmatrix}\begin{pmatrix}0&-1\\1&0\end{pmatrix}=\begin{pmatrix}0&-1\end{pmatrix}.

直接計算で確かめます。f(g(r,θ))=r2cos⁡2θ+r2sin⁡θcos⁡θf(\boldsymbol g(r,\theta))=r^2\cos^2\theta+r^2\sin\theta\cos\theta なので、∂r=2rcos⁡2θ+2rsin⁡θcos⁡θ\partial_r=2r\cos^2\theta+2r\sin\theta\cos\theta は (1,π/2)(1,\pi/2) で 00、∂θ=r2(−2cos⁡θsin⁡θ+cos⁡2θ−sin⁡2θ)\partial_\theta=r^2(-2\cos\theta\sin\theta+\cos^2\theta-\sin^2\theta) は −1-1 です。一致します。

1 変数の平均値の定理 f(b)−f(a)=f′(c)(b−a)f(b)-f(a)=f'(c)(b-a) は、ベクトル値関数では等式の形では成り立ちません。

例 9.6(ベクトル値関数では平均値の等式が成り立たない)

f(t)=(cos⁡t,sin⁡t)\boldsymbol f(t)=(\cos t,\sin t)、t∈[0,2π]t\in[0,2\pi] とします。f(2π)−f(0)=0\boldsymbol f(2\pi)-\boldsymbol f(0)=\boldsymbol 0 ですが、f′(t)=(−sin⁡t,cos⁡t)\boldsymbol f'(t)=(-\sin t,\cos t) のノルムは常に 11 で、f(2π)−f(0)=f′(c)(2π−0)\boldsymbol f(2\pi)-\boldsymbol f(0)=\boldsymbol f'(c)(2\pi-0) となる cc は存在しません。

等式の代わりに、次の不等式が成り立ちます。

定理 9.7(平均値不等式(ベクトル値))✓

f:U→Rm\boldsymbol f:U\to\mathbb{R}^m とし、a,b∈U\boldsymbol a,\boldsymbol b\in U を結ぶ線分 L={a+t(b−a):0≤t≤1}L=\{\boldsymbol a+t(\boldsymbol b-\boldsymbol a):0\le t\le1\} が UU に含まれ、f\boldsymbol f が LL の各点で全微分可能であるとします。このとき、ある θ∈(0,1)\theta\in(0,1) が存在して

∥f(b)−f(a)∥≤∥Jf(a+θ(b−a))∥ ∥b−a∥\|\boldsymbol f(\boldsymbol b)-\boldsymbol f(\boldsymbol a)\|\le\bigl\|J_{\boldsymbol f}(\boldsymbol a+\theta(\boldsymbol b-\boldsymbol a))\bigr\|\,\|\boldsymbol b-\boldsymbol a\|

が成り立ちます。とくに、凸な開集合 UU 上で f\boldsymbol f が全微分可能で、すべての点で ∥Jf∥≤M\|J_{\boldsymbol f}\|\le M ならば、∥f(x)−f(y)∥≤M∥x−y∥\|\boldsymbol f(\boldsymbol x)-\boldsymbol f(\boldsymbol y)\|\le M\|\boldsymbol x-\boldsymbol y\|(x,y∈U\boldsymbol x,\boldsymbol y\in U)です。

証明(定理 9.7)

v=f(b)−f(a)\boldsymbol v=\boldsymbol f(\boldsymbol b)-\boldsymbol f(\boldsymbol a) とします。v=0\boldsymbol v=\boldsymbol 0 なら自明なので v≠0\boldsymbol v\ne\boldsymbol 0 とします。γ(t)=a+t(b−a)\boldsymbol\gamma(t)=\boldsymbol a+t(\boldsymbol b-\boldsymbol a) はアフィン写像で、{t:γ(t)∈U}\{t:\boldsymbol\gamma(t)\in U\} は UU が開集合なので [0,1][0,1] を含む開集合です。この上で考えます。定理 9.4 を γ\boldsymbol\gamma と f\boldsymbol f に適用すると、f∘γ\boldsymbol f\circ\boldsymbol\gamma は [0,1][0,1] の各点で微分可能で、その導関数は Jf(γ(t))(b−a)J_{\boldsymbol f}(\boldsymbol\gamma(t))(\boldsymbol b-\boldsymbol a) です。そこで実数値関数

φ(t)=⟨v,f(γ(t))⟩\varphi(t)=\langle\boldsymbol v,\boldsymbol f(\boldsymbol\gamma(t))\rangle

を考えると、φ\varphi は [0,1][0,1] で微分可能(とくに連続)で、φ′(t)=⟨v,Jf(γ(t))(b−a)⟩\varphi'(t)=\langle\boldsymbol v,J_{\boldsymbol f}(\boldsymbol\gamma(t))(\boldsymbol b-\boldsymbol a)\rangle です。1 変数の平均値の定理により、ある θ∈(0,1)\theta\in(0,1) で

∥v∥2=φ(1)−φ(0)=φ′(θ)≤∥v∥ ∥Jf(γ(θ))(b−a)∥≤∥v∥ ∥Jf(γ(θ))∥ ∥b−a∥\|\boldsymbol v\|^2=\varphi(1)-\varphi(0)=\varphi'(\theta)\le\|\boldsymbol v\|\,\bigl\|J_{\boldsymbol f}(\boldsymbol\gamma(\theta))(\boldsymbol b-\boldsymbol a)\bigr\|\le\|\boldsymbol v\|\,\|J_{\boldsymbol f}(\boldsymbol\gamma(\theta))\|\,\|\boldsymbol b-\boldsymbol a\|

となります(最初の不等号はコーシー・シュワルツ、次は作用素ノルムの定義)。∥v∥>0\|\boldsymbol v\|>0 で割れば主張を得ます。最後の主張は、凸性から線分 L⊂UL\subset U であることと、上の不等式を a=y\boldsymbol a=\boldsymbol y、b=x\boldsymbol b=\boldsymbol x に適用すれば従います。

例 9.8(平均値不等式の確認)

例 9.6 の f\boldsymbol f は Jf=f′(t)J_{\boldsymbol f}=\boldsymbol f'(t)(2×12\times1 行列)で ∥J∥=1\|J\|=1 です。不等式は ∥f(2π)−f(0)∥=0≤1⋅2π\|\boldsymbol f(2\pi)-\boldsymbol f(0)\|=0\le1\cdot2\pi となり、成立しています。また [0,π][0,\pi] では ∥f(π)−f(0)∥=2≤π\|\boldsymbol f(\pi)-\boldsymbol f(0)\|=2\le\pi で、等式の代わりにこの程度の「ゆるみ」が必要なことが分かります。

9.5. 偏微分の順序交換(n 変数)

Section titled “9.5. 偏微分の順序交換(n 変数)”

定理 9.9(シュワルツの定理(n 変数))✓

U⊂RnU\subset\mathbb{R}^n を開集合、f:U→Rf:U\to\mathbb{R}、a∈U\boldsymbol a\in U とします。a\boldsymbol a のある近傍で ∂f/∂xi\partial f/\partial x_i、∂f/∂xj\partial f/\partial x_j と、2 階偏導関数 ∂j∂if=∂∂xj(∂f∂xi)\partial_j\partial_if=\dfrac{\partial}{\partial x_j}\Bigl(\dfrac{\partial f}{\partial x_i}\Bigr)、∂i∂jf\partial_i\partial_jf が存在し、後者の 2 つが a\boldsymbol a で連続であれば

∂j∂if(a)=∂i∂jf(a)\partial_j\partial_if(\boldsymbol a)=\partial_i\partial_jf(\boldsymbol a)

です。とくに ff が C2C^2 級ならば、すべての 2 階偏導関数は微分の順序に依らず、ヘッセ行列 (∂i∂jf(a))i,j\bigl(\partial_i\partial_jf(\boldsymbol a)\bigr)_{i,j} は対称です。

証明(定理 9.9)

i=ji=j なら自明なので i≠ji\ne j とします。B(a,r)⊂UB(\boldsymbol a,r)\subset U なる r>0r>0 を、仮定の「近傍」に含まれるように取り、D={(s,t)∈R2:s2+t2<r2}D=\{(s,t)\in\mathbb{R}^2:s^2+t^2<r^2\} 上の 2 変数関数

φ(s,t)=f(a+sei+tej)\varphi(s,t)=f(\boldsymbol a+s\boldsymbol e_i+t\boldsymbol e_j)

を考えます。∥sei+tej∥=s2+t2\|s\boldsymbol e_i+t\boldsymbol e_j\|=\sqrt{s^2+t^2} なので φ\varphi は DD で定義されます。φ\varphi の ss による偏微分は ff の xix_i による偏微分の制限であり、tt についても同様なので、DD 上で

φs(s,t)=∂if(a+sei+tej),φt=∂jf(⋯ ),φst=∂j∂if(⋯ ),φts=∂i∂jf(⋯ )\varphi_s(s,t)=\partial_if(\boldsymbol a+s\boldsymbol e_i+t\boldsymbol e_j),\quad\varphi_t=\partial_jf(\cdots),\quad\varphi_{st}=\partial_j\partial_if(\cdots),\quad\varphi_{ts}=\partial_i\partial_jf(\cdots)

が存在します(φst\varphi_{st} は 定理 7.1 の記号に従い「先に ss、次に tt」です)。(s,t)↦a+sei+tej(s,t)\mapsto\boldsymbol a+s\boldsymbol e_i+t\boldsymbol e_j は連続なので、∂j∂if\partial_j\partial_if と ∂i∂jf\partial_i\partial_jf が a\boldsymbol a で連続という仮定から、φst\varphi_{st} と φts\varphi_{ts} は (0,0)(0,0) で連続です。よって 定理 7.1 が φ\varphi に使えて φst(0,0)=φts(0,0)\varphi_{st}(0,0)=\varphi_{ts}(0,0)、すなわち ∂j∂if(a)=∂i∂jf(a)\partial_j\partial_if(\boldsymbol a)=\partial_i\partial_jf(\boldsymbol a) です。

2 階の混合偏微分に現れる変数は常に 2 つだけなので、nn 変数の問題は 2 変数の問題に切り出せる、というのがこの証明の要点です。ヘッセ行列が対称であることは、定理 7.4 の証明で 2 次形式 hTHh\boldsymbol h^{\mathsf{T}}H\boldsymbol h を作るときにも使われています。

9.6. n 変数のテイラーの定理とヘッセ行列による極値判定

Section titled “9.6. n 変数のテイラーの定理とヘッセ行列による極値判定”

§7〜§8 の 2 変数の議論は、1 変数に落とす手法のおかげでほぼそのまま nn 変数に移せます。U⊂RnU\subset\mathbb{R}^n を開集合とし、f:U→Rf:U\to\mathbb{R} のすべての 2 階までの偏導関数が存在して UU で連続なとき ff は C2C^2 級であるといいます。ヘッセ行列を Hf(a)=(∂j∂if(a))i,j=1nH_f(\boldsymbol a)=\bigl(\partial_j\partial_if(\boldsymbol a)\bigr)_{i,j=1}^{n} で定めると、定理 9.9 により C2C^2 級なら対称行列です。

定理 9.10(n 変数のテイラーの定理(2 次まで))✓

ff を開集合 U⊂RnU\subset\mathbb{R}^n 上の C2C^2 級関数、a∈U\boldsymbol a\in U とし、B(a,r)⊂UB(\boldsymbol a,r)\subset U とします。∥h∥<r\|\boldsymbol h\|<r なる h=(h1,…,hn)T\boldsymbol h=(h_1,\dots,h_n)^{\mathsf{T}} に対し次が成り立ちます。

  1. (ラグランジュ剰余)ある θ∈(0,1)\theta\in(0,1) が存在して
f(a+h)=f(a)+⟨∇f(a),h⟩+12 hTHf(a+θh) h.f(\boldsymbol a+\boldsymbol h)=f(\boldsymbol a)+\langle\nabla f(\boldsymbol a),\boldsymbol h\rangle+\frac12\,\boldsymbol h^{\mathsf{T}}H_f(\boldsymbol a+\theta\boldsymbol h)\,\boldsymbol h .
  1. (ペアノ剰余)h→0\boldsymbol h\to\boldsymbol 0 のとき
f(a+h)=f(a)+⟨∇f(a),h⟩+12 hTHf(a) h+o(∥h∥2).f(\boldsymbol a+\boldsymbol h)=f(\boldsymbol a)+\langle\nabla f(\boldsymbol a),\boldsymbol h\rangle+\frac12\,\boldsymbol h^{\mathsf{T}}H_f(\boldsymbol a)\,\boldsymbol h+o(\|\boldsymbol h\|^2).

ここで ∇f=(∂1f,…,∂nf)T\nabla f=(\partial_1f,\dots,\partial_nf)^{\mathsf{T}}、hTHh=∑i,j∂j∂if hihj\boldsymbol h^{\mathsf{T}}H\boldsymbol h=\sum_{i,j}\partial_j\partial_if\,h_ih_j です。

証明(定理 9.10)

h=0\boldsymbol h=\boldsymbol 0 なら両辺が一致するので h≠0\boldsymbol h\ne\boldsymbol 0 とします。I={t∈R:∥th∥<r}=(−r/∥h∥, r/∥h∥)I=\{t\in\mathbb{R}:\|t\boldsymbol h\|<r\}=(-r/\|\boldsymbol h\|,\,r/\|\boldsymbol h\|) は開区間で、∥h∥<r\|\boldsymbol h\|<r より [0,1]⊂I[0,1]\subset I です。γ(t)=a+th\gamma(t)=\boldsymbol a+t\boldsymbol h は II から B(a,r)⊂UB(\boldsymbol a,r)\subset U への写像で、ヤコビ行列は列ベクトル h\boldsymbol h です。φ=f∘γ\varphi=f\circ\gamma と置きます。

(1) ff は C1C^1 級なので 定理 9.3 により全微分可能で、ヤコビ行列は行ベクトル ∇fT\nabla f^{\mathsf{T}} です。定理 9.4 より、t∈It\in I に対し

φ′(t)=∑i=1n∂if(a+th) hi.\varphi'(t)=\sum_{i=1}^{n}\partial_if(\boldsymbol a+t\boldsymbol h)\,h_i .

各 ∂if\partial_if も C1C^1 級(ff が C2C^2 級だから)なので全微分可能で、同じ連鎖律をもう一度 ∂if∘γ\partial_if\circ\gamma に使うと

φ′′(t)=∑i=1n∑j=1n∂j∂if(a+th) hihj=hTHf(a+th)h.\varphi''(t)=\sum_{i=1}^{n}\sum_{j=1}^{n}\partial_j\partial_if(\boldsymbol a+t\boldsymbol h)\,h_ih_j=\boldsymbol h^{\mathsf{T}}H_f(\boldsymbol a+t\boldsymbol h)\boldsymbol h .

これは tt の連続関数です(2 階偏導関数が連続で γ\gamma も連続)。1 変数のテイラーの定理(テイラーの定理(ラグランジュの剰余)(定理 5.3)[平均値の定理とテイラーの定理])を φ\varphi に 1 次まで適用すると、ある θ∈(0,1)\theta\in(0,1) が存在して φ(1)=φ(0)+φ′(0)+12φ′′(θ)\varphi(1)=\varphi(0)+\varphi'(0)+\frac12\varphi''(\theta) です。φ(1)=f(a+h)\varphi(1)=f(\boldsymbol a+\boldsymbol h)、φ(0)=f(a)\varphi(0)=f(\boldsymbol a)、φ′(0)=⟨∇f(a),h⟩\varphi'(0)=\langle\nabla f(\boldsymbol a),\boldsymbol h\rangle を代入して (1) を得ます。

(2) (1) の右辺と (2) の右辺の差は 12hT[Hf(a+θh)−Hf(a)]h\frac12\boldsymbol h^{\mathsf{T}}[H_f(\boldsymbol a+\theta\boldsymbol h)-H_f(\boldsymbol a)]\boldsymbol h です。角括弧の成分の絶対値の最大値を M(h)M(\boldsymbol h) と書くと、∣hi∣≤∥h∥|h_i|\le\|\boldsymbol h\| より

∣hT[ ⋅ ]h∣≤∑i,j∣mij∣ ∣hi∣ ∣hj∣≤n2M(h) ∥h∥2\Bigl|\boldsymbol h^{\mathsf{T}}[\,\cdot\,]\boldsymbol h\Bigr|\le\sum_{i,j}|m_{ij}|\,|h_i|\,|h_j|\le n^2M(\boldsymbol h)\,\|\boldsymbol h\|^2

です。2 階偏導関数は a\boldsymbol a で連続で ∥θh∥≤∥h∥→0\|\theta\boldsymbol h\|\le\|\boldsymbol h\|\to0 なので M(h)→0M(\boldsymbol h)\to0 であり、差は o(∥h∥2)o(\|\boldsymbol h\|^2) です。

極値判定には、ヘッセ行列が定める 2 次形式の符号を調べます。2 変数では 補題 8.1 で判別量 Δ\Delta を使いましたが、nn 変数では固有値で分類するのが見通しのよい方法です。

定義 9.11(正定値・負定値・不定値)↗

nn 次実対称行列 HH と 2 次形式 Q(h)=hTHhQ(\boldsymbol h)=\boldsymbol h^{\mathsf{T}}H\boldsymbol h について、QQ(または HH)が正定値とは、h≠0\boldsymbol h\ne\boldsymbol 0 なるすべての h∈Rn\boldsymbol h\in\mathbb{R}^n に対し Q(h)>0Q(\boldsymbol h)>0 となることです。すべての h≠0\boldsymbol h\ne\boldsymbol 0 で Q(h)<0Q(\boldsymbol h)<0 のとき負定値、Q(u)>0>Q(v)Q(\boldsymbol u)>0>Q(\boldsymbol v) となる u,v\boldsymbol u,\boldsymbol v が存在するとき不定値といいます。

補題 9.12(2 次形式の符号と固有値)✓

HH を nn 次実対称行列とし、その固有値を λ1≤⋯≤λn\lambda_1\le\dots\le\lambda_n とします(実数になります)。すべての h∈Rn\boldsymbol h\in\mathbb{R}^n に対し

λ1∥h∥2≤hTHh≤λn∥h∥2\lambda_1\|\boldsymbol h\|^2\le\boldsymbol h^{\mathsf{T}}H\boldsymbol h\le\lambda_n\|\boldsymbol h\|^2

が成り立ち、最小値・最大値は対応する固有ベクトルで達成されます。したがって、HH が正定値であることは λ1>0\lambda_1>0 と、負定値であることは λn<0\lambda_n<0 と、不定値であることは λ1<0<λn\lambda_1<0<\lambda_n と、それぞれ同値です。

証明(補題 9.12)

実対称行列のスペクトル定理(定理 5.2)[対角化とジョルダン標準形] により、直交行列 PP(列を q1,…,qn\boldsymbol q_1,\dots,\boldsymbol q_n、固有値 λi\lambda_i に対応)で PTHP=diag⁡(λ1,…,λn)P^{\mathsf{T}}HP=\operatorname{diag}(\lambda_1,\dots,\lambda_n) となります(固有値は実数で、番号は λ1≤⋯≤λn\lambda_1\le\dots\le\lambda_n となるよう並べます)。y=PTh\boldsymbol y=P^{\mathsf{T}}\boldsymbol h と置くと PP は直交行列なので ∥y∥=∥h∥\|\boldsymbol y\|=\|\boldsymbol h\| で、

hTHh=yT(PTHP)y=∑i=1nλiyi2.\boldsymbol h^{\mathsf{T}}H\boldsymbol h=\boldsymbol y^{\mathsf{T}}(P^{\mathsf{T}}HP)\boldsymbol y=\sum_{i=1}^{n}\lambda_iy_i^2 .

λ1∑yi2≤∑λiyi2≤λn∑yi2\lambda_1\sum y_i^2\le\sum\lambda_iy_i^2\le\lambda_n\sum y_i^2 から不等式を得ます。h=q1\boldsymbol h=\boldsymbol q_1 では y=e1\boldsymbol y=\boldsymbol e_1 なので Q=λ1Q=\lambda_1、h=qn\boldsymbol h=\boldsymbol q_n では Q=λnQ=\lambda_n で、等号が達成されます。

正定値 ⇔λ1>0\Leftrightarrow\lambda_1>0: λ1>0\lambda_1>0 なら h≠0\boldsymbol h\ne\boldsymbol 0 で Q(h)≥λ1∥h∥2>0Q(\boldsymbol h)\ge\lambda_1\|\boldsymbol h\|^2>0。逆に正定値なら Q(q1)=λ1>0Q(\boldsymbol q_1)=\lambda_1>0 です。負定値の場合は −H-H に適用します(固有値は −λi-\lambda_i で、最小のものは −λn-\lambda_n)。不定値の場合: λ1<0<λn\lambda_1<0<\lambda_n なら Q(qn)=λn>0>λ1=Q(q1)Q(\boldsymbol q_n)=\lambda_n>0>\lambda_1=Q(\boldsymbol q_1)。逆に Q(u)>0>Q(v)Q(\boldsymbol u)>0>Q(\boldsymbol v) ならば λn∥u∥2≥Q(u)>0\lambda_n\|\boldsymbol u\|^2\ge Q(\boldsymbol u)>0 と λ1∥v∥2≤Q(v)<0\lambda_1\|\boldsymbol v\|^2\le Q(\boldsymbol v)<0 から λn>0>λ1\lambda_n>0>\lambda_1 です。

定理 9.13(ヘッセ行列による極値判定(n 変数))✓

ff を開集合 U⊂RnU\subset\mathbb{R}^n 上の C2C^2 級関数、a∈U\boldsymbol a\in U を臨界点(∇f(a)=0\nabla f(\boldsymbol a)=\boldsymbol 0)、H=Hf(a)H=H_f(\boldsymbol a) とします。

  1. HH が正定値ならば、ff は a\boldsymbol a で狭義の極小。
  2. HH が負定値ならば、ff は a\boldsymbol a で狭義の極大。
  3. HH が不定値ならば、a\boldsymbol a は鞍点(極大でも極小でもない)。
  4. HH が固有値 00 をもつ(det⁡H=0\det H=0)場合は、この情報だけでは極大・極小・鞍点のいずれとも決まらない。
証明(定理 9.13)

Q(h)=hTHhQ(\boldsymbol h)=\boldsymbol h^{\mathsf{T}}H\boldsymbol h、R(h)=f(a+h)−f(a)−12Q(h)R(\boldsymbol h)=f(\boldsymbol a+\boldsymbol h)-f(\boldsymbol a)-\frac12Q(\boldsymbol h) と置きます。a\boldsymbol a は臨界点なので 定理 9.10 (2) より R(h)=o(∥h∥2)R(\boldsymbol h)=o(\|\boldsymbol h\|^2) です。固有値を λ1≤⋯≤λn\lambda_1\le\dots\le\lambda_n とします。

(1) 補題 9.12 により m=λ1>0m=\lambda_1>0 で Q(h)≥m∥h∥2Q(\boldsymbol h)\ge m\|\boldsymbol h\|^2 です。R=o(∥h∥2)R=o(\|\boldsymbol h\|^2) より、ある δ>0\delta>0 が存在して 0<∥h∥<δ0<\|\boldsymbol h\|<\delta ならば ∣R(h)∣≤m4∥h∥2|R(\boldsymbol h)|\le\frac m4\|\boldsymbol h\|^2 となるので、B(a,δ)⊂UB(\boldsymbol a,\delta)\subset U と取り直して

f(a+h)−f(a)≥m2∥h∥2−m4∥h∥2=m4∥h∥2>0(0<∥h∥<δ)f(\boldsymbol a+\boldsymbol h)-f(\boldsymbol a)\ge\frac m2\|\boldsymbol h\|^2-\frac m4\|\boldsymbol h\|^2=\frac m4\|\boldsymbol h\|^2>0\qquad(0<\|\boldsymbol h\|<\delta)

です。すなわち狭義の極小です。

(2) −f-f に (1) を適用します。H−f(a)=−HH_{-f}(\boldsymbol a)=-H は正定値です。

(3) 補題 9.12 より λ1<0<λn\lambda_1<0<\lambda_n で、固有値 λn\lambda_n の単位固有ベクトル qn\boldsymbol q_n に対し Q(tqn)=λnt2Q(t\boldsymbol q_n)=\lambda_nt^2 です。t≠0t\ne0 が十分小さければ ∣R(tqn)∣≤λn4t2|R(t\boldsymbol q_n)|\le\frac{\lambda_n}{4}t^2 なので

f(a+tqn)−f(a)≥λn2t2−λn4t2>0f(\boldsymbol a+t\boldsymbol q_n)-f(\boldsymbol a)\ge\frac{\lambda_n}{2}t^2-\frac{\lambda_n}{4}t^2>0

です。同様に単位固有ベクトル q1\boldsymbol q_1 では f(a+tq1)−f(a)≤λ14t2<0f(\boldsymbol a+t\boldsymbol q_1)-f(\boldsymbol a)\le\frac{\lambda_1}{4}t^2<0 です。a\boldsymbol a のどんな近傍にも ff の値が f(a)f(\boldsymbol a) より大きい点と小さい点があるので、極大でも極小でもありません。

(4) n≥2n\ge2 のとき、f=∑xi4f=\sum x_i^4、−f-f、x14−x24+∑i≥3xi4x_1^4-x_2^4+\sum_{i\ge3}x_i^4 は原点が臨界点でヘッセ行列が零行列ですが、原点はそれぞれ狭義の極小・狭義の極大・鞍点です(x1x_1 軸方向で正、x2x_2 軸方向で負)。n=1n=1 では x4x^4、−x4-x^4、x3x^3 が同じ役割を果たします。

n=2n=2 のとき、固有値の積は det⁡H=Δ\det H=\Delta、和は tr⁡H=fxx+fyy\operatorname{tr}H=f_{xx}+f_{yy} です。Δ>0\Delta>0 なら固有値は同符号で、fxx>0f_{xx}>0 ならば(定理 8.2 の仮定)和が正になり両方正、Δ<0\Delta<0 なら異符号です。定理 9.13 は 定理 8.2 の (1)〜(3) を含んでいます。

例 9.14(3 変数の極小の判定)

f(x,y,z)=x2+y2+z2+xy+yzf(x,y,z)=x^2+y^2+z^2+xy+yz を考えます。∇f=(2x+y,  x+2y+z,  y+2z)\nabla f=(2x+y,\;x+2y+z,\;y+2z) で、

Hf=(210121012)H_f=\begin{pmatrix}2&1&0\\1&2&1\\0&1&2\end{pmatrix}

は定数行列です。固有値は 2+2,  2,  2−22+\sqrt2,\;2,\;2-\sqrt2 です。実際、固有多項式は (2−λ)[(2−λ)2−2](2-\lambda)\bigl[(2-\lambda)^2-2\bigr] となります(第 1 行で余因子展開すると (2−λ)[(2−λ)2−1]−1⋅(2−λ)=(2−λ)[(2−λ)2−2](2-\lambda)\bigl[(2-\lambda)^2-1\bigr]-1\cdot(2-\lambda)=(2-\lambda)\bigl[(2-\lambda)^2-2\bigr])。すべて正なので HfH_f は正定値で、det⁡Hf=2(4−1)−1⋅2=4≠0\det H_f=2(4-1)-1\cdot 2=4\ne0 より臨界点は原点のみ、定理 9.13 (1) によりそこで狭義の極小です。

演習 10.1易

f(x,y)=x2y−y3+3f(x,y) = x^2y - y^3 + 3 について、次に答えてください。

  1. 偏導関数 fx,fyf_x, f_y を求め、ff が R2\mathbb{R}^2 全体で全微分可能であることを示してください。
  2. 点 (2,1)(2,1) における接平面の方程式を求めてください。
  3. それを使って f(1.98,1.02)f(1.98, 1.02) を近似し、真の値と比べてください。
解答

1. yy を定数と見て fx=2xyf_x = 2xy、xx を定数と見て fy=x2−3y2f_y = x^2 - 3y^2 です。どちらも多項式なので R2\mathbb{R}^2 全体で連続、すなわち ff は C1C^1 級です。定理 4.5 より ff は各点で全微分可能です。

2. f(2,1)=4⋅1−1+3=6f(2,1) = 4\cdot1 - 1 + 3 = 6、fx(2,1)=2⋅2⋅1=4f_x(2,1) = 2\cdot2\cdot1 = 4、fy(2,1)=4−3=1f_y(2,1) = 4 - 3 = 1 です。定義 5.1 より

z=6+4(x−2)+1⋅(y−1).z = 6 + 4(x-2) + 1\cdot(y-1).

3. (x,y)=(1.98,1.02)(x,y)=(1.98,1.02) すなわち h=(−0.02,0.02)\boldsymbol h = (-0.02, 0.02) を代入して

z=6+4×(−0.02)+1×0.02=6−0.08+0.02=5.94.z = 6 + 4\times(-0.02) + 1\times 0.02 = 6 - 0.08 + 0.02 = 5.94 .

真の値は f(1.98,1.02)=(1.98)2(1.02)−(1.02)3+3=3.998808−1.061208+3=5.9376f(1.98,1.02) = (1.98)^2(1.02) - (1.02)^3 + 3 = 3.998808 - 1.061208 + 3 = 5.9376 です。誤差は 0.00240.0024 で、∥h∥=0.022≈0.0283\|\boldsymbol h\| = 0.02\sqrt2 \approx 0.0283 と比べて 1 桁小さく、∥h∥2=0.0008\|\boldsymbol h\|^2 = 0.0008 の 3 倍程度です。定理 7.4 の 2 次項 12(fxxh2+2fxyhk+fyyk2)\frac12(f_{xx}h^2 + 2f_{xy}hk+f_{yy}k^2) を計算すると、fxx(2,1)=2f_{xx}(2,1)=2、fxy(2,1)=4f_{xy}(2,1)=4、fyy(2,1)=−6f_{yy}(2,1)=-6 より 12(2(0.0004)+8(−0.0004)−6(0.0004))=−0.0024\frac12(2(0.0004) + 8(-0.0004) - 6(0.0004)) = -0.0024 となり、誤差の符号と大きさが説明できます。

演習 10.2標準

ff を R2\mathbb{R}^2 上の C1C^1 級関数とし、極座標変換 x=rcos⁡θx = r\cos\theta、y=rsin⁡θy = r\sin\theta により g(r,θ)=f(rcos⁡θ,rsin⁡θ)g(r,\theta) = f(r\cos\theta, r\sin\theta) と定めます。r>0r>0 において

gr2+1r2gθ2=fx2+fy2=∥∇f∥2g_r^2 + \frac{1}{r^2}g_\theta^2 = f_x^2 + f_y^2 = \|\nabla f\|^2

が成り立つことを示してください(右辺は点 (rcos⁡θ,rsin⁡θ)(r\cos\theta, r\sin\theta) での値)。

解答

ff は C1C^1 級なので 定理 4.5 より全微分可能であり、注意 6.2 の連鎖律が使えます。xr=cos⁡θx_r = \cos\theta、yr=sin⁡θy_r = \sin\theta、xθ=−rsin⁡θx_\theta = -r\sin\theta、yθ=rcos⁡θy_\theta = r\cos\theta ですから

gr=fxcos⁡θ+fysin⁡θ,gθ=−rfxsin⁡θ+rfycos⁡θ.g_r = f_x\cos\theta + f_y\sin\theta, \qquad g_\theta = -r f_x\sin\theta + r f_y\cos\theta .

第 2 式より 1rgθ=−fxsin⁡θ+fycos⁡θ\frac{1}{r}g_\theta = -f_x\sin\theta + f_y\cos\theta です。c=cos⁡θc=\cos\theta、s=sin⁡θs=\sin\theta と略記して 2 乗の和を計算すると

gr2+1r2gθ2=(fxc+fys)2+(−fxs+fyc)2=fx2c2+2fxfycs+fy2s2+fx2s2−2fxfycs+fy2c2=fx2(c2+s2)+fy2(s2+c2)=fx2+fy2.\begin{aligned} g_r^2 + \frac{1}{r^2}g_\theta^2 &= (f_xc+f_ys)^2 + (-f_xs+f_yc)^2\\ &= f_x^2c^2 + 2f_xf_ycs + f_y^2s^2 + f_x^2s^2 - 2f_xf_ycs + f_y^2c^2\\ &= f_x^2(c^2+s^2) + f_y^2(s^2+c^2) = f_x^2+f_y^2 . \end{aligned}

交差項が打ち消し合うのは、(c,s)(c, s) と (−s,c)(-s, c) が正規直交基底をなすからです。この計算は、勾配の大きさが座標の取り方に依らないことを示しています。

演習 10.3難

f(x,y)={x2yx2+y2(x≠0)0(x=0)f(x,y) = \begin{cases} \dfrac{x^2y}{x^2+y^2} & (\boldsymbol x \ne \boldsymbol 0)\\[2mm] 0 & (\boldsymbol x = \boldsymbol 0)\end{cases}

について、原点における (1) 連続性、(2) すべての方向微分係数の存在、(3) 全微分可能性を調べてください。

解答

(1) 連続。 x2≤x2+y2x^2 \le x^2+y^2 より、x≠0\boldsymbol x \ne \boldsymbol 0 に対し

∣f(x,y)∣=∣y∣⋅x2x2+y2≤∣y∣≤∥x∥|f(x,y)| = |y|\cdot\frac{x^2}{x^2+y^2} \le |y| \le \|\boldsymbol x\|

です。よって x→0\boldsymbol x \to \boldsymbol 0 のとき f(x)→0=f(0)f(\boldsymbol x)\to 0 = f(\boldsymbol 0) となり、ff は原点で連続です。

(2) 方向微分はすべて存在。 単位ベクトル u=(u1,u2)\boldsymbol u = (u_1,u_2) と t≠0t \ne 0 に対し

f(tu)=t2u12⋅tu2t2(u12+u22)=t u12u2f(t\boldsymbol u) = \frac{t^2u_1^2\cdot tu_2}{t^2(u_1^2+u_2^2)} = t\,u_1^2u_2

(u12+u22=1u_1^2+u_2^2=1 を使いました)。よって

Duf(0)=lim⁡t→0f(tu)−0t=u12u2D_{\boldsymbol u}f(\boldsymbol 0) = \lim_{t\to0}\frac{f(t\boldsymbol u)-0}{t} = u_1^2u_2

が任意の u\boldsymbol u について存在します。とくに fx(0)=D(1,0)f(0)=0f_x(\boldsymbol 0) = D_{(1,0)}f(\boldsymbol 0) = 0、fy(0)=D(0,1)f(0)=0f_y(\boldsymbol 0) = D_{(0,1)}f(\boldsymbol 0)=0 です。

(3) 全微分可能ではない。 方法は 2 つあります。

第 1 に、命題 4.3 (2) によれば、全微分可能なら u↦Duf(0)=⟨∇f(0),u⟩\boldsymbol u \mapsto D_{\boldsymbol u}f(\boldsymbol 0) = \langle\nabla f(\boldsymbol 0), \boldsymbol u\rangle は u\boldsymbol u の線形式でなければなりません。ところが実際の値 u12u2u_1^2u_2 は線形ではありません。たとえば u=(1/2,1/2)\boldsymbol u = (1/\sqrt2, 1/\sqrt2) に対し u12u2=12⋅12=122≠0u_1^2u_2 = \frac{1}{2}\cdot\frac{1}{\sqrt2} = \frac{1}{2\sqrt2} \ne 0 ですが、線形なら fx(0)/2+fy(0)/2=0f_x(\boldsymbol 0)/\sqrt2 + f_y(\boldsymbol 0)/\sqrt2 = 0 でなければなりません。矛盾します。

第 2 に、定義から直接示すこともできます。∇f(0)=0\nabla f(\boldsymbol 0)=\boldsymbol 0 なので一次近似の候補は z=0z=0 のみです。h=(t,t)\boldsymbol h = (t,t) と取ると f(t,t)=t/2f(t,t) = t/2、∥h∥=2∣t∣\|\boldsymbol h\| = \sqrt2|t| より

∣f(h)−0−0∣∥h∥=∣t∣/22∣t∣=122\frac{|f(\boldsymbol h) - 0 - 0|}{\|\boldsymbol h\|} = \frac{|t|/2}{\sqrt2|t|} = \frac{1}{2\sqrt2}

は t→0t \to 0 でも 00 に収束しません。よって全微分可能ではありません。

この例は、例 4.4 よりさらに強く「全方向の方向微分が存在しても全微分可能とは限らない」ことを示しています。方向微分は各方向を別々に見ているだけで、方向をまたいだ一様性を保証しないのです。

演習 10.4標準

f(x,y)=x4+y4−4xyf(x,y) = x^4 + y^4 - 4xy の臨界点をすべて求め、定理 8.2 で分類してください。

解答

臨界点。 fx=4x3−4y=0f_x = 4x^3 - 4y = 0 より y=x3y = x^3、fy=4y3−4x=0f_y = 4y^3 - 4x = 0 より x=y3x = y^3 です。前者を後者に代入すると x=x9x = x^9、すなわち x(x8−1)=0x(x^8-1) = 0 です。実数解は x=0,1,−1x = 0, 1, -1 で、y=x3y=x^3 より臨界点は (0,0)(0,0)、(1,1)(1,1)、(−1,−1)(-1,-1) の 3 つです。

ヘッセ行列。 fxx=12x2f_{xx} = 12x^2、fxy=−4f_{xy} = -4、fyy=12y2f_{yy} = 12y^2 なので

Hf(x,y)=(12x2−4−412y2),Δ(x,y)=144x2y2−16.H_f(x,y) = \begin{pmatrix} 12x^2 & -4\\ -4 & 12y^2\end{pmatrix}, \qquad \Delta(x,y) = 144x^2y^2 - 16 .

判定。

臨界点Δ\Deltafxxf_{xx}判定ff の値
(0,0)(0,0)−16<0-16 < 000鞍点00
(1,1)(1,1)128>0128 > 012>012 > 0狭義の極小−2-2
(−1,−1)(-1,-1)128>0128 > 012>012 > 0狭義の極小−2-2

(0,0)(0,0) では Δ<0\Delta<0 なので 定理 8.2 (3) より鞍点です(実際 f(t,t)=2t4−4t2<0f(t,t) = 2t^4-4t^2 < 0、f(t,−t)=2t4+4t2>0f(t,-t) = 2t^4+4t^2 > 0 が t≠0t\ne0 で小さいときに成り立ちます)。他の 2 点は同 (1) より狭義の極小で、極小値は 1+1−4=−21+1-4 = -2 です。

なお x4+y4−4xy≥x4+y4−2(x2+y2)x^4+y^4-4xy \ge x^4+y^4-2(x^2+y^2)(相加相乗平均 2∣xy∣≤x2+y22|xy| \le x^2+y^2 による)の右辺は ∥x∥→∞\|\boldsymbol x\|\to\infty で +∞+\infty に発散するので、ff は下に有界で最小値を持ちます。最小値は臨界点でしか取れないので、−2-2 が ff の最小値です。

演習 10.5標準

f:R2→R2\boldsymbol f:\mathbb{R}^2\to\mathbb{R}^2 を f(x,y)=(x2−y2, 2xy)\boldsymbol f(x,y)=(x^2-y^2,\ 2xy) とします。連鎖律 定理 9.4 を使って、合成 f∘f\boldsymbol f\circ\boldsymbol f の点 (1,1)(1,1) におけるヤコビ行列を求めてください。

解答

Jf(x,y)=(2x−2y2y2x)J_{\boldsymbol f}(x,y)=\begin{pmatrix}2x&-2y\\2y&2x\end{pmatrix} で、成分は多項式なので f\boldsymbol f は C1C^1 級、定理 9.3 より全微分可能です。f(1,1)=(0,2)\boldsymbol f(1,1)=(0,2) なので

Jf∘f(1,1)=Jf(0,2) Jf(1,1)=(0−440)(2−222)=(−8−88−8).J_{\boldsymbol f\circ\boldsymbol f}(1,1)=J_{\boldsymbol f}(0,2)\,J_{\boldsymbol f}(1,1)=\begin{pmatrix}0&-4\\4&0\end{pmatrix}\begin{pmatrix}2&-2\\2&2\end{pmatrix}=\begin{pmatrix}-8&-8\\8&-8\end{pmatrix}.

検算として、f\boldsymbol f は複素数 z=x+iyz=x+iy の写像 z↦z2z\mapsto z^2 にあたるので f∘f\boldsymbol f\circ\boldsymbol f は z↦z4z\mapsto z^4 で、z=1+iz=1+i での複素微分は 4z3=4(−2+2i)=−8+8i4z^3=4(-2+2i)=-8+8i です。これを行列 (Re⁡−Im⁡Im⁡Re⁡)\begin{pmatrix}\operatorname{Re}&-\operatorname{Im}\\\operatorname{Im}&\operatorname{Re}\end{pmatrix} で表すと上の結果に一致します。

  • 高木貞治『解析概論』改訂第三版、岩波書店、1983 — 第 2 章(微分法)に偏微分・全微分・テイラーの定理・極値問題が扱われています。
  • 杉浦光夫『解析入門 I』東京大学出版会、1980 — 多変数関数の微分法を扱う章。C1C^1 級と全微分可能性の関係、シュワルツの定理の証明が丁寧です。
  • W. Rudin, Principles of Mathematical Analysis, 3rd ed., McGraw-Hill, 1976 — Chapter 9 (Functions of Several Variables). 微分を線形写像として定義する立場が明快に書かれています。
  • T. M. Apostol, Mathematical Analysis, 2nd ed., Addison-Wesley, 1974 — Chapter 12 (Multivariable Differential Calculus) および Chapter 13 (Implicit Functions and Extremum Problems)。
  • M. Spivak, Calculus on Manifolds, W. A. Benjamin, 1965 — Chapter 2 (Differentiation)。多変数の微分を nn 変数で一気に扱う簡潔な入門です。
  • F. Cajori, A History of Mathematical Notations, Vol. 2, Open Court, 1929 — 偏微分記号 ∂\partial の由来について。

Appendix: シュワルツの定理の証明

Section titled “Appendix: シュワルツの定理の証明”

定理 7.1 を証明します。

証明(定理 7.1)

鍵は、ff の値だけから作られる次の二重差分が、2 通りの順序で fxyf_{xy} と fyxf_{yx} に結びつくことです。

a=(a,b)\boldsymbol a = (a,b) とし、fx,fy,fxy,fyxf_x, f_y, f_{xy}, f_{yx} が存在する近傍を B(a,r)B(\boldsymbol a, r) とします。0<∥(h,k)∥<r/20 < \|(h,k)\| < r/2 なる h≠0h \ne 0、k≠0k \ne 0 に対し

Δ(h,k)=f(a+h,b+k)−f(a+h,b)−f(a,b+k)+f(a,b)\Delta(h,k) = f(a+h,b+k) - f(a+h,b) - f(a,b+k) + f(a,b)

と置きます。

第 1 の見方(先に xx、次に yy)。 φ(s)=f(s,b+k)−f(s,b)\varphi(s) = f(s,b+k) - f(s,b) と置くと Δ(h,k)=φ(a+h)−φ(a)\Delta(h,k) = \varphi(a+h)-\varphi(a) です。fxf_x が近傍で存在するので φ\varphi は微分可能で φ′(s)=fx(s,b+k)−fx(s,b)\varphi'(s) = f_x(s,b+k)-f_x(s,b) です。平均値の定理より、ある θ1\theta_1(0<θ1<10 < \theta_1 < 1)が存在して

Δ(h,k)=h[fx(a+θ1h, b+k)−fx(a+θ1h, b)].\Delta(h,k) = h\bigl[f_x(a+\theta_1h,\, b+k) - f_x(a+\theta_1h,\, b)\bigr].

角括弧の中は、第 2 変数の関数 t↦fx(a+θ1h,t)t \mapsto f_x(a+\theta_1h, t) の bb から b+kb+k までの差です。この関数は微分可能で導関数は fxyf_{xy} ですから、再び平均値の定理より、ある θ2∈(0,1)\theta_2 \in (0,1) が存在して

Δ(h,k)=hk fxy(a+θ1h, b+θ2k).\Delta(h,k) = hk\, f_{xy}(a+\theta_1 h,\ b+\theta_2 k).

第 2 の見方(先に yy、次に xx)。 今度は ψ(t)=f(a+h,t)−f(a,t)\psi(t) = f(a+h,t)-f(a,t) と置くと、同じ Δ(h,k)\Delta(h,k) が ψ(b+k)−ψ(b)\psi(b+k)-\psi(b) と書けます。まったく同じ議論を yy から先に行えば、ある θ3,θ4∈(0,1)\theta_3, \theta_4 \in (0,1) が存在して

Δ(h,k)=hk fyx(a+θ3h, b+θ4k).\Delta(h,k) = hk\, f_{yx}(a+\theta_3 h,\ b+\theta_4 k).

結論。 hk≠0hk \ne 0 で割ると、0<∥(h,k)∥<r/20 < \|(h,k)\| < r/2 かつ hk≠0hk \ne 0 なるすべての (h,k)(h,k) に対し

fxy(a+θ1h, b+θ2k)=fyx(a+θ3h, b+θ4k)f_{xy}(a+\theta_1h,\ b+\theta_2k) = f_{yx}(a+\theta_3h,\ b+\theta_4k)

が成り立ちます。ここで (h,k)→(0,0)(h,k)\to(0,0) とします。0<θi<10 < \theta_i < 1 なので両辺の評価点はともに a\boldsymbol a に収束し、fxyf_{xy} と fyxf_{yx} の a\boldsymbol a における連続性から、左辺は fxy(a)f_{xy}(\boldsymbol a)、右辺は fyx(a)f_{yx}(\boldsymbol a) に収束します。極限の一意性(定理 3.5)[極限と連続性] より fxy(a)=fyx(a)f_{xy}(\boldsymbol a) = f_{yx}(\boldsymbol a) です。

最後の主張について。ff が C2C^2 級なら fx,fy,fxy,fyxf_x, f_y, f_{xy}, f_{yx} は UU 全体で存在して連続なので、UU のすべての点で上の仮定が満たされ、fxy=fyxf_{xy} = f_{yx} が UU 上で成り立ちます。

注意 10.6(この証明が使った仮定)

使ったのは、(i) fxf_x が a\boldsymbol a の近傍で存在すること、(ii) fxyf_{xy} が近傍で存在すること、(iii) fyf_y と fyxf_{yx} について同様、(iv) fxy,fyxf_{xy}, f_{yx} が a\boldsymbol a で連続であること、の 4 つだけです。ff 自身の連続性すら仮定していません(fx,fyf_x, f_y の存在から各変数についての連続性は従います)。仮定 (iv) が本質的であることは 注意 7.2 の反例が示すとおりです。

このテーマの 100 本ノック(100 問)

執筆: Claude Code(Sonnet 5.5)、Claude Code(Opus 5.5)・監査 3 回(Claude Code)・最終 2026-10-12

この記事の誤りを報告する ・運営: 夢現技研合同会社 ・料金 ・利用条件 ・特定商取引法に基づく表記

© 2026 夢現技研合同会社 ・コード例は MIT ライセンスです。