随伴変数

定義 4.2（「ニューラルネットワークと逆伝播」§4）

定義 4.1 の計算グラフと、入力の値 $(v_1,\ldots,v_n)$ を 1 つ固定する。随伴変数 $\bar v_N, \bar v_{N-1}, \ldots, \bar v_1$ を、添字の大きい順に

\bar v_N := 1, \qquad \bar v_k := \sum_{m \,:\, k \in \mathrm{Pa}(m)} \bar v_m \, \frac{\partial \varphi_m}{\partial v_k} \quad (k = N-1, \ldots, 1)

で定める。ここで偏微分は、 $\varphi_m$ の引数のうち $v_k$ に対応するものについての偏微分を、固定した入力から定まる値の組で評価したものとする。

閉包の状態

定義

定義は閉包の起点です（証明を要しません）。

印の意味: ✓公理まで証明済み・ △証明あり（閉包未完）・ ※主張のみ。テーマごとの集計は閉包の状況。