温度つき softmax

定義 4.1（「推論」§4）

ロジット $\boldsymbol{z} \in \mathbb{R}^N$ と $\tau > 0$ に対して

p_\tau = \mathrm{softmax}(\boldsymbol{z} / \tau), \qquad p_{\tau, i} = \frac{e^{z_i / \tau}}{\sum_{j=1}^{N} e^{z_j / \tau}}

を温度 $\tau$ の分布といいます。 $\tau = 1$ が元の分布です。

閉包の状態

定義

定義は閉包の起点です（証明を要しません）。

印の意味: ✓公理まで証明済み・ △証明あり（閉包未完）・ ※主張のみ。テーマごとの集計は閉包の状況。