情報科学 › LLM アーキテクチャ › 自己注意

softmax の基本性質

命題 3.1(「自己注意」§3) ・ ✓公理まで証明済み

z∈Rn\boldsymbol{z} \in \mathbb{R}^n とする。

  1. すべての ii で σ(z)i>0\sigma(\boldsymbol{z})_i > 0 であり、∑i=1nσ(z)i=1\sum_{i=1}^{n} \sigma(\boldsymbol{z})_i = 1。
  2. (平行移動不変)任意の c∈Rc \in \mathbb{R} について σ(z+c1)=σ(z)\sigma(\boldsymbol{z} + c\boldsymbol{1}) = \sigma(\boldsymbol{z})。
  3. (大小を保つ)zi<zjz_i < z_j ならば σ(z)i<σ(z)j\sigma(\boldsymbol{z})_i < \sigma(\boldsymbol{z})_j、zi=zjz_i = z_j ならば σ(z)i=σ(z)j\sigma(\boldsymbol{z})_i = \sigma(\boldsymbol{z})_j。
  4. (置換同変)任意の置換行列 PP について σ(Pz)=Pσ(z)\sigma(P\boldsymbol{z}) = P\sigma(\boldsymbol{z})。

本文で読む(証明と前後の説明)→

閉包の状態

✓ 公理まで証明済み

証明が使う定理を 前提 としてたどると、Rikai の中の証明だけで定義・公理(物理では基本仮定)までつながっています(前提の定理類 44 件、定義なども含めて 57 件)。

印の意味: ✓公理まで証明済み ・ △証明あり(閉包未完)・ ※主張のみ。テーマごとの集計は 閉包の状況。

前提をたどる 証明が使う定理・定義(直接 1 件)

▸ を開くと、その項目の証明が使う前提が出ます。深い先は各項目のページでたどれます。

これを使っている定理 証明で参照している 4 件

関連するノック 2 問