情報科学 › LLM アーキテクチャ › 埋め込みと位置符号化

回転行列の性質

補題 3.2(「埋め込みと位置符号化」§3) ・ ✓公理まで証明済み

α,β∈R\alpha, \beta \in \mathbb{R}、φ,ψ∈Rd/2\boldsymbol{\varphi}, \boldsymbol{\psi} \in \mathbb{R}^{d/2}、x,y∈Rd\boldsymbol{x}, \boldsymbol{y} \in \mathbb{R}^{d} とする。

  1. R(α)R(β)=R(α+β)R(\alpha) R(\beta) = R(\alpha + \beta)、R(0)=IR(0) = I、R(α)T=R(−α)R(\alpha)^{\mathsf{T}} = R(-\alpha)。
  2. R[φ] R[ψ]=R[φ+ψ]R[\boldsymbol{\varphi}]\, R[\boldsymbol{\psi}] = R[\boldsymbol{\varphi} + \boldsymbol{\psi}]、R[0]=IR[\boldsymbol{0}] = I、R[φ]T=R[−φ]R[\boldsymbol{\varphi}]^{\mathsf{T}} = R[-\boldsymbol{\varphi}]。
  3. R[φ]TR[φ]=IR[\boldsymbol{\varphi}]^{\mathsf{T}} R[\boldsymbol{\varphi}] = I(直交行列)。
  4. ⟨R[φ]x,y⟩=⟨x,R[−φ]y⟩\langle R[\boldsymbol{\varphi}]\boldsymbol{x}, \boldsymbol{y} \rangle = \langle \boldsymbol{x}, R[-\boldsymbol{\varphi}]\boldsymbol{y} \rangle、⟨R[φ]x,R[φ]y⟩=⟨x,y⟩\langle R[\boldsymbol{\varphi}]\boldsymbol{x}, R[\boldsymbol{\varphi}]\boldsymbol{y} \rangle = \langle \boldsymbol{x}, \boldsymbol{y} \rangle、∥R[φ]x∥=∥x∥\|R[\boldsymbol{\varphi}]\boldsymbol{x}\| = \|\boldsymbol{x}\|。

本文で読む(証明と前後の説明)→

閉包の状態

✓ 公理まで証明済み

証明が使う定理を 前提 としてたどると、Rikai の中の証明だけで定義・公理(物理では基本仮定)までつながっています(前提の定理類 44 件、定義なども含めて 57 件)。

印の意味: ✓公理まで証明済み ・ △証明あり(閉包未完)・ ※主張のみ。テーマごとの集計は 閉包の状況。

前提をたどる 証明が使う定理・定義(直接 2 件)

▸ を開くと、その項目の証明が使う前提が出ます。深い先は各項目のページでたどれます。

これを使っている定理 証明で参照している 3 件