情報科学 › LLM アーキテクチャ › 埋め込みと位置符号化

2 次の回転行列とブロック対角の回転

定義 3.1(「埋め込みと位置符号化」§3)

実数 α\alpha に対し

R(α):=(cos⁡α−sin⁡αsin⁡αcos⁡α)R(\alpha) := \begin{pmatrix} \cos\alpha & -\sin\alpha \\ \sin\alpha & \cos\alpha \end{pmatrix}

を角 α\alpha の回転行列という。dd を正の偶数とし、φ=(φ0,…,φd/2−1)∈Rd/2\boldsymbol{\varphi} = (\varphi_0, \ldots, \varphi_{d/2 - 1}) \in \mathbb{R}^{d/2} に対して、dd 次の正方行列

R[φ]:=(R(φ0)⋱R(φd/2−1))R[\boldsymbol{\varphi}] := \begin{pmatrix} R(\varphi_0) & & \\ & \ddots & \\ & & R(\varphi_{d/2-1}) \end{pmatrix}

(対角に 2×22 \times 2 のブロックが並び、ほかは 0)をブロック対角の回転という。

本文で読む(前後の説明と例)→

閉包の状態

定義

定義は閉包の起点です(証明を要しません)。

印の意味: ✓公理まで証明済み ・ △証明あり(閉包未完)・ ※主張のみ。テーマごとの集計は 閉包の状況。

これを使っている定理

証明で明示的に参照している定理は、まだありません。

関連するノック 2 問