情報科学 › LLM アーキテクチャ › スケーリングと文脈
最大経路長の比較
長さ の列について、位置 から位置 への経路長(これが最大経路長です)は次のとおりです。
- 因果的な全注意: 。
- 幅 のスライディングウィンドウ注意、および核の幅 の畳み込み: 。
- 再帰型: 。
- 核の幅 の拡張畳み込み: 。
閉包の状態
✓ 公理まで証明済み
証明が使う定理を 前提 としてたどると、Rikai の中の証明だけで定義・公理(物理では基本仮定)までつながっています(前提の定理類 4 件、定義なども含めて 5 件)。
印の意味: ✓公理まで証明済み ・ △証明あり(閉包未完)・ ※主張のみ。テーマごとの集計は 閉包の状況。
前提をたどる 証明が使う定理・定義(直接 1 件)
▸ を開くと、その項目の証明が使う前提が出ます。深い先は各項目のページでたどれます。
窓つき注意の受容野✓定理 4.6・スケーリングと文脈
出力は受容野の中の入力だけの関数✓補題 4.3・スケーリングと文脈
これを使っている定理
証明で明示的に参照している定理は、まだありません。