情報科学 › LLM アーキテクチャ › トークン化
素朴な学習の計算量
出現回数の表（ペアをキーとする辞書）の 1 回の更新・参照、トークン 1 個の比較と書き込みを、それぞれ 1 ステップと数える。コーパスの総記号数を 、行うマージの回数を とすると、定義 2.3 の手順をそのまま実行する実装のステップ数は である（ のとき）。
閉包の状態
✓ 公理まで証明済み
証明が使う定理を 前提 としてたどると、Rikai の中の証明だけで定義・公理（物理では基本仮定）までつながっています（前提の定理類 7 件、定義なども含めて 10 件）。
印の意味: ✓公理まで証明済み ・ △証明あり（閉包未完）・ ※主張のみ。テーマごとの集計は 閉包の状況。
前提をたどる 証明が使う定理・定義（直接 3 件）
▸ を開くと、その項目の証明が使う前提が出ます。深い先は各項目のページでたどれます。
トークン数は増えない✓命題 4.1・トークン化
マージの適用 1 回の性質✓補題 3.1・トークン化
- マージ規則とその適用定義 2.2・トークン化
符号化と復号の往復✓定理 3.2・トークン化
- マージの適用 1 回の性質✓補題 3.1・トークン化（上で展開済み）
- O 記法・Ω 記法・Θ 記法定義 3.1・計算量と O 記法
- O 記法の計算則✓命題 3.4・計算量と O 記法
これを使っている定理
証明で明示的に参照している定理は、まだありません。