情報科学 › LLM アーキテクチャ › 推論

top-p 集合の一意性・最小性・単調性

定理 5.4(「推論」§5) ・ ✓公理まで証明済み

pp を V={1,…,N}V = \{1, \ldots, N\} 上の確率分布、0<ρ≤10 < \rho \le 1 とします。

  1. (一意性)k(ρ)k(\rho) と SρS_\rho は一意に定まります。
  2. (最小性)k(ρ)=min⁡{∣T∣:T⊂V, p(T)≥ρ}k(\rho) = \min\{ |T| : T \subset V,\ p(T) \ge \rho \} です。すなわち SρS_\rho は、確率の和が ρ\rho 以上である集合のうち、大きさが最小のものの 1 つです。
  3. (その大きさの中での最大性)大きさ k(ρ)k(\rho) の集合のうち、SρS_\rho は確率の和が最大です。p1,…,pNp_1, \ldots, p_N がすべて異なるなら、最大を与える集合は SρS_\rho だけです。
  4. (単調性)ρ≤ρ′\rho \le \rho' なら k(ρ)≤k(ρ′)k(\rho) \le k(\rho') で、Sρ⊂Sρ′S_\rho \subset S_{\rho'} です。
  5. (両端)ρ≤pπ(1)\rho \le p_{\pi(1)} なら Sρ={π(1)}S_\rho = \{\pi(1)\} で、これは貪欲復号が選ぶトークンです。ρ=1\rho = 1 なら S1={i:pi>0}S_1 = \{ i : p_i > 0 \} です。

本文で読む(証明と前後の説明)→

閉包の状態

✓ 公理まで証明済み

証明が使う定理を 前提 としてたどると、Rikai の中の証明だけで定義・公理(物理では基本仮定)までつながっています(前提の定理類 1 件、定義なども含めて 2 件)。

印の意味: ✓公理まで証明済み ・ △証明あり(閉包未完)・ ※主張のみ。テーマごとの集計は 閉包の状況。

前提をたどる 証明が使う定理・定義(直接 2 件)

▸ を開くと、その項目の証明が使う前提が出ます。深い先は各項目のページでたどれます。

これを使っている定理 証明で参照している 1 件

関連するノック 2 問