情報科学 › LLM アーキテクチャ › 推論

貪欲復号とビーム探索は確率最大の列を保証しない

命題 3.3（「推論」§3） ・ ✓公理まで証明済み

長さ nn の列の上の自己回帰言語モデル pθp_\theta を考えます。

  1. 貪欲復号が返す列は、確率 pθ(x)p_\theta(x) が最大の列とは限りません。
  2. 幅 B=1B = 1 のビーム探索は貪欲復号と同じ列を返します（同じ値の扱いが同じなら）。
  3. B≥∣V∣n−1B \ge |V|^{n-1} なら、ビーム探索は確率最大の列を返します。
  4. 1<B<∣V∣n−11 < B < |V|^{n-1} では、確率最大の列を返すとは限りません。
  5. ビーム探索が計算する候補の確率の個数は nB∣V∣n B |V| 以下です。

本文で読む（証明と前後の説明）→

閉包の状態

✓ 公理まで証明済み

証明が使う定理を 前提 としてたどると、Rikai の中の証明だけで定義・公理（物理では基本仮定）までつながっています。

印の意味: ✓公理まで証明済み ・ △証明あり（閉包未完）・ ※主張のみ。テーマごとの集計は 閉包の状況。

前提をたどる 証明が使う定理・定義

証明は Rikai の他の定理を参照していません（定義と論理だけで示されています）。

これを使っている定理

証明で明示的に参照している定理は、まだありません。

関連するノック 1 問