情報科学 › LLM アーキテクチャ › 推論

貪欲復号とビーム探索

定義 3.2(「推論」§3)

  • 貪欲復号: 各ステップで xt=arg max⁡vpθ(v∣x<t)x_t = \operatorname{arg\,max}_{v} p_\theta(v \mid x_{<t}) とします。最大が複数あるときは添字の最も小さいものを取ります。
  • ビーム探索(幅 B≥1B \ge 1、長さ nn): 長さ tt の接頭辞の集合 Bt\mathcal{B}_t を、B0={空列}\mathcal{B}_0 = \{\text{空列}\} から順に次で定めます。候補の集合を Ct={(y,v):y∈Bt−1, v∈V}C_t = \{ (y, v) : y \in \mathcal{B}_{t-1},\ v \in V \} とし、CtC_t の元を列の確率 pθ(y,v)=pθ(y) pθ(v∣y)p_\theta(y, v) = p_\theta(y)\, p_\theta(v \mid y) の大きい順(同じ値はあらかじめ決めた順)に並べて、上から min⁡(B,∣Ct∣)\min(B, |C_t|) 個を Bt\mathcal{B}_t とします。出力は Bn\mathcal{B}_n のうち確率が最大の列です。

本文で読む(前後の説明と例)→

閉包の状態

定義

定義は閉包の起点です(証明を要しません)。

印の意味: ✓公理まで証明済み ・ △証明あり(閉包未完)・ ※主張のみ。テーマごとの集計は 閉包の状況。

これを使っている定理 証明で参照している 1 件

関連するノック 1 問