情報科学 › LLM アーキテクチャ › 推論
貪欲復号とビーム探索
定義 3.2(「推論」§3)
- 貪欲復号: 各ステップで xt=argmaxvpθ(v∣x<t) とします。最大が複数あるときは添字の最も小さいものを取ります。
- ビーム探索(幅 B≥1、長さ n): 長さ t の接頭辞の集合 Bt を、B0={空列} から順に次で定めます。候補の集合を Ct={(y,v):y∈Bt−1, v∈V} とし、Ct の元を列の確率 pθ(y,v)=pθ(y)pθ(v∣y) の大きい順(同じ値はあらかじめ決めた順)に並べて、上から min(B,∣Ct∣) 個を Bt とします。出力は Bn のうち確率が最大の列です。
本文で読む(前後の説明と例)→
閉包の状態
定義
定義は閉包の起点です(証明を要しません)。
印の意味: ✓公理まで証明済み ・ △証明あり(閉包未完)・ ※主張のみ。テーマごとの集計は 閉包の状況。
これを使っている定理 証明で参照している 1 件
関連するノック 1 問