情報科学 › Claude Code の中身 › コンテキストウィンドウとプロンプトキャッシュ

有効期間の更新と、切れたときのコスト

命題 5.1(「コンテキストウィンドウとプロンプトキャッシュ」§5) ・ ✓公理まで証明済み

定義 4.1 の標準の設定で、次が成り立つ。

  1. すべての kk について tk+1−tk<τt_{k+1} - t_k \lt \tau ならば、各 k≥2k \ge 2 の要求の時点で項目 (μ,xk−1)(\mu, x_{k-1}) は生きている。会話がどれだけ長く続いても(tk−t1t_k - t_1 が τ\tau をどれだけ超えても)、キャッシュは切れない。
  2. ある k≥1k \ge 1 について、i<ki \lt k では ti+1−ti<τt_{i+1} - t_i \lt \tau で、tk+1−tk≥τt_{k+1} - t_k \ge \tau とする。このとき k+1k + 1 回目の要求の命中の長さは 00 で、コストは wLk+1w L_{k+1} である。これは、切れなかった場合のコスト rLk+wdk+1r L_k + w d_{k+1} より (w−r)Lk(w - r)L_k だけ大きい。
  3. 2 種類の有効期間 τ1<τ2\tau_1 \lt \tau_2 があり、書き込みの倍率が w1<w2w_1 \lt w_2、読み取りの倍率はどちらも rr とする。k+1k + 1 回目の要求までの間隔 G=tk+1−tkG = t_{k+1} - t_k が確率変数で、Pr⁡[G<τ1]=1−q\Pr[G \lt \tau_1] = 1 - q、Pr⁡[τ1≤G<τ2]=q\Pr[\tau_1 \le G \lt \tau_2] = q とし、kk 回目までは切れていないとする。k+1k + 1 回目の要求のコストの期待値は、短い有効期間で rLk+w1dk+1+q(w1−r)Lkr L_k + w_1 d_{k+1} + q(w_1 - r)L_k、長い有効期間で rLk+w2dk+1r L_k + w_2 d_{k+1} である。したがって、長い有効期間のほうが期待値が小さいのは
q>(w2−w1) dk+1(w1−r) Lkq \gt \frac{(w_2 - w_1)\,d_{k+1}}{(w_1 - r)\,L_k}

のとき、またそのときに限る。

本文で読む(証明と前後の説明)→

閉包の状態

✓ 公理まで証明済み

証明が使う定理を 前提 としてたどると、Rikai の中の証明だけで定義・公理(物理では基本仮定)までつながっています(前提の定理類 1 件、定義なども含めて 1 件)。

印の意味: ✓公理まで証明済み ・ △証明あり(閉包未完)・ ※主張のみ。テーマごとの集計は 閉包の状況。

前提をたどる 証明が使う定理・定義(直接 1 件)

▸ を開くと、その項目の証明が使う前提が出ます。深い先は各項目のページでたどれます。

これを使っている定理

証明で明示的に参照している定理は、まだありません。

関連するノック 1 問