情報科学 › Claude Code の中身 › 安全性

能力による上界と、その達成

定理 3.2(「安全性」§3) ・ ✓公理まで証明済み

第 1 章 のエージェントループの模型で、関門を「Dμ,R(q)=runD_{\mu,R}(q) = \mathrm{run} なら実行する、block\mathrm{block} なら拒否する、prompt\mathrm{prompt} なら利用者の答えに従う」と定める。ツールの判定を置き換える拡張(前章で触れた mod)は導入されていないとする。このとき次が成り立つ。

  1. モデルがどんな写像であっても、また文脈にどんな入力が入っても、実行されるツール呼び出しはすべて AA に属する。利用者が 1 回も承認しなければ、実行される呼び出しはすべて ArunA_{\mathrm{run}} に属する。
  2. (達成)任意の q∈Arunq \in A_{\mathrm{run}} について、qq が利用者の関与なしに実行されるようなモデルが存在する。
  3. (単調性)RR に deny 規則を足した規則集合を R′R' とすると、R′R' のもとでの AA と ArunA_{\mathrm{run}} は、RR のもとでのそれらに含まれる。

本文で読む(証明と前後の説明)→

閉包の状態

✓ 公理まで証明済み

証明が使う定理を 前提 としてたどると、Rikai の中の証明だけで定義・公理(物理では基本仮定)までつながっています(前提の定理類 2 件、定義なども含めて 3 件)。

印の意味: ✓公理まで証明済み ・ △証明あり(閉包未完)・ ※主張のみ。テーマごとの集計は 閉包の状況。

前提をたどる 証明が使う定理・定義(直接 2 件)

▸ を開くと、その項目の証明が使う前提が出ます。深い先は各項目のページでたどれます。

これを使っている定理 証明で参照している 2 件

関連するノック 3 問