情報科学 › Claude Code の中身 › 安全性
能力による上界と、その達成
第 1 章 のエージェントループの模型で、関門を「 なら実行する、 なら拒否する、 なら利用者の答えに従う」と定める。ツールの判定を置き換える拡張(前章で触れた mod)は導入されていないとする。このとき次が成り立つ。
- モデルがどんな写像であっても、また文脈にどんな入力が入っても、実行されるツール呼び出しはすべて に属する。利用者が 1 回も承認しなければ、実行される呼び出しはすべて に属する。
- (達成)任意の について、 が利用者の関与なしに実行されるようなモデルが存在する。
- (単調性) に deny 規則を足した規則集合を とすると、 のもとでの と は、 のもとでのそれらに含まれる。
閉包の状態
✓ 公理まで証明済み
証明が使う定理を 前提 としてたどると、Rikai の中の証明だけで定義・公理(物理では基本仮定)までつながっています(前提の定理類 2 件、定義なども含めて 3 件)。
印の意味: ✓公理まで証明済み ・ △証明あり(閉包未完)・ ※主張のみ。テーマごとの集計は 閉包の状況。
前提をたどる 証明が使う定理・定義(直接 2 件)
▸ を開くと、その項目の証明が使う前提が出ます。深い先は各項目のページでたどれます。
判定は規則の集合と呼び出しだけで決まる✓定理 3.4・ツールと権限
- 設定の階層と規則の合併定義 3.3・ツールと権限
- deny の単調性:規則を足しても安全側にしか動かない✓命題 3.6・ツールと権限
これを使っている定理 証明で参照している 2 件
- 外へ出る経路ができる条件✓命題 4.2・安全性
- サンドボックス下のシェルコマンドの送信先✓命題 4.4・安全性