情報科学 › Claude Code の中身 › 安全性

情報の流れの模型

定義 4.1(「安全性」§4)

1 回のループの実行を、信頼できる入力 tt、信頼できない入力 uu(外部の内容の作者が決める)、非公開の情報 ss、モデル MM(メッセージ列から呼び出しへの写像)で決まるものとする。攻撃者は uu を自由に選べるが、ss を知らず、tt と MM を変えられないとする。能力 ArunA_{\mathrm{run}} について、次の 3 つの条件を考える。

  • (a) 非公開の情報を読む能力: ss を結果として文脈に入れる呼び出しが ArunA_{\mathrm{run}} にある。
  • (b) 信頼できない入力の経路: uu を結果として文脈に入れる呼び出しが ArunA_{\mathrm{run}} にある(または uu が初めから文脈に入る)。
  • (c) 外部へ送る能力: 引数に含めた文字列を外部の主体に届ける呼び出しが ArunA_{\mathrm{run}} にある。

実行の中で外部に届いた文字列の列を Ext(M,t,u,s)\mathrm{Ext}(M, t, u, s) と書く。模型では次を仮定する。利用者は確認に 1 回も承認を与えない(したがって、実行されるのは ArunA_{\mathrm{run}} の呼び出しだけである)。(a) の呼び出しを実行しない限り ss は文脈に入らず、(a) でない呼び出しの結果と効果は ss に依らない。(b) の経路を通らない限り uu は文脈に入らず、(b) でない呼び出しの結果と効果は uu に依らない。外部に届くのは (c) の呼び出しの引数に含めた文字列だけで、(c) の呼び出しを実行しない限り何も外部に届かない。

本文で読む(前後の説明と例)→

閉包の状態

定義

定義は閉包の起点です(証明を要しません)。

印の意味: ✓公理まで証明済み ・ △証明あり(閉包未完)・ ※主張のみ。テーマごとの集計は 閉包の状況。

これを使っている定理

証明で明示的に参照している定理は、まだありません。

関連するノック 1 問