情報科学 › Claude Code の中身 › 安全性

入力の検査の限界

命題 3.4(「安全性」§3) ・ ✓公理まで証明済み

入力(文字列)と呼び出し(QQ の元)をそれぞれ自然数で符号化し、モデルを「入力から呼び出しへの部分計算可能な写像」とみなす模型を考える。有害とみなす呼び出しの集合を BB(∅≠B⊊Q\varnothing \ne B \subsetneq Q、所属は決定可能)とする。φ0,φ1,…\varphi_0, \varphi_1, \ldots を部分計算可能関数の受理可能な番号付けとし、その万能関数 (e,y)↦φe(y)(e, y) \mapsto \varphi_e(y) は部分計算可能であるとする。

  1. 番号 ee を入力として「φe(0)\varphi_e(0) が定義されて BB に属するか」を判定するアルゴリズムは存在しない。
  2. モデル UU を U(x)=φx(0)U(x) = \varphi_x(0) と定めると(万能関数により、UU は部分計算可能な写像である)、UU に有害な呼び出しをさせる入力の集合 HarmU={x:U(x)∈B}\mathrm{Harm}_U = \{x : U(x) \in B\} は決定不能である。
  3. したがって、入力だけを見て「止める」「通す」を決めるどんな決定可能な検査 KK(止める入力の集合)についても、K≠HarmUK \ne \mathrm{Harm}_U である。すなわち、UU に対しては、有害な入力を通す(見逃し)か、無害な入力を止める(誤検出)かの少なくとも一方が必ず起こる。

本文で読む(証明と前後の説明)→

閉包の状態

✓ 公理まで証明済み

証明が使う定理を 前提 としてたどると、Rikai の中の証明だけで定義・公理(物理では基本仮定)までつながっています(前提の定理類 1 件、定義なども含めて 1 件)。

印の意味: ✓公理まで証明済み ・ △証明あり(閉包未完)・ ※主張のみ。テーマごとの集計は 閉包の状況。

前提をたどる 証明が使う定理・定義(直接 1 件)

▸ を開くと、その項目の証明が使う前提が出ます。深い先は各項目のページでたどれます。

これを使っている定理

証明で明示的に参照している定理は、まだありません。