防御の層

防御の層とは、危険な行為が実行に至る途中で、それを止める機会を持つ仕組みをいう。層を次の 2 種類に分ける。

• 決定的な層: 対象とする行為の集合 $C$ が決まっていて、$C$ に属する行為を必ず止めるもの。deny 規則（マッチする呼び出しを必ず止める）、OS が強制するサンドボックス（許可されていない操作を必ず失敗させる）、ブロックするフック。
• 確率的な層: 危険な行為を止めるが、ある確率で見逃すもの。モデル自身の判断、分類器による審査、入力や出力の検査、人間による承認。危険な行為 1 つを見逃す確率を、その層の見逃しの確率という。

複数の層を重ねることを多層防御という。