ベイズの識別規則

いま、の入力情報があるとします。
この情報からのいずれであるかを判定したいとします。
入力情報をなるべく有効利用して正しい（誤差のない）判定をするにはどうすればよいでしょうか？

（準備：記号の定義）

：熱の有無を表す確率変数

：せきの有無を表す確率変数

：パターン（観測ベクトル）

：パターン空間（観測空間）

：患者が健康であるか病気であるかを表す確率変数

：患者が健康である確率

：患者が病気である確率

：熱の有無(

)、せきの有無(

)をもとに患者が病気か健康かを医者が判断することを表す確率変数

：医者が患者を健康であると判断する確率

：医者が患者を病気であると判断する確率

以上の記号を用いると与えられた問題は「誤診

が最小になるように

を求めること」に置き換えらます。

すなわち、誤り確率

が最小になるように識別規則

を決めればよいわけです。

以下のように定義される識別規則

をベイズの識別規則といい、ベイズの識別規則を用いると、誤りの確率

が最小になります。

とします。

このように決めると

が成り立ちます。

証明

観測データがr個で、離散的な値(0,1)をとるときのベイズの識別規則は次のようになります。

… 観測データがr個

… パターン空間

と判定

f(x)を用いる代わりに次のように定義されるg(x)を用いても、同様の識別を行うことができます。

と判定

が独立であると仮定すると、 g(x)は線形識別関数（xに関する１次式）になります。（

証明

以下のように観測データがr個で、連続的な値をとるときも

離散分布の識別関数

証明