バックプロパゲーション(逆向き伝搬)… 多くの学習データ(入力と望ましい出力の組)を例示することによって ニューラルネットワークの重みを決定する方法


出力層層のj番目のユニットへの総入力
(1)
(2)
(3)
Eが小さくなるようにwを決める
(4)
に従うように重みwを変化させつづければよい。

を求める

(7)
ここで(1)より

これを で微分すると、だけが残る

よって(7)は

を求める


まず、

次に、


以上の計算を出力側から入力側へ逆向きに を伝搬しながら傾き の計算が進む

back to nntop
back next