図とコードで必ず分かるニューラルネットワークの逆伝播

図11　「逆伝播の流れ」の実装内容最初に示した「図5　『逆伝播の流れ』のイメージ」に、これから実装するパターンである（1）〜（4）の4工程を書き加えたもの。各入力／重み／バイアスに関して損失関数を偏微分する際、途中までの計算は同じなのでデルタ δ という値で共有できる（前掲の図9参照）。詳しくはこれからの実装で示す。