図とコードで必ず分かるニューラルネットワークの逆伝播

図5　「逆伝播の流れ」のイメージ（左：ネットワーク図、右：対応する処理／数学計算）ここでは、赤い矢印の流れで誤差情報が逆に伝播していくことを押さえてほしい。※逆伝播で逆に進むため「前」と「次」という用語が紛らわしいので注意してほしい。本稿では常に、入力層側を「前の層」、出力層側を「次の層」と呼んでいる。