微分法の数値計算をプログラミングしてみよう

図8　勾配降下法を使って二次式を最小にするxの値を求めるランダムに決めた値を初期値として、学習率×微分係数を引いて次の値を求める。この操作を繰り返し、微分係数が0に近づけば（接線の傾きが水平になるので）、二次式の値が最小になることが分かる。