DeepLearningにおける勾配

損失関数の出力をfとすると，出力の全てのパラメータ$w_i$に関する偏微分を計算すると，偏微分を並べたベクトルを定義することができる．このベクトル

$\nabla f=\left[\frac{\partial f}{d{w}_1},...,·\frac{\partial f}{\partial Wi}\right]$

を勾配と呼ぶ．

$\nabla f=\left[\frac{\partial f}{d{w}_1},...,·\frac{\partial f}{\partial Wi}\right]$

$\nabla f=\left[\frac{\partial f}{\partial W1}\dots ,\frac{\partial f}{\partial Wi}\right]$

TeXが上手に描画できないので，一旦stop