カード編集

問題

答え・判断基準 鞍点（ある方向では極小、別の方向では極大となる点）で学習が停滞し、進まなくなる可能性がある。

種類 即答 選択肢消去 数式 PyTorch対応 用語

章

論点

解説 鞍点付近は勾配がほぼ0に近くなるため、学習率が小さいと1回の更新でその停滞領域からなかなか抜け出せず、学習が事実上止まってしまうことがある。逆に学習率が大きすぎると、極小点の周りで振動して収束できなくなる可能性がある—小さすぎても大きすぎても問題が生じる点を押さえる。

Is active