カード編集

問題

答え・判断基準 入力の絶対値が大きい飽和領域で一階微分が0に近づき、その値が時間方向に繰り返し掛かるため。

種類 即答 選択肢消去 数式 PyTorch対応 用語

章

論点

解説 tanhの値域が有限入力に対して(-1,1)だから勾配消失を防げるわけではない。重要なのは一階微分と再帰重みを含む積。

Is active