カード編集

問題

答え・判断基準 防げない。負領域では微分が0になり、再帰重みを含むJacobianのノルムが小さければ正領域でも消失し得る。

種類 即答 選択肢消去 数式 PyTorch対応 用語

章

論点

解説 ReLUは正領域で微分1だが、それだけで時間方向の勾配を保証しない。逆に爆発の危険も残る。

Is active