カード編集

問題

答え・判断基準 optimizer.zero_grad()→forward→loss.backward()→勾配クリッピング→optimizer.step()。

種類 即答 選択肢消去 数式 PyTorch対応 用語

章

論点

解説 backward前には対象となる勾配がまだなく、step後ではその更新に間に合わない。混合精度ではunscale後にclipする点にも注意。

Is active