カード編集

問題

答え・判断基準 v_t = γv_(t-1) + η∇θJ(θ)、θ = θ − v_t。過去の速度に係数γを掛けたものと、現在の勾配に学習率を掛けたものを足し合わせる。

種類 即答 選択肢消去 数式 PyTorch対応 用語

章

論点

解説 v_t=γv_(t-1)+η∇θJ(θ)、θ=θ−v_tという2段構えの式。過去の更新量(速度)v_(t-1)にMomentum係数γ(0<γ<1)を掛けたものと、現在の勾配に学習率ηを掛けたものを足し合わせて新しい速度v_tを作り、それをθから引く。勾配項を引き算にしてしまう、あるいはγとηの掛ける相手を逆にしてしまう誤りが選択肢に紛れやすい。

Is active