カード編集

問題

答え・判断基準 ∂L/∂y・W^T（出力側の勾配に重みの転置行列を掛ける）。

種類 即答 選択肢消去 数式 PyTorch対応 用語

章

論点

解説 行列の内積ノード(dot)の逆伝播では、入力の一方に伝わる勾配は「出力側の勾配」と「もう一方の入力の転置」の積になる。Xへの勾配を求める場合はもう一方の入力であるWの転置を使い、∂L/∂y・W^Tという式になる。行列の形状を考えると、Xが(バッチサイズ,特徴量数)ならW^Tは(出力次元,特徴量数)の転置なので、正しい順序・転置でなければ行列積自体が計算できない点からも式を検算できる。

Is active