カード編集

問題

答え・判断基準 X^T・∂L/∂y（入力の転置行列を出力側の勾配に掛ける）。

種類 即答 選択肢消去 数式 PyTorch対応 用語

章

論点

解説 Wへの勾配は、Xへの勾配とは逆に「入力Xの転置」と「出力側の勾配」の積X^T・∂L/∂yになる。Xの勾配(∂L/∂y・W^T)と形が対称的だが、転置を掛ける対象と掛ける順序がそれぞれ逆であるため混同しやすい。行列の形状(Xが(n,d)ならX^Tは(d,n)、∂L/∂yが(n,m)ならX^T・∂L/∂yは(d,m)=Wと同じ形状)を意識すると正しい式を検算できる。

Is active