カード編集

問題

答え・判断基準 y = (r ⊙ W) x。マスクrを重み行列Wに要素積で適用してから入力xに掛ける。

種類 即答 選択肢消去 数式 PyTorch対応 用語

章

論点

解説 ドロップコネクトはドロップアウトと異なり、重み行列Wの個々の要素にマスクrを要素積で適用してから(いわば結合そのものを部分的に切ってから)入力xとの行列積を取る。これにより同じ出力ユニットでも入力ごとに異なる結合が無効化されうる、より細かい粒度の正則化になる。

Is active