カード編集

問題

答え・判断基準 ドロップアウトは隠れ層のノード（ユニット）全体を確率的に無効化し、ドロップコネクトは重み行列の要素（個々の結合）をランダムに無効化する。

種類 即答 選択肢消去 数式 PyTorch対応 用語

章

論点

解説 ドロップアウトは「ノード単位」で無効化する(そのノードに出入りする結合すべてが同時に切れる)のに対し、ドロップコネクトは「結合(重み)単位」で無効化するため、同じノードでも一部の結合だけが生き残ることがある。どちらも過学習を抑える計算コストの低い正則化手法。

Is active