カード編集

問題

答え・判断基準 各ステップでランダムに選ばれた部分ネットワークが訓練され、訓練が進むにつれてネットワーク全体が訓練されることになる。

種類 即答 選択肢消去 数式 PyTorch対応 用語

章

論点

解説 ミニバッチごとに、入力と隠れユニットそれぞれに独立な二値マスクを無作為にサンプリングし、そのマスクで決まる「部分ネットワーク」だけを1ステップ分学習する。個々の部分ネットワークを十分に(収束するまで)訓練するのではなく、多数の部分ネットワークがパラメータを共有しながら1ステップずつ学習を積み重ねる点がポイント。

Is active