カード編集

問題

答え・判断基準 各層が線形変換のみになり、それらを合成した関数も線形になるため、ネットワーク全体の表現力が単一の線形関数に制限される。

種類 即答 選択肢消去 数式 PyTorch対応 用語

章

論点

解説 線形変換(Affine変換)だけを何層重ねても、その合成は結局1つの線形変換にしかならない(行列の積は行列になるため)。つまり層を増やしても表現力は増えず、複雑な非線形パターンを学習できない。活性化関数はこの合成を非線形にすることで、多層構造の意味(深さによる表現力向上)を初めて成立させる。

Is active