カード編集

問題

答え・判断基準 sum(loss⊙mask)/sum(mask)。

種類 即答 選択肢消去 数式 PyTorch対応 用語

章

論点

解説 バッチサイズや最大系列長で割るとpadding量によって尺度が変わる。有効token数が0でないことも確認する。

Is active