rohaniのブログ

ゆるっと自然言語処理奴。ときどき工作系バイト。

Pytorch

与えるデータを変更したら原因不明確なエラーが吐かれた

なんだか原因がはっきりしないエラーが吐き出される。 しかも、実行するごとにエラーコードが変わってる気がするのだが、なんだろこれ。 ...という事態に見舞われた。 結果として、原因は入力データ数がミニバッチ数で割り切れない数だったので、あるひとつ…

可変長系列をRNNでミニバッチ学習したい時はパディング処理に気をつけて

系列長の違う複数の特徴系列(振れ幅 1〜200くらい)を、ミニバッチ化するために纏める時、 面倒に思って、データ全体を通して同じ系列長でパディング処理を施して纏めた。 そうしたら順方向RNN(many2oneで次の層に隠れ層を渡す)がうまく学習できなくなっ…