rohaniのブログ

ゆるっと自然言語処理奴。ときどき工作系バイト。

NN

物体検出システム YOLOv3 で自分で撮った写真の物体を検出してみた

YOLOv3とは YOLOv3はワシントン大学のJosephさんが作った物体検出プログラム。 入力画像中のどの部分に何が写っているかを検出してくれる。 本人の公式ページから、YOLOv3...ひいては、Darknetについて調べてみた。 pjreddie.com ジョセフさんのページは英語…

PythonでゼロからDeepLearning作ってみる【デコ8日目】

1.3.4.5 MatMulノード 1.3.5 勾配の導出と逆伝搬の実装 んー、理屈が分かっていない部分については、理論の理解に時間取られるからDaily Codingには向かないかも。 教科書 ゼロから作るDeep Learning ? ―自然言語処理編作者: 斎藤康毅出版社/メーカー: オラ…

PythonでゼロからDeepLearning作ってみる【デコ6日目】

1.2 ニューラルネットワークの推論 レイヤの実装の決まりごと 全てのレイヤはメソッドとしてforward()とbackward()を持つ 全てのレイヤはインスタンス変数としてparamsとgradsを持つ 1.2節の範囲は、PytorchでもChainerでも自分で書く部分だから大丈夫。 教…

Rumor Detection on Twitter with Tree-structured Recursive Neural Networks

輪講で紹介するにあたって、整理のためにまとめた。せっかくなのでシェア。 0. 出典 P18-1184, author = "Ma Jing and Gao Wei and Wong Kam-Fai", title = "Rumor Detection on Twitter with Tree-structured Recursive Neural Networks", booktitle = "Pro…

Generating and Exploiting Large-scale Pseudo Training Data for Zero Pronoun Resolution.

輪講で紹介する論文について理解を深めるために、落合さんフォーマットにまとめた。 折角なのでシェア。間違ってたら教えて下さると助かります。 0. 出典 Liu, Ting, Yiming Cui, Qingyu Yin, Weinan Zhang, Shijin Wang and Guoping Hu. “Generating and Ex…

可変長系列をRNNでミニバッチ学習したい時はパディング処理に気をつけて

系列長の違う複数の特徴系列(振れ幅 1〜200くらい)を、ミニバッチ化するために纏める時、 面倒に思って、データ全体を通して同じ系列長でパディング処理を施して纏めた。 そうしたら順方向RNN(many2oneで次の層に隠れ層を渡す)がうまく学習できなくなっ…