PyTorch 自然言語処理プログラミング | ナナとトモのブログ

ナナとトモのブログ

最近は書評メインですがナナ(ダックスフント)のかわいさを世界に広めるブログです。

ディープラーニングのフレームワークとしては Tensorflow+Keras が有名

ですが最近は PyTorch もだいぶ使われるようになってきました。最近は

JAX というフレームワークも広まりつつあるようですが、主要の論文での

実装に使われたのは PyTorch が8割だったという調査もあるようです。

 
自分はこれまで Tensorflow+Keras を使ってきましたがさすがにそろそろ
PyTorch も使えるようになっておきたい。一応本は読んだものの真剣に
実装には使っていなかったので、今回 BERT を実装するために真剣に
取り組んでみました。
 
この本自体は自然言語処理 (NLP) に特化しているため CNN 系は出て
こないのですが、NLP で使われる部品の説明は非常に丁寧。理論的な
解説と PyTorch によるコードがバランスよく配置されているので、すっと
頭に入ってきます。PyTorch を NLP 以外に使いたい人にとっても非常に
おススメです。