論文:Campfire

スタンフォード大学のCampfireプロジェクト論文を眺めた。要約すると疎テンソルに対応した深層学習アクセラレータ向けの学習方法の提案とその評価。第一印象はハードウェアに合わせて学習方法を作るのはかなり悪手、だった。

ハードウェア側は深層学習のアーキテクチャに合わせて進歩するし、深層学習を扱っている利用者もそれを前提としている。その状況でハードウェア側に合わせて学習方法を提案しますと言われても誰が使うの？としか思わないし、多分誰も使わない。