現在AI開発は、NVIDIA等のGPUを利用して作成するのが主流となっています。
GPUはCPUに比べ並列計算能力については遥かに優れていて、学習過程で膨大な並列計算を必要とするニューラルネットに対して適正をもっています。
現在、TensorFlowをはじめとしたGPUを利用することを前提とする便利なフレームワークがどんどん発表されていて、今後もAI学習段階においては主役の地位は揺るがないと思います。
しかし、GPUは大量の電力を消費し、また比較的大型なので組み込みには決して向いていません。
そのため組み込みAI業界では、FPGA(field-programmable gate array)という、いわゆる組み換え可能なマイコンが注目を集めています。
FPGAは、浮動小数点数処理についてはGPUに比べ劣りますが、省電力かつ小型であり組み込みに向いており、また、並列計算能力はGPUに勝ります。
組み込みAIの世界ではFPGAが今後主役になっていくでしょう。
『AI開発は便利なフレームワークを利用してGPUで、現場でのAI推論はFPGA』で、というのが今後スタンダードになっていくと思います。
そんな、利用現場でのAI推論において素晴らしいポテンシャルを持っているFPGAについて、今後何回かに分けて書いていこうと思います！