［増補改訂］GPUを支える技術 Hida Ando
いろんなモヤモヤがスッキリと晴れ渡った！
すごくいい本だ。
1．なぜGPUが“AI半導体”とかよくわからん呼び名でもてはやされるのか
2．なぜGPUメーカーの中でNVIDIAだけ注目されるのか
3．IntelやAppleがCPUに組み込む“AI機能”ってなに？
4．なぜスーパーコンピュータにGPUを使う？
5．そもそもGPUってどうやってプログラミングするの？
こんな感じの疑問を持っている人なら“答え”が得られる。
古い人間はそこから説明してもらわないと、わからないのよ。
答えはざっと書くと
1．機械学習で使うニューロンモデルって、入力に対する出力だから行列計算
（ただし、低精度でいいが高速処理が必要なので、別モジュールが必要）
3．そういう低精度浮動小数点行列演算機能をオンチップに入れ始めている
4．高精度浮動小数点演算が必要なので
（ただし、エラー処理が必須）
2．上記のような機能を早くから取り入れ、商品ラインアップも積極的にやった結果
5．CPUでGPU用命令を動かす
（データは転送するかシェアドメモリーで共有）
いろいろ考えると、今後の半導体をリードしていくのは
NVIDIA、AMD（ATIの資産がある）、ARMじゃないかな
AppleとGoogleはどうかなー、Intelは厳しそう
（もちろんTSMCとかは別の話ね）
それにしても、最近のGPUの（本来の）グラフィックス機能もスゴイ。
当たり前だが、いまのグラフィックス処理を手で書いていたら
人生何年あっても足りないもんね。