日本人でも知っているAIのチップメーカー
NVIDIA ・・・AIのチップというよりグラフィックチップメーカーですが・
これが元Google社員の新興メーカーGroq社の脅威にさらされるというのです。
Groq社は、大規模言語モデル(LLM)などの計算集約型AIアプリケーションの高速なinferenceを実現するための新しいタイプのプロセッサシステムを開発・提供しているカリフォルニアのスタートアップ企業です。
Chat GTPがおよそ４秒かかる処理を、これは１秒で返せるというもの
元々NVIDIAのチップはグラフィックに特化しているので、AI専用ではない。
そこでAIに特化して構造から見直したチップ、しかも４ナノとか高度なチップではなく
一昔前の14ナノといったどこでも作れそうなチップなのです。
私の拙い説明より、動画を見ていただき、Groqという会社を覚えていただきたいです。
