NVIDIAは、MAGNetで生成されたAI推論アクセラレータは、シミュレーションテストで1ワットあたり100テラOPSを達成できたと主張しており、これは現在の商用チップよりも桁違いに高い。
2つ目のプロジェクトは、既存のシステム内の電気的なリンクをより高速な光リンクに置き換えることを目的としており、ビル・ダリー氏は "GPUへのNVLinkの速度を2倍にして、もしかしたらまた2倍にすることもできるかもしれないが、電気的な信号は最終的には尽きるだろう "と述べている。
8年間でシングルチップの推論性能は317倍に向上した。 "実際、当社の推論性能は毎年2倍以上に向上していますが、これはTensor Coreの改良、より最適化された回路設計とアーキテクチャによるものであり、プロセス技術がその役割を果たしているわけではありません。" ビル・ダリーは言った。
Legateは、高速化されたソフトウェアライブラリと高度なランタイム環境であるLegionに新しいプログラミングの略語を組み込んでおり、開発者は、単一のGPU向けに書かれたプログラムをあらゆる規模のシステム上で実行することができます。
Nvidiaが「ウォンの法則」を初認定、ムーアの法則に続く旗手になるか？
インテルが認めざるを得なかったことに加えて、他のメーカーの答えは「はい」だと思います。
ウォンの法則とは？
ウォンの法則の話をする前に、まずは失敗するか「死ぬ」と予測されるムーアの法則を理解しておきましょう。
おすすめの読み物。
ここ数年、黄仁順氏は「ムーアの法則は死んだ、新しい法則が形成されている」と表現してきたが、特にGPUでは10年ごとにGPUの性能が1000倍に伸びると予測しており、この予測は「黄の法則」としても知られている。
このような効果が得られたのは、MAGNetが一連の新しい技術を使用してデバイスを介した情報の流れを調整および制御し、データ転送を最小限に抑えたためです。 全体を通して、本研究のプロトタイプはモジュールとして実装されており、柔軟なスケーリングを可能にしています。
この事実を念頭に置いて、彼らがさらに検討しているのは、ムーアの法則が失敗した後、プロセッサのエネルギー効率をさらに向上させるにはどうすればいいのか、ということだ。 この質問に対しては、Nvidiaのように、いくつかの企業が独自の答えを見つけています。
さて、パフォーマンスを倍増させることを目標に、Jen-Hsun Huangは彼自身の答えをもたらします - 1年。 その通り、Jen-Hsun Huang氏の意見では、GPUをベースにした性能を2倍にするには1年しかかからず、ムーアの法則の1.5倍以上の速度が必要だという。
その後、元インテルCEOのデビッド・ハウワース氏は、チップの性能は1年半ごとに2倍になるという主張の別バージョンを更新した。
ビル・ダリー率いる200人のチームは現在、コロンビア大学の研究者と緊密に連携して、通信事業者がコアネットワークで使用している技術を使って、1本のファイバーで数十個の信号を伝送する方法を模索している。
ビルダリーは、"317回 "の成果では、全体のプロセスプロセスは、役割の20％未満を果たし、主な信用は "アーキテクチャの改善 "であると指摘した。
ムーアの法則が去った後も、将来的に多くの仕事をするためには、より高いコンピューティング性能が必要なので、コンピューティング性能を向上させ続けるための『ウォンの法則』があります。
ムーアの法則の鍵は、高度なプロセスに基づいてトランジスタを所定の体積に多く入れることであることは、今でも容易に理解できます。 ウォンの法則の「建築的な改善」については、具体的にどのように実装されているのでしょうか？ ビル・ダリーもトークの中でこの質問に答えています。
ムーアの法則は、インテルの創業者の一人であるゴードン・ムーア氏が紹介したもので、集積回路に収まるトランジスタの数は24ヶ月ごとに約2倍になると予測されていた。
ムーアの法則は失敗するのか？
もちろん、サポートする事実上の根拠のない任意の引数の確立は、チップ製品の性能向上のコアがプロセスプロセスではないことを証明するために、例としてNVIDIA GPU製品に直接この理由ビルダリーオンラインスピーチプロセスのために、脆弱であることにバインドされています。
彼の話の中で、ビル・ダリーは3つのプロジェクトでこの質問に答えています。
光リンクの可能性を最大限に発揮するためには、適切なソフトウェアも必要ですが、それはビル・ダリーが3つ目のプロジェクト、新しいプログラミングシステムのプロトタイプであるLegateで共有したものです。
黄の法則をどうやって実行するか？
密度の高いWDM」と呼ばれるこの技術は、わずか1ミリのサイズのチップ上で、現在の相互接続の10倍以上の密度のTb/sレベルのデータを提供することが期待されています。
同氏は、2012年から2020年までの間、NVIDIAがGPU製品の開発に使用したプロセス技術は、初期のKeplerアーキテクチャで使用した28nm、中期の16nm、最近のAmpereアーキテクチャで使用した7nmの3世代のみであると説明した。
注目すべきは、GTC 2020 China Online Conferenceで「Huang's Law」が正式に確認されたことだ--公式イベントでは、NVIDIA Research Instituteのチーフサイエンティスト兼副社長であるビル・ダリー氏が次のように述べている。 "黄の法則"
注目すべきは、より高いスループットに加えて、光リンクがより高密度なシステムの構築に役立つことです。 この点に対応するため、ビル・ダリー氏は、160個以上のGPUを搭載する将来のNVIDIA DGXシステムのモデルを示した。
おすすめの読み物:
ディスプレイ業界の戦いは激化、次世代ディスプレイ技術の登場で
ラインナップを超えた上半期のおすすめトップエレクトロニクス