MITが選んだ2021年のブレーススルートップ10はこれ。

GPT-3(デイープラーニング作文技術)

でもOpenAIグループの誰にあげるか?

AIはどの賞なんだろう?
科学技術だから物理学賞にするか。

GPT-3Generative Pre-trained Transformer 

 

 

書くことと話すことを学ぶ大規模な自然言語のコンピューターモデルは、世界をよりよく理解し、相互作用することができるAIへの大きな一歩です。GPT-3は、これまでで群を抜いて最大であり、最も識字率が高いです。何千冊もの本とほとんどのインターネットのテキストでトレーニングされたGPT-3は、人間が書いたテキストを不思議な、時には奇妙なリアリズムで模倣でき、機械学習を使用してこれまでに作成された中で最も印象的な言語モデルになります。

ユニコーンの概念写真

シエラレニー

しかし、GPT-3はそれが何を書いているのかを理解していないので、結果が文字化けして無意味になることがあります。トレーニングには膨大な量の計算能力、データ、およびお金が必要であり、二酸化炭素排出量が大きくなり、同様のモデルの開発が並外れたリソースを持つラボに制限されます。そして、それは誤った情報と偏見に満ちたインターネットからのテキストで訓練されているので、それはしばしば同様に偏った文章を生み出します。Will Douglas Heavenは、GPT-3の巧妙な執筆のサンプルを披露し、その成果について一部が曖昧である理由を説明します。