最近の20VCポッドキャストにおいて、CohereのCEOであるAiden Gomezは、AI業界の現状と将来についての深い洞察を共有しました。「トランスフォーマーセブン」の一人として知られるGomezは、モデルのスケーリングの限界、データとアルゴリズムの革新の必要性、そして激しい価格競争の中での利益維持の課題など、重要なトピックについて詳しく語りました。本記事では、Gomezの議論から得られた重要なポイントをまとめ、AIの発展に関心を持つ読者に包括的な概要を提供します。
スケーリング法則とモデルの効率性
Aiden Gomezは、計算能力の増加がモデルの知能の比例増加につながるというスケーリング法則が依然として有効であると強く信じています。しかし、彼は大きな課題を強調しました。GPT-4のような大規模モデルを展開するためのコスト対効果がますます低下しているため、多くの企業にとって実現が難しくなっているのです。そのため、将来的には、一般的なモデルと小型の専門モデルが共存する局面が出現する可能性があり、後者は特定のタスクを効率的に実行するために大規模モデルから蒸留されるでしょう。
スケーリング以外の革新
AIスタートアップにとって、単純なスケーリングは持続可能な戦略ではありません。Gomezは、データとアルゴリズムという2つの主要な革新経路を提案しました。
データの革新
- データ品質の向上: オープンソースコミュニティの進展は主にデータ品質の向上から生じています。特に、ウェブスクレイピング技術の改良により、重複や誤ったデータを除外することが重要です。
- 合成データ: Cohereは現在、合成データに注力しており、これが現在の大型モデルAPI市場を支配しています。この方法により、高品質でコスト効率の良いトレーニングデータを生成することができます
- Gomezは、AIモデルが「スローシンキング（遅い思考）」を発展させる必要性を強調しました。これは、モデルが考え、間違いを犯し、その過程から学ぶ能力を指します。これには、特に強化学習の分野でのさらなる発展が必要であり、モデルが複雑な問題を解決するための推論を教えることが求められます。
AIの経済的課題:
AIモデルがよりインテリジェントになるにつれて、開発コストも増加し、専門知識とますます複雑なインフラが必要になります。Gomezは、AIモデルを販売するだけのビジネスは、モデル構築コストの急激な低下により、ますます利益を上げるのが難しくなると予測しています。代わりに、AI企業はこれらのモデルを活用したアプリケーションや製品の開発に注力し、収益性を維持する必要があります。彼は、OpenAIが消費者向け製品にシフトしたことを戦略的な動きとし、それが正しい商業的決断であると評価しました。
AIの信頼性と安全性に関する懸念への対応:
企業の顧客がAIに対して抱く最大の懸念の一つは、技術への信頼性、特にデータの安全性とモデルの信頼性に関する問題です。モデルの幻覚現象は依然として懸念材料ですが、モデルの改良に伴い、その発生頻度は顕著に減少しています。さらに、RAG（リトリーバル強化生成）のような技術を使用して、AIの回答に引用元を追加することで、これらの問題をさらに軽減することができます。
AIの未来の機会:
Gomezは、AI分野での2つの主要な機会を指摘しました。
音声インタラクション:
音声インタラクションの再構築は、短期的には重要な機会となります。AIモデルが感情豊かで自然な発音を提供できる能力は、ユーザー体験を劇的に変える可能性があります。
汎用ロボット:
長期的には、Gomezは汎用ヒューマノイドロボットの開発が次の大きな確定的な成長分野であると考えています。高度なAIモデルは、特に計画と推論の面でロボット設計の最も難しい部分を解決しており、今後5年から10年以内に広く普及する道が開かれています。
チップ問題:
AI業界は現在、ハードウェア分野でボトルネックに直面しており、NVIDIAが高性能AIチップ市場をほぼ独占しています。しかし、Gomezは、この分野に大きな変化が訪れると予測しており、AMDとAWSのTrainiumの新製品がまもなく登場することで、特に需要の高いトレーニングチップ分野でNVIDIAの優位性が脅かされる可能性があると考えています。
結論:
Aiden Gomezの洞察は、複雑で急速に変化するAI分野をナビゲートするための貴重なロードマップを提供します。業界が成長を続ける中で、この競争の激しい分野で成功を収めるためには、革新と実際にスケールするソリューションとのバランスが重要です。AIの愛好家や専門家にとって、これらの動向を理解することは、先を見越して行動するために不可欠です。