大規模基盤モデルを使ってロボットに世界を理解させ、汎用（はんよう）性を持たせようとする試みが盛んになってきた。目指すところは、日常言語による指示の意図を適切に理解し、初めての環境にも対応して作業が行える「汎用ロボット」の実現だ。物体認識の研究発展において大規模画像データベースの「ImageNet」が重要な役割を果たしたように、汎用ロボット実現のためにも学習用データセットを整えることが、まずは重要となる。日本国内はもとより世界各国でさまざまなプロジェクトが進められている。その概要とロボットのこれからの可能性を追ってみたい。
夢の存在「家事ロボット」が実現？
読者の皆さまもご存じのとおり、現在のロボットはもっぱら工場や物流倉庫のなかで使われている。決まった環境で、決まった作業をプログラムどおりに実行する。
一方フィクションの世界では昔から「家事ロボット」が夢の存在として登場している。実際問題、多くの家事が家電で行えるようになった今でも、細かい仕事が作業と作業の間に残り続けている。それらの雑用も含めて自動でこなしてほしいという願いは消えていない。だが家庭のなかでさまざまな作業をさせるためには、無限に近い組み合わせがある状況下で、あいまいな指示に対応して動ける能力が必要とされる。
そもそも論として「お手伝いさん」のような人間サイズのロボットを家庭に迎え入れることが本当に現実的かどうかはさておき、技術として追求するための研究は今でもあちこちで進められている。ロボットと人間のインタラクション、日常を想定したシーンのなかでロボットにタスクをさせる競技大会「ロボカップ@Home」はそのための試みの1つである。
以前は話者推定などに苦労していたが、昨今はそこに苦労することはなくなった。また状況の認識にもChatGPTなどでおなじみ大規模言語モデル（LLM）が活用されるようになり、競技で競うべき内容も変わりつつあるようだ。ただ、大規模言語モデルがあれば何でもできるという話でもなく、汎用サービスロボットへの道のりはまだ遠い。ロボカップでも、基本となる物体データや、異なるロボットに転移学習させることができる共通スキルのモデルをそろえて共有しようといった動きもあると聞く。
スタンフォード大学 Vision and Learning Labなどによる「BEHAVIOR-1K」では、洗濯や片付け、テーブルセッティングなど、1000の日常的な家事活動を「身体化人工知能（Embodied Artificial Intelligence、EAI）」でこなすことを目指すプロジェクトが進行している。「OMNIGIBSON」というリアルかつ物理的なシミュレーション環境を活用する。
「BEHAVIOR-1K」は2つのコンポーネントからなる。1つ目は8つのシーンタイプ、家やオフィス、レストランや庭など50のインタラクティブシーン、注釈付きの1900以上のオブジェクト・タイプ、9000以上のオブジェクト・モデルを含む、日常活動の定義からなるデータセットだ。
2つ目が「OMNIGIBSON」環境である。これはデジタルツイン開発などに用いられているNVIDIAのメタバースプラットフォーム「Omniverse」をベースとして開発されたシミュレーション環境で、柔軟なマテリアルと変形可能なボディ、リアルな流体と熱エフェクトなどもサポートする。
この環境を使って、人間本位、多様性、リアリズムを元にしたロボット学習ソリューションの研究開発を目指すという。なお「BEHAVIOR」は「Benchmark for Everyday Household Activities in Virtual, Interactive, and EcOlogical EnviRonments」の略だ。
似たような考え方のプロジェクトは世界各国で行われている。今回はそのような試みをいくつか紹介しておきたい。どれでも良いので成功してもらいたい。
なお、本連載では2023年4月にも「大規模言語モデルでロボットはどう進化するのか、いい意味で「予測不可能」な未来とは」でこの話題を取り上げている。今回はその続きだと思ってもらいたい。ただ、この分野の発展は本当に早いので、あくまでスナップショットの1枚だと思ってもらったほうがいいかもしれない。
Google DeepMindのロボット工学モデル 「RT-X」
話をいったん基本的なところに戻す。現在「大規模基盤モデル」の活用が注目されている。タスクごとに個別に詳細なプログラミングを行ってロボットを動作させるのではなく、乱雑な日常空間にあるようなさまざまな作業、いわゆる汎用作業に適応させる手法としての活用だ。
「大規模基盤モデル」とは多種多様なデータで学習させた大規模ニューラルネットワークである。基盤モデルを元に「ファインチューニング」することで、さまざまなタスクに適応させることができる。
計算量とデータ量とパラメータ数を大規模にすることで、大規模言語モデルは飛躍的に性能を伸ばし、多様なタスクに対応できるようになった。仕組みとしては確率モデルなのだが、実際に実現できていることは驚きとしか言いようがない。
しかも猛烈な速度で進化し続けている。OpenAIが2024年5月13日に発表した最新モデル「GPT-4o」との会話はまるで人間のようだ。リアルタイムで逐次通訳までやってくれる。学習データの偏りによるのか、日本語の発話には外国人訛（なま）りがあり、性能も英語よりも劣るようだが、OpenAIは日本にも拠点を設けているので、今後の発展に期待したい。GPT-4oの話はいったん横に置いておき、ロボットの話に戻ろう。同様に、大規模な確率モデルを使うことでロボットに周囲の環境や求められているタスク目標を認識・理解させたり、動作させるためのコードを自動生成させて、タスクを実行させたりしようという考え方がある。たとえばロボットの知覚処理に大規模モデルを使うことは容易に想像できる。
Google DeepMindは各国の数十の大学と共同で「RT-X」というプロジェクトを提案している。「RT」はRobotics Transformerの略で、Transformerアーキテクチャーをベースとしていることを意味する。RT-Xは2つのTransformetモデルから構成される。リアルワールドのロボットから学習させたRT-1-Xと、Webとロボットのデータから自然言語に応答できるようにしたRT-2-Xというモデルだ。2つのモデルを組み合わせることで高い汎化（はんか）性能を持たせられるという。
DeepMindは異なるロボットから収集した多様な動作や視覚データなどからなる「Open X-Embodiment」という巨大データセットを作り、あいまいな自然言語にしたがっていろいろなタスクに適用できる動作モデルを作ろうとしている。詳細はこちらのブログで解説されているが、100万以上のエピソード、500以上のスキルと15万以上のタスクを実証する22種類のロボットからデータを収集した包括的なデータセットだという。
このデータセットを使ってRT-1-Xを訓練し、ものをつかんだり移動させたりさせる実験を行ったところ、従来のモデルよりも50％ほど成功率が高くなったとされている。RT-2-Xのほうは別のロボットの別のデータセットを使って訓練したら3倍の能力を発揮した。また、元のモデルにはなかった空間理解、指示の理解の能力を見せたという。 たとえば「move apple on cloth（リンゴを布の上に）」と「move apple near cloth（リンゴを布の近くに）」という指示では、ロボットが取るべきアームの軌道は異なるが、それに対応できたというのだ。
つまり、ほかのロボットのデータを組み合わせると、ロボットがより賢くなる可能性があるというわけだ。「多くのデータを集めれば集めるほどロボットを賢くすることができるのではないか？」という考え方は以前からあったのだが、それが本当になりつつあるのかもしれない。
なお、5月に横浜で行われたロボティクスのトップカンファレンス「ICRA2024」で「RT-X」はベストペーパー賞を獲得した。ただし、実際に試すとそれほどうまくは動かないとも聞く。
NVIDIAのヒューマノイドプロジェクト「GR00T」
GPUで知られるNVIDIAは2024年3月にヒューマノイド ロボットを対象にプロジェクト「GR00T」を発表した。CEOのジェンスン・フアン自身が、1X Technologies、Agility Robotics、Apptronik、Boston Dynamics、Figure AI、Fourier Intelligence、Sanctuary AI、Unitree Robotics、XPENG Robotics など多くのヒューマノイドのCGを背景に派手なパフォーマンスを行って発表した様子はとても印象的だったので記憶にも新しいだろう。Agility Roboticsの「Digit」は実物も登場してデモを行った。Digitは安定感ではほかよりも2歩くらい先を行っているようだ。
「GR00T」は「Generalist Robot 00 Technology」の略とされている。やはり自然言語を理解して、人のように行動できる器用なロボットを実現することを目指す。NVIDIAのデジタルツインの「Omniverse」、Transformerアーキテクチャーの処理に最適されたGPUのほか、ツールとしてはIsaac Robotics プラットフォームを用いる。Isaacには強化学習やクラウド学習用マネジメントサービスなどが含まれており、トレーニング済みモデルや各種ライブラリなども提供される。「GR00T」自体はヒューマノイド用とされているが、その他のフォームファクターのロボットによる移動やハンドリングなど一般的な作業においても新たなレベルの自律性を持たせることを目指している。
NVIDIAのような企業による後押しが得られることは多くのロボットスタートアップにとって、とても心強いことだろう。計算リソースの心配がなくなることで、大きな成果が得られることを期待したい。
AIエージェント「Eureka」
NVIDIA Researchは「Eureka」というAIエージェントを開発している。OpenAIの大規模言語モデルの「GPT-4」を使ったもので、ロボットをトレーニングするための報酬関数の生成を改善するようGPT-4に指示をして、NVIDIA Isaac Gym で強化学習させることができる。
シミュレーションでトレーニングデータを蓄積して方策を学習させ、それを実機・実環境に持っていく「Sim2Real」という考え方があるが、この「Eureka」を活用し、現実とシミュレーションのギャップを自動で埋めるために大規模言語モデルを使おうというプロジェクトが「DrEureka」で、NVIDIAやペンシルバニア大学らが進めている。
Sim2Realのアプローチは、タスクの報酬関数とシミュレーションにおける物理パラメータの手動での設計とチューニングに依存している。それを大規模言語モデルを使って自動化・高速化する。「Dr」はドメインランダム化を意味しており、Eurekaで報酬関数とポリシーを自動生成したあと、再度、異なるシミュレーション条件下でポリシーをテストするために、物理パラメータをランダム化したセットをLLMで生成する。その条件でトレーニングを行うと、より適応力が増したという。
このアプローチを使うことで、4脚ロボットにバランスボールを歩かせるといったタスクを繰り返し手動設計することなく実現できたという。
物流分野での大規模基盤モデル活用「Covariant」
大規模基盤モデルの適用対象はもちろんヒューマノイドだけではない。本丸は、むしろすでに普及している産業用ロボットだろう。産業用ロボットがより柔軟なタスクをこなせるようになると、それだけで大いに意味がある。特に、さまざまな未知の物体を扱わなければならないため、最初から汎用性がある程度必要とされる物流現場での期待は大きい。
機械学習のロボットへの適用の第一人者として知られるカリフォルニア大学バークレー校のピーター・アビール（Pieter Abbeel ）教授らが2017年に創業したスタートアップのCovariantはピッキング用AI「Covariant Brain」を物流向けに展開している。同社は以前から階層型強化学習（Hierarchical Reinforcement Learning）によるロバストな知覚や汎化性能獲得を目指しており、「Covariant Brain」を実際の現場で稼働させてデータを収集してきた。
特に産業用ロボット大手の1つABBとは親密な関係を構築している（2020年2月のリリース）。
リアルワールドでのマルチモーダルなロボットデータを大量に使って学習させた大規模モデルである「RFM-1」は、テキスト、画像、ビデオ、ロボットの動作、およびさまざまな数値センサーの読み取り値に対して学習された80億パラメータの変換器である。同社の解説によれば、「RFM-1」を使うことでロボットは自然言語を使った指示の元でいろいろな物体の把持動作や動作シーケンスを生成したり、それをこなしたあとの状態の動画像を生成したり、その途中のセンサー値をシミュレート、つまり予想することができる。さらに学習させることでより多くのタスクに対応できるという。
中国スタートアップ「X Square」
中国でも「X Square」というスタートアップによるロボット向け汎用大規模モデルのプロジェクトが進められているようだ。2023年に創業されたばかりの新興企業だが、「36kr」の記事によれば、認識から動作までのEnd-to-End学習の能力を持たせようとしており、わずか3カ月でロボットに数十種類の複雑なタスクを実行させられるようになったという。
日立と早大の「深層学習型ロボット制御技術」
End-to-End学習とは、1つのタスクをサブタスクに分解し、複数のモデルを組み合わせてほどくのではなく、1つのモデルでまとめてほどいてしまおうというものだ。ディープラーニングが成果を出し始めた近年、特に盛んになった。
日立製作所と早稲田大学 尾形 哲也研究室では、ロボットの手先や対象物の特徴などを「2人羽織」のようなかたちでロボットを人が動かして「模倣学習」させることで、触ると変形するような柔軟な物体、つまり布やケーブルなどをプログラミングなしで扱うことができるシステムを研究している。
リリースでは「対象物の物理的特徴（色や形状など）と動作内容（つかむや押すなど）を含んだ言語指示から、学習していない動作を連想して実行することが可能」とされている。
ロボットにやらせたい動作を複数回教えるだけで、ロボットの視覚・触覚情報から着目すべき情報（対象物の位置や方向など）と、そのときに取るべき動作を自動抽出することで、不定形物を扱うような作業に対する動作も、プログラミングレスで実行することが可能だ。ロボットが導入されていない現場作業を自動化することで、人の作業を支援するシステムを構築することを目指す。
ここで日立が使った遠隔操作装置は最近ニーズが増している。特に有名なものがスタンフォード大の研究者らが進める「Mobile ALOHA」だ。比較的、安価な遠隔操作用ハードウェアを使って（とはいっても、少なくもロボットアームは4つ、カメラも複数付いているので、それなりの値段だ）、モバイルマニピュレータ型のロボットに日常的なタスクを学習させるためのデータ収集を行おうという考えだ。スタンフォードの研究者たちは、タスクごとに50回程度試行したら、9割程度の成功率を達成したとしている。
「Mobile ALOHA」はオープンなプロジェクトなので、同様の全身遠隔操作用の機材は、AgileX Robotics社の「COBOT MAGIC」など、あちこちから出てこようとしている。ニーズがあるということだろう。日立の機器も、あくまで研究用途として販売すると聞いている。
「世界モデル」と大規模基盤モデルの融合
もう1つ、大事な概念が「世界モデル」である。ロボットやAIを動かす上で、物理世界の物体がどのように変化するのか、どんな構造をしているのかを学習によって獲得し、予想できるようにするための、「世界」のモデルである。
たとえば、物体の裏側がどうなっているのか、人間や動物なら暗黙の前提として知っている（もしくは推定できる）ような知識を表現したモデルだ。一言でいえば「常識」である。その常識を反映させた「世界モデル」を使うことで、経験のない環境においても物体操作したときに、どんな変化が起こるのかを常識的な推定を行いながらロボットは動けるようになる。
ロボットがセンサーで知り得ることにはおのずから限界がある。たとえば、奥行きセンサーを持っていなければ、奥行きの情報は取れないし、硬さを測るセンサーがなければ硬さは分からない。だがほかのセンサー情報を使えば、得られない情報を推定することも、ある程度はできるはずだ。人間も同じようなことをやっている。
またもちろん、大規模なシミュレーションや教示による学習データをそろえることができないときにも、世界モデルを組み合わせて活用することは問題解決に有効な方法となるはずだ。
Google DeepMindは「Genie：Generative Interactive Environments」という、テキストや画像からインタラクティブな仮想環境を生成できるモデルを発表している。ラベル付けされていないインターネット動画から教師なしで学習を行った生成的インタラクティブ環境で、プレーヤーは生成された世界のなかで自由に動くことができる。110億パラメータを持つ「基盤世界モデル」だ。
これがロボットにも使えるのである。アームを使って物体操作をすると物体が変形する。その変形などを理解できるようになる。単に「以前の状態がこうだから次はこう遷移する確率が高い」といった予測だけではなく、物理的にあり得そうなかたちで世界の変化を予測できるようになるからだ。
また、ネット上のビデオを学習データとして使うための基盤としても使えるという。ゲームエンジンとロボティクスの関係については今後も注目しておきたい。
今後は、世界モデルと大規模基盤モデルとを組み合わせて使うことで、ロボットが、世界のなかで、より自由に動けるようになることが期待されている。日本企業ではNECが世界モデルに注力している（2024年2月のリリース）。具体的には倉庫での作業内容やレイアウト変化に柔軟に対応できるようになるとされている（2023年3月のリリース）。
ロボットがまだまだ「賢くなれる」ことは確実
ここまで特に紹介してこなかったが、もちろん、「大規模言語モデルを使ってロボットに指示を与え、ちょっとしたコードを生成させて簡単な作業をさせる」といった分かりやすい連携デモは各社が行っている。また、ここまで述べてきたような考え方をさっそく実世界で動くロボットに適用して、本当の意味での「理解力」を持たせようとする研究もある。なかには、ヒューマノイドを使ったものもある。
ここからどのくらいロボットの能力が伸びるのかは未知数だ。ただ、はっきりしていることが少なくとも2つある。1つ目は、ロボットはまだまだパフォーマンスを発揮しきれていない、つまり、まだまだ「性能の伸び代」があるということだ。ロボットはハードウェアなので、もちろん、どんなに頑張ってもハードウェア本来の性能以上のことはできない。だが、それすらまだ性能を引き出せていないのである。より良いAIモデルが開発され、ロボットに接続されれば、ロボットの性能はそのぶん伸びる。
もう1つはロボットの行動能力を伸ばし、もっと柔軟にするための有効らしき方策として、さまざまな形態や利用シーンのデータを大量に学習させたモデルが有効である可能性が高い、ということだ。これが最近の成果である。
いろいろなデータセットが作られていることは前述のとおりだが、それらをひとまとめにして扱えるようにすると、もっともっとAIの性能は改善され、ロボットは高い汎化性能を持つ可能性が高い。
マイクロソフトがOpenAIに10億ドルの投資を行ったのは2019年であることからも分かるように、「大規模言語モデル」の研究開発自体は以前から進められていた。そして2022年の「ChatGPT」発表で、いきなりポピュラーになった。同様のことがもしロボットで起こったら──？起こらないとは限らないし、むしろ起こってほしいと思っている。
ただ、これまではプログラムされたとおりにしか動けなかったロボットが、より柔軟に動けるようになり始めたら、これまでとは異なる種類の問題も起きてくるだろう。ロボットが何を考え、何をしようとしているのか、人間とコミュニケーションする必要が出てくることは間違いない。それはまた別の話である。