MIT Tech Review: AIの「頭の中」で何が起きているのか？ ディープマインドが新ツール
「MIT Tech Review: AIの「頭の中」で何が起きているのか？ ディープマインドが新ツール」がちょっと面白い。
AIの問題点の一つに、もっともらしい出力がどのようにして生成されるのか、よくわかっていないことがある。グーグル・ディープマインドの新しいツールを使えば、ブラックボックスの中を覗いて、理解や制御が可能なAIを構築するのに役立つかもしれない。
（この記事の3つのポイント）
・AIの内部動作の理解を目指す機械論的解釈可能性の研究が進展している
・ディープマインドはAIモデル内部を調査できるツールをリリースした
・機械論的解釈可能性はAIのバイアスや誤りの原因解明に役立つ可能性がある」
「人工知能（AI）は、創薬やロボット工学の分野にブレークスルーをもたらし、人間が機械やWebとやり取りする方法を根底から変えようとしている。唯一の問題は、AIがどのような仕組みで動いているのか、なぜこれほど効果的に機能するのか、正確に分かっていないことだ。それなりの見当はつけられているものの、複雑すぎてすみずみまで解明できずにいる。これは一大事だ。重大な欠陥が潜んでいる可能性を見落としたまま、医療などのきわめてセンシティブな分野にAIシステムを導入してしまう可能性があるからだ。「
「「機械論的解釈可能性（mechanistic interpretability）」について研究しているグーグル・ディープマインド（Google DeepMind）のチームは、AIの仕組みを解明する新たな方法を模索してきた。7月末には、AIが出力を生成する際に何が起きているのか、研究者の理解を助けるツール「ジェマ・スコープ（Gemma Scope）」をリリースした。AIモデル内部の事象の理解を深められれば、その出力を適切に制御できるようになり、将来的にはAIシステムの大きな改善につながると期待されている。」
Photo Illustration by Sarah Rogers/MITTR | Photos Getty
小松 仁