テクノロジストマガジンン
↓ ２０１９年
情報幾何の創設者 甘利 俊一 先生の記事です。
甘利 秀一 氏
↓ 今年で８８歳ですか。。
多層パーセプトロンの確率的勾配降下法の考案者です。今日のAI技術の基礎を築いた一人です。
++++++++++ 貼り付けます。
シンギュラリティが脅威になるとしたら、それは人工知能自身が「こうしたい」という意欲を持って、その実現のためには人間が邪魔だ、と考えた時でしょう。ただ、人間はその意欲とか好奇心、自己犠牲の精神なんていうのを長い進化の過程で獲得してきたわけで、自動学習で身に付けたわけではないのです。人工知能にそういう部分を埋め込むことはできないんじゃないか、というのが僕の考えなんですよ。
ただ、ＡＩがどんどん賢くなって、人の仕事を奪うのは確か。文明として見た時に、その〝落としどころ〞はどこにあるのか？そういう課題に正面から取り組んでいる人、いないですよね。それが、心配ではある。
ＡＩ研究そのものに関していうと、今はコンピュータの速さとデータ量という、ある意味〝腕力勝負〞で、いい結果が出せています。でも、実は「なぜそれができるのか？」という問いは、ずっと置き去りにされてきたわけ。その辺りの原理、仕組みを調べようという研究が、ようやく最近になって出てきました。僕もその端くれをやっているんだけど、これから面白い成果がいろんなところから生まれてくるんじゃないでしょうか。
++++++++++++
大家にして、「なぜそれができるのか？」という問いがまだ明かされていないと語っています。
AIは大変身近な物になりましたが、何故現行のモデルが機能するのか？についてはまだ謎が多いのではないでしょうか。シグモイド関数を適用して、力業でゴリゴリ微分して行列演算して、多層化したら、様々な社会モデルにうまく適合するようになっちゃいました。。LLM化したら、より人間らしい回答を出すようになりました。ネットワークに繋いだらより賢くなりました。。というのが現状でしょう。
AIの真の動作原理の数理的解析は、まだまだ先の事だと思います。新しい数学の分野が必要でしょう。情報幾何はそのうちの一つでしょう。
９年前の講義の映像です。
↓
1960年代に発表した当時は注目もされなかったようです。後輩達が育っていると思います。日本初の発見や発明は多い。AIが日常に入り込んでいます。その動作原理の解明は待ったなしでしょう。（AIの限界は知りたい。＝出来る事。出来ない事。いまだ良く判っていない状態で使用されているような気がします。）