回帰的自己改善 『AIは世界をどう変えるのか』5 | Hiroshiのブログ

Hiroshiのブログ

今後不定期投稿となります

<数値目標>

誰でも簡単、ネィティブ中国語。ビジネス中国語のDuo。もこっチャイナ。2h7min.


週末はお休みにしているから貯金なしてへぺろ笑い泣き


運動、大雨中止?


<world news>

BBC: 英国、EU関係強化>移動自由等>移民必要?/ ブラジル大統領選、右派ボルセロナ優位?

ZDF: アウディ、米国へ工場<関税回避。/ フランスでデモ再炎。/ セルビア選挙、与党苦戦。

アルジャジーラ: ガザへイスラエル攻撃続く。選挙で西岸封鎖予定。/ サウジ、モカに攻撃。フーシ派も反撃。

ABC: テルアビブで反ネタニエフデモ。明日27日選挙。

香港: 大陸=香港通行拡大>中国化進む?/ フランスデモ再炎、スペインでもデモ。アルバニアでもデモ。

CNA: シンガポール、インドネシアの森林火災に支援。人工降雨は不成功。/ インドで金融デジタルセンター開始、拡大。


ヨーロッパ各地で抗議で燃える。

イスラエルの選挙はどうなる? 

エタニエフ転落>トランプ転落?

インド、デジタル金融未来如何?


<日曜、新聞流し読み>

読売:

『地球を読む』に、あの『歴史の終わり』の著者、フランシス・フクヤマ氏が寄稿している。 今や歴史は新たな段階にシフトしているようだが?


それは兎も角、同氏は来月の中間選挙での共和党敗北を予想し、その原因がトランプ氏の二つの失策、物価高と海外戦争を挙げる。いずれもイラン戦争に起因するもの。そしてその背景に彼の周りに適切な助言ができる人物がおらず、イエスマンだけ揃えた事を指摘する。


しかし、同時に2年後のサプライズも予言する。但し、そのサプライズが何かは言及せず。



<ディクテーション>

耳で聞いて素早く書きとるのは難しい。紙の四面をなぞる様に書いていくのは、段々面積が小さくなるのが励みになるから爆笑




<隔週のプラゴミ回収>

プラゴミは毎週回収にして貰いたい程溜まる。生ゴミは裏庭コンポストで月1でもOKだが、プラゴミはプラスチック部分は全て回収して洗って出すのでかなりの量になる。




『AIは世界をどう変えるか』5

三章はLLMの内部構造の話しで付いていけなかったがえーん、自分自身で理解出来たと思った範囲で纏めてみる。


LLMは本当に推論しているのか、どうかの答えは【分からない】と研究者自身が述べるガーン


即ち、LLMは単に膨大な統計学的関連性によって『それっぽい言葉を並べているだけ』かもしれないと。p86


脳科学と AI、それに生物学が同じ構造(=シナプス構造の事か?) へ収斂し、そのアルゴリズムを実装したTransformerが成功を納めた事は極めて示唆的だとする。p90


これは脳も【同じ様な仕組み】で動いているという事なのか? いや、私はこれまでその様に感じていたが?


四章は取り扱いに関して。

リスクとして三つ、

  1. 誰も意図しない誤り。
  2. 悪意ある利用。
  3. 人間の意図に反して AIが行動する。


1と3の区別が判り難いが、先日の AIがサンドバック内で試験中に、他のサーバーに侵入したのは 3.とすべきか?


2.は最近事件として犯罪者によるハッキング、身代金要求が話題になっている。


 AIは人間の価値観を「理解」しても「共有」するとは限らないと言う。p114  それが実際起こったとアンソロビックの報告にあると日経新聞に出ていた。指令に夢中になったとか? ならば大変だガーン


こうした「恐れ」に対して安全対策はなされているが、こうした対策が開発競争が激しくなると、払うべき安全性へのリソースをモデル拡大に回してしまう誘惑に人が負けてしまう可能性を研究者は危惧する。p116  


今のトランプ政権はまさしくそうだろう。『中国に負けるわけにはいかない』のだ。


更に AIが自分自身のプログラムを自分で書き換える(=改善のつもり)と本当に恐ろしい事になると研究者自身が言う。p120


まさにこれが『回帰性自己改善』と言うものか? 即ち、【知能爆発】の可能性。