＜時間待ち＞
サルソン9時開始は遅すぎる‼️ 時間待ちの為、天神から中洲まで散策。音楽堂前でライブをする若者がいた。
谁知道未来会发生什么
だから【青春を賭ける】価値があるのだ！ 路上ライブする若者に『頑張れ‼️』と声を掛けたくなった
＜人口動勢＞
日本、中国、韓国の出生率の年次変化のデーターがWeChatのチャンネルに出ていた。これから予想される事は山の様にある。赤=中国、緑=韓国、青=日本。
日本の【少子高齢化】は中国や韓国に比べれば大した事ない‼️ 二世代前、即ち半世紀で(1975〜2025年)出生率は中国は、23>8で1/3。韓国は22>8でこれも1/3程度。日本は15>8で1/2で、まだまし。単位は1,000人当たり。
人口減少よりも【扶養人口率の増大】が問題だと考える方。
また更に中国だと、大抵結婚を機に自宅=不動産購入の流れなので、1975~2000年(結婚適齢期)の変化を見ると、大体23＞8 で1/3に低下する筈。
新規住宅購入が1/3になるだけでなく、古い世代=二世代前の住宅が市場に溢れる筈？
ま、中国の住宅は安普請なので50年経つと＜取り壊し＞の対象かもしれないが？
いずれにしろ、住宅は余る。不動産バブルはどう考えても日本以上に中国では深刻な筈⁉️
ようやく『 AIは世界をどう変えるのか？』を読み上げた。
勿論、ちゃんと理解出来たとは思わない。しかし最後まで諦めず読めたことは良かった。
これまで何冊かの生成 AI関連本を読んだ事が何より役に立った。特にLLM、大規模言語モデルで使われる『アテンション』に対する基本的知識があった事が役に立った。
最後の最後に、以下の様な言葉があった。
Attention is all you need p295
Scale is all you need p301
まさに『アテンション』から今回『スケーリング』の持つ意味を理解した事に繋がる
＜隠遁生活？＞
よくWeChatのチャンネルで出てくるもの。
中国人はこんな生活に憧れているのかな？ 都市の生活はストレスが大きい？
矢張り街中がいいし、ストレスのない生活は意外とつまんないよ。
…いやいや、これはもしかすると、
【AIが世界を支配した後】
のヒトの生き方かも
『AIは世界をどう変えるか』4
次ぎは AIの評価の話題。BIG-Benchと言うのがあるが、これは言語モデルでは達成が難しいとされた問題。
例えば、時代の錯誤の特定、ASCⅡアートの読解、著者の選定など。これらを各モデルは計算量の増加に伴い、達成している。それを61頁の図04で示す。
横軸の計算量がlog関数である事に注目。そしてアンソロピックの共同創始者は能力はそのリリース後になって初めて把握される場合が多いとも。それは開発者が【テストしなかった為に分からなかった】から。p61
だから、犯罪者がサーバーのハッキングに利用出来るのだろう。
その他、以下の様なベンチマーク問題がある。
『あるクラスに30人の生徒がいて、1/5は12歳、1/3は13歳、1/10が11歳。
ならば、11~13歳以外の生徒は何名ですか？』
これは高校生なら解ける問題だが、モデルでは95%の正答率だとか。p66
この問題は分数だけでなく、文脈を理解し、計算と組み合わせる「推論」のプロセスが必要だとも。p66
未だ評価出来ていない AIの能力として、動画をリアルタイムで理解する能力を【測られていない】とか。p73
そもそもLLM(大規模言語モデル)だから。p73
しかしこれは2024年段階の話。今は出来ているかもそれだけ進化の度合いは凄い。
それとエピソード記憶もないとか。これは直前の出来事を保持するワーキングメモリーと長期的に大脳皮質に保持される記憶の中間的記憶の中間に当たるもので海馬にその機能があるとされる。p74
このエピソード記憶こそがヒトが少ない例から効率よく学べる基盤とされる。p74
研究には多くの課題があるが、こうした問題解決には大きな壁はなく、解決されると研究者は楽観的。p75
機械学習の研究論文には不満があるが、【再現性のない】社会科学よりはまだ健全だと述べた研究者の言葉に笑ってしまう。p80