＜暖房開始＞
本日からストーブ点火開始。
＜ハロウィンの天神界隈＞
サルソンは9時からで、かなり時間があるので、時間潰しに天神界隈をぶらつく。なにしろ今夜はハロウィン、ぶらつく価値はありそう
午前中に行った図書館の自習室にも飾り付けがあったくらい。
着ぐるみ系の仮装が多い。定番の骸骨や巨大なパンダもあり。あと若い女性のコスプレ風。
シアトルズ・ベストカフェを発見！ スターバックスと共に私のコーヒー習慣を根付かせたお店。
そんな、こんなで1時間以上、天神西通り界隈をぶらついたら、何だか歩き疲れが出て、サルサする気が薄れ、そのまま帰宅
。前回もこんなことあったね
＜リスクヘッジ＞
日経、土曜版「春秋」に富士フイルムが磁気テープ量産に乗り出すとか。これはデーターセンターやクラウドでのバックアップ用で【ネットワークから切り離してデーターを安全に保管】出来る様にとか。
やっぱし❗️ 素人でも出せたアイデアじゃん 今までちゃんとしてなかったの？
デジタルデーターの物理的隔離だ。
『AIは世界をどう変えるのか』9
ウキペディアの情報は70億パラメーターで納められる。それに対し、GTP-4は1兆で、近いうちに100兆のモデルが登場すると。p203
此処らから段々話しが分からなくなってきた
AGIを実現するには模倣学習と強化学習の両方が必要だが、問題はそれが数年後で出来るのか、1世紀かかるのかわからないと言う。p206
つまり専門家ですら、近未来すら予測出来ないという事らしい。
DeepMindの様な組織では実験に使う計算コストより、未だ人件費が高い。ハードの生産を行うNVIDIAではGPUの設計に数万人、TSMCではチップの生産に7万人以上働いている。
ところが、ソフト系のDeepMindは1,000人、Anthropicはそれより少ない。p211
AIに AI研究を自動化される事が可能になれば劇的に進むが、現状では計算リソースに制約されていると言う。それを『生物学の研究が「実験出来る回数」に左右されているのに似ている』と言う。p213
AIの武力乗っ取りについて、ある研究者は現在、20~30%だと言う❗️ p212
半導体メーカーの利益のピークは最先端の時期の数年だとか。p222
此処からより安全保障的話しになる。
AGI開発で先に抜け駆けした方には先手必勝の誘惑が生じると。 しかも、データーセンターは簡単にターゲットが熱や電力消費で場所が特定される。極めて脆弱な標的。p227
だからこそ、米国は中国に負けられないのだ。
こうした事が可能になるスケーリング=Order of Magnitude = OOM、を既に3回経験しているとも。p239
悪用と反逆はいつ起こるか？で、30年かからないとAnthropicのCOEは語る。p239
いや、もう起こっているのでは？