再び現金の呪い & 『ChatGTPとは何か』2 | Hiroshiのブログ

Hiroshiのブログ

今後不定期投稿となります

<昨夜の反省点>

何故か昨夜のSalsonでは上手な女性3人から誘われた。ダメですね、女性から言われるのは、こちらから誘うのが礼儀。でも、上手な人は誘うのに勇気が必要ショボーンてへぺろ


 

 

<青磁案件>

最近、AK氏のところなど中国で日本語教育の事務作業が急激に増えたという話を聞いて、「これは裏に何かあるのでは?」と感じていたが、コメントへの返信によれば、やはり青磁案件があるよう?

 

状況は違うが、同じようなことは某教育分野でもあり、ある意味経験済み。教育そのものから生まれた問題ではない。社会の変化が背景にある。これは個人のレベルで解決できるものではない。

 

 

 

 

<屋外読書に良い時期>


 梅雨がやってくるまでの短い期間。



<現金の呪い>

政治資金規制法に関して世の中には政治家を批判する声が多いが、これは違う。曲がりなりにも民主国家なのだから、そんな政治家を選んだ有権者の責任。此処らの主体性が欠けている。


献金を現金で、かつ無記名でやりたいのは「見返りが欲しい」から、ナンテコトナイ有権者も共犯。汚職の構造。

 

これを元から断つにはやり方は1つ、全てを公開すること。5万円、10万円なんて問題ではない。1円から公開すべき、また今はそれができる時代。


あるエコノミスト(門倉貴史氏)も同じことをコメントしていた。

https://news.yahoo.co.jp/articles/b5f74fe73314c0d5452ecc74afd6e022e85093bb

 

繰り返すが、アプリを作れよ! それこそAIに頼めば100万円程度でできるムキームキー


今の時代超〜簡単。自動的に一円からでもリアルタイムで公開できる仕組みで問題は一挙解決する。


 

 

 

 

『ChatGTPとは何か』2

従来の機械学習に代わり、デープ・ラーニング深層学習がA Iに革命をもたらしたと言われる。


実際、90年代に私が仕事で使っていたのは機械学習。その時の経験では、条件次第=アルゴリズム次第、でいくらでも結果が変わり「あてにならないな」という感じだったが。どうやらそれから深層学習で革命的に変わったみたいだ。


つまり、それまで人間目線で定義したり、解答を提供していたものを、コンピュータ自身の認識力で真偽を区別するということみたいだ。p54

 

わかりやすい例えで言えば、画像認識で「チーリップは花びらが何枚で、色は、、」と人間の目で見ただけの定義に加え、さらに人間が認識できない。非可視光の特徴なども含まれる。しかも学び直しができるとか。


ニューラルネットワークを参考にして動いているが、その中間層のパラメーターを逆に辿り、適切なパラメーターに変更することができるらしい。また間違いが多ければそれを出した途中の中間層を省略するなど。p60 

 

面白いのは大量のデーターに過剰適応すると性能が逆に落ちることもあるので、必要に応じて異端者にも光をあてるべき、それが先の「途中の隠れ層をドロップアウトさせる」ということもするらしい。p65 

 

例えば無毛のネズミ(ヌードマウス)をネズミを認識できるようにする場合(毛があるとは限らない)とか。もしかすると後で議論される「報酬モデル」=人が順位付けして良い回答を順位付けする操作が入るのかも? p75

 

しかも敵対的生成AIが批判を加え、2者(2つのAI)が切磋琢磨するとも。p63 

 

革命的技術にTransformerというのがあるらしい。これは文章中に存在する単語の関係性を理解し、その意味=距離を使って予測する能力らしい。p67 

 

これで文章の遠く離れた単語どうしの関係を扱うらしい。GTP-3.5では各単語は50257次元にベクトルが転換され関係性を作るらしい。ここら辺になると、もう私の理解を超える。p68

 

さらに能力を鍛えるためにweb 上にある莫大な文章から自動的に莫大な数の「穴埋め問題」を作り、正しい単語が出てくるまで鍛えたらしい。p71 

 

疲れを知らぬコンピューターだからできること。