キャノングローバル戦略研究所ＣＩＧＳの櫛田 健児氏（International Research Fellow）が、米国コロナ最前線と合衆国の本質シリーズの中で、新たに「AIの劇的な進展と政治利用の恐怖」を発表している内容が興味深い。
https://cigs.canon/article/20201001_5388.html
・「テスラやSpaceXを創設したイーロン・マスク、シリコンバレー のアクセラレーター（スタートアップを急成長させる短期教育プログラムを提供し出資も行う企業）Y Combinatorの創設者であるサム・オルトマンなどが設立したOpenAiという先端のAI開発会社が、とてつもなく進化したAIの自然言語処理モデルのプログラムを発表した。その名はGPT-3である。この名前は覚えておいた方が良い。まるで人間が書いたような文章を作成してくれるという代物だ。」
・「GPT-3は、これまでの自然言語処理のAIに比べて、非常に幅広く衝撃的なほど説得力を持つ文章を生成するのだ。フィクション作品、ポエム、論文、記者発表、比較的簡単なコンピューター用プログラミングコード、音楽、ジョーク、技術マニュアル、そして人間の目で見ても人間のライターが書いたのかAIが書いたのか判定しにくいニュース記事などが生成できる。」
・「GPT-3の”GPT”は”Generative Pretrained Transformer”の略である。その概要にある数値だけ見ると、GPT-3の驚異的な発展速度と今後予想される飛躍的な伸びがどのくらいかよくわかる。2018年に最初に登場したGPTは言語を理解するためのパラメーターが1.1億あったが、翌年に誕生したGPT-2はパラメーターが10倍以上の15億まで増えた。そしてGPT-3は1750億ものパラメーターで計算しているのである。ちなみに、今年マイクロソフトから発表された類似のAIのパラメーターは170億である。」
・「GPT-3のようなAIは、あらゆる言葉を数字化して、テキストプロンプトに対して次に来ると予想される言葉を確率で割り出して選んでいる。つまり、コンテクスト（状況）を読んで、そこから予想を出すのである。例えば、ある詩人のポエムの冒頭をテキストプロンプトに入れると、同じような感覚やテンポのポエムが生成される。博士論文をテキストプロンプトに入れると、博士論文のような文章を生成する。」
・一方、「GPT-3は、因果関係や人間が理解できるロジックから答えを作り上げるのではなく、あくまで事前に読み込んだ膨大なデータをもとにテキストプロンプトに対して次に出すべき言葉を確率で割り出しているだけなので、パターン認識でしかない。そのため、驚くようなナンセンスな答えが出ることもある。例えば、『私には目が二つある。サメにも目は二つある。バナナには目がいくつある？』と聞くと、『バナナには目が二つある』と返ってくる。バナナというものの本質を理解した上での答えではなく、確率から答えを出しているだけなので、パターン認識だけしてこのような解答となったようだ。非常に流暢な文章を生成し多面的な能力があっても、決して人間のような『知能』ではないのだ。」
・「もしGTP-3を政治的な兵器として使用したらどうなるだろうか？恐ろしいシナリオが複数思い浮かぶ。そもそもGTP-3に人間的なロジカルな思考や合理性という長所がなくても、フェイクニュースを簡単に信じ、それらを大量に拡散する人にとってはGTP-3が作り出す文章のロジックや合理性に多少の問題があっても関係ない。
GTP-3は大量のフェイクニュースをばらまくことができるので、何が事実なのかを埋没させることができる。これは次のコラムで紹介するFacebookの仕組みを理解すると一層わかりやすくなる。簡潔にいうと、細分化して対象を絞った人たちに感情を揺さぶるような広告を出すことによって、彼らの思考と行動様式に影響を及ぼすことができるのだ。」
・「GTP-3が『偽りの現実世界』を大量に作り出すことによって、大統領選に大きな影響を及ぼすかもしれない。GTP-3ほどのクオリティーがなくても、諸外国が似たような手法でアメリカ大統領選に絡んでくることは想像に難くない。」
・「Facebookの仕組みの特徴は、『誰に広告を打つのか』という点で非常に細かい対象選択ができることである。例えば、『フロリダ南部在住の移民嫌いで銃規制に反対する所得が低めの人』というところまで指定できるので、『バイデン政権になると、移民が雪崩のように入り込み、あなたの銃も取り上げられるような規制が計画される』という内容の広告を、正にその対象者に差し込むことができ、最も効果が期待できる。」
「Twitterも非常に人気があるが、何万回もリツイートされたものの大部分はボットが作り出したものであるという研究結果があることは、以前のコラムで紹介した通りである。GTP-3が使われると、どのアカウントがボットなのか探し出すのが非常に困難になると予想される。既にこのようなアカウントの多くはボットであり、ボットを探し出す研究者たちのアルゴリズムをすり抜ける特性を備えている可能性もある。」
ＩＴ起業研究所ITInvC代表 小松仁