過去を極めることについて
2024年6月18日
FRONTNIEUWS
「過去を制するものは未来を制する」と書いたジョージ・オーウェルの言葉は正しかった。人工知能技術の目覚ましい進歩は、彼の正しさを証明しているように思える。しかし、あまり引用されることのない彼の先見の明の残りの部分、すなわち「現在を支配する者は過去を支配する」という言葉の正確性もまた確認された。スティーヴン・カルガノヴィッチによれば、それもまた確かなことのようだ。
人工知能は、その影響を完全に評価するのはまだ早いとしても、当然のことながら大きな論争の的となっている。しかし、人工知能の利用がもたらす問題点、なかには極悪非道とさえ言うべき側面は、日に日に明らかになりつつある。
人工知能に関する最大の懸念のひとつは、人間に取って代わり、永続的に従属させようとする姿勢である。もうひとつの懸念は、労働者に対する危険である。人間の労働者が賃金のために行っていた行為が、人工知能（AI）と呼ばれるようになった存在によって、最小限のコストで、あるいはまったくコストをかけずに行えることが雇用主によって発見されれば、彼らの仕事はほとんど余剰となり、収入は減少または消滅するだろう。
AIの野放図な普及が人類を未知の海へと導いているのは明らかだ。それを示す奇妙な例として、最近、米国ワイオミング州のシャイアン市長選にAIが立候補したことが挙げられる。善良で保守的なはずのシャイアンの人々が、投票する資格のある人間の候補者がいないのであれば、幸運としか言いようがない。
これは、潜在的なAIの応用に無批判に関与する前に、常識的に細心の注意を払うべきレベルのひとつに過ぎない。しかし、インターネット上ではもうひとつ、より不吉なアプリケーションが出現しつつある。先ほどの例とは異なり、少なくとも娯楽的なものではなく、警戒と強い懸念を引き起こすものだ。
それは「ディープ・フェイク」の台頭である。現実を見事に歪曲し、最も洗練された科学捜査ツールでさえ、ましてや訓練を受けていない人間の能力では、そのデマを見破ることはほとんど不可能である。
ディープフェイクとして知られるようになったフェイクの属性の中に、インターネット上に氾濫する特定の不吉なクラスが出現した。それは、誰かの外見を変えたり、実生活では決してしないようなことをさせたり言わせたり、信用を失墜させる目的で危うい状況に陥らせたりするような、通常の迷惑行為には関与しない。ありきたりの個人的な改ざんを生み出すのではなく、それとは比べものにならないほど有害なことをするのだ。事実と虚構、真実と虚偽の区別をなくすことで、歴史的記録を意図的に改ざんするのだ。理論的には起こりえたが実際には起こらなかった出来事を捏造することで、無知で騙されやすい人々を惑わすのだ。
ドイツ内戦が勃発したとされるCBSのフェイクニュース「1963年10月」はその好例だ。すべてが印象的なほどリアルだが、これは偽の歴史であり、捏造の塊である。伝説的なCBS放送のキャスター、ウォルター・クロンカイトが読み上げたこの「ニュース放送」の根底にあるメッセージは、ドイツは第二次世界大戦で敗北したのではなく、ヨーロッパの支配、東洋での重要な征服、アフリカ植民地の回復など、主な戦争目的を達成したというものだ。この誤ったシナリオによれば、ロシアは第二次世界大戦で敗北し、東方への撤退を余儀なくされ、おそらくはウラル山脈の反対側まで退却した。ヒトラーの死後、おそらくは自然死と思われるが、彼の副官たちの間で権力闘争が起こる。「勝利した」ドイツは、アメリカとの敵対さえ恐れる強固な核保有国として描かれている。
ヒトラーがドイツの指導者として死亡するのは1960年代初頭で、彼の逃亡劇の一説を信じるなら、南米に亡命して死亡するはずの時期である。歴史家のために、1964年の架空のドイツ内戦について詳しく説明しよう。
筆者は、ウォルター・クロンカイトがアメリカで「最も信頼されるジャーナリスト」として影響力の絶頂にあった1960年代のCBSのニュース番組を思い出す。現代史に精通しているだけでなく、クロンカイトの風貌や話し方、独特の声の音色も覚えている。そうしたすべての点で、この偽のビデオクリップは不穏なほどリアルである。このクリップや他のクリップがまだ持っているかもしれない欠点は、人工知能技術のさらなる向上によってうまく解決されるだろう。
しかし、歴史的事実の知識に基づいて、この贋作を見分けられる20歳の若者が今どれだけいるだろうか？あるいは大人でさえも？視聴者のコメントを見ると、このフェイクニュースに感動したことを認め、何十年も前に放送されたとされるものを見たことを覚えていると主張する人さえかなりいる。しかし、もちろんそれは全くのナンセンスだ。集団思考による偽の記憶である。集団形成とは、ベルギーの心理学者マティアス・デスメットの呼び名である。彼らは1960年代にこれを見ていたはずがない。人工知能に従ってクロンカイトが発表しているように見える出来事は、現実には起こっていないし、実際、彼はそれを報道していない。
前回のフェイク報道のテーマを踏まえ、AIによって生成されたフェイク・クロンカイトは、別のフェイク・ニュース放送で、架空の将軍に率いられた敗北したロシア軍が復活し、ドイツ領内に侵攻していると報告する。フィルムの映像では、不吉な響きを持つ「国民再生政府」の復活したロシア軍が、核兵器を装備し、ロシアが主張する西側の地域を占領しようとしている。低迷していたロシアが、改革派の新政府のもとでかつての力を取り戻し、西側諸国の資産を取り戻そうとしている--これは、ある時事問題を暗示する予言的なプログラムなのだろうか？
繰り返すが、この架空のシナリオの荒唐無稽さは、すべての視聴者にすぐには理解されなかった。どうやら、再び誤った記憶を呼び起こしたようだ。ある視聴者はこう書いている。高校を卒業する直前だった。怖かった。終わってよかった。
しかし、これはもちろんナンセンスだ。彼は覚えているはずがない。
このような捏造が横行する対象は、決してドイツとロシアだけではない。悪意を持って書き換えられた歴史の範囲は広大であり、その行く手にあるものすべてが無慈悲に歪められ、改ざんされる。ここでは、モンゴメリー元帥が第二次世界大戦末期に連合国の枢軸国への降伏を痛烈に宣言し、レーガン大統領がアメリカを解散させ、イタリア・トルコ戦争さえもこれらの歴史的茶番劇に登場する。
このようなリアルな歴史の歪曲を、無害な娯楽として片付けるのは重大な誤りである。それは、人間の精神の高潔さに対する攻撃なのだ。このような残酷な過去の再現は、意識を再構成し、現在を生きる人々の認識に焦点を合わせる役割を果たす。
直接的な体験から、あるいは幸運にも受けた確かな教育の助けを借りて、こうした虚偽を見抜くことができるかもしれない高齢者世代の層は、急速に薄くなりつつある。次世代への伝統的な文化継承の仕組みは、事実上封鎖されている。意図的に無学で無知に育てられ、たまたま触れたナンセンスなあれこれに危険なほど弱い立場に置かれた、操られやすい子孫たちの空虚さと知的無力さを打ち消す手段は、今日ではほとんどない。
本ではなく、ビデオゲームやiPhoneが当たり前の環境であるこの哀れなまでに失われた若者たちの中に、人工知能の見えざる支配者が彼らの注意をそらし、奴隷にするために決めた、粗雑に書き換えられた歴史を含む嘘を見抜き、反論するために必要な事実や論拠を集めることができる者がいるだろうか？