米国のドナルド・トランプ政権が提唱する「正当な戦争（正義の戦争）」という概念は「時代遅れ」であると一蹴し「人類は暴力的な権力文化へと滑り落ちつつある」と強い危機感を示した。
また、急速に発展する人工知能（AI）技術がもたらす倫理的課題にも触れ、AIの「武装解除」と「人間中心の技術への転換」を求めた。
教皇は、地政学的・商業的な覇権争いを背景とした「より強力なアルゴリズムや膨大なデータセットの開発競争」に警鐘を鳴らし、技術が解放をもたらす一方で、コンテンツモデレーターや採掘労働者などの「新たな形態の奴隷制」を生み出していると指摘。
また「技術が地球規模の従属関係を生むのであれば、それは人間の尊厳という根本原則に矛盾する。新たな奴隷制との戦いこそが、AIの倫理的見極めの決定的な試金石だ」として、国際的な規制強化を強く呼びかけた。
AIや大規模な自動化、急速な技術進歩によって現代版の「バベルの塔」が建設されていると警告し、強欲や不道徳、人間の生命に対する敬意の欠如などによって特徴づけられる、黙示録的な世界観を共有した。
レオ14世は25日、『マニフィカ・フマニタス（壮大なる人類）』と題された83ページの回勅を発表し、資本主義、反移民政策、そして人間がもつ技術的な野心についての見解を述べた。この回勅はすでに、ここ数十年で最も勇敢な意見の1つであるとの評価を集めている。
回勅の大部分ではAIの急速な進歩と社会実装に焦点が当てられており、テック企業が政府よりも強大な権力を持ちつつあるとの見方が示されている。また、AI経済は奴隷制社会に類似しており、「2級の人間」を生み出すことになるだろうとの警告もなされた。
レオ14世は、新たな「バベルの塔」が建設されるリスクを示唆することで、最も重大な警告を発した。旧約聖書に登場するバベルの塔は、天まで届く塔を建てようとした人間の傲慢さと度を越した野心を阻止するため、神が1つの言語によって結束していた人間の言葉を混乱させ、互いに意思疎通ができないようにして団結を挫いたという物語だ。
人類が築きあげようとしているのは長期にわたって人間の管理下に置くことが不可能なシステムであり、最終的にはそれによって貧困層とエリート層との格差が広がり、互いの共感が損なわれ、人間の価値そのものに格差が生まれることになると教皇は指摘している。
その他にも、レオ14世は反移民政策に対する厳しい非難を表明し、現代の資本主義を痛烈に批判したほか、環境破壊は貧困層に対する道徳的な犯罪であると示唆した。
■現代版「バベルの塔」
テクノロジーが発展し続ける中、教皇は人類が「新たなバベルの塔を建設するか、あるいは神と人類がともに暮らす都市を築くか」の選択を迫られていると述べた。聖書で語られるバベルの塔の物語は、神と肩を並べる都市を築こうとする人間の試みを伝えている。
「都市が傲慢さと自己完結の主張の上に築かれるとき、コミュニケーションは崩壊し、言語は混乱して人々はもはやお互いを理解できなくなる。その結果は団結ではなく、離散である。バベルの塔の物語はしたがって、どれほど壮大であっても、自己肯定から生じ、効率性のために人間の尊厳を犠牲にし、神の祝福なしに天に届こうとするあらゆる試みの限界を明らかにしている」とレオ14世は述べる。
「そうであれば、我々は『バベル症候群』、すなわち、弱者を犠牲にすることによって生まれる利益とそれぞれの違いを無くす画一性への傾倒、そして、たとえそれがデジタルな言語であっても、単一の言語が個人の神秘を含むすべてをデータやパフォーマンスに変換できるという思い込みを避けなければならない。今日ではそれは技術的な装いをまとっているものの、人間性を奪う危険性、つまり、神を排除し、他者を手段として利用するような未来を構想する危険性は、古く、かつ常に新しい誘惑なのである」
■究極の監視と「2級の人間」
回勅では、技術の進歩がまもなく人間の自由を損なう恐れがあるとも警告されている。
教皇は次のように記している。「目には見えにくいが、同様に重大な他のリスクは、大量のデータ収集とアルゴリズムによって可能となる社会統制だ。移動、購買、人間関係、好みなど、人のあらゆる行動がその痕跡を残すとき、新たなかたちの権力が生まれる。すなわち、個人の人物像を描き出し、行動を予測し、その行動に影響を与える権力であり、多くの場合、本人がそれを自覚することはない」
「デジタル時代における自由は、単に内面の問題にとどまらず、公共の関心事でもある。（中略）これらの問題の根底には、人間を操作されるべき対象や最適化されるべき資源とみなす傾向があり、歯止めのない利益追求に対するあらゆる安全策を取り払ってしまう、技術官僚（テクノクラート）主義や、脱人間主義（ポストヒューマニズム）的な思想がある。そうした考え方において優勢となるのは、自由や人間の尊厳への敬意ではなく、効率性だ。一部のポストヒューマニズム的な潮流は、みずからを優れているとみなすエリート層の利益に従属する『2級の』人間の姿を描くまでに至っている」
■AIが道徳心を持つことは決してない
レオ14世は、AIを搭載した兵器の使用についても警告し、このテクノロジーによって人間が紛争の結果を管理しきれなくなる懸念を示した。
教皇は次のように述べた。「これは、武力行使は正当防衛における「最後の手段（ラストリゾート）」であるべきだという原則に違反する。そのため、人間の尊厳と生命の神聖さへの敬意を保証し、そのような兵器の開発競争を避けるために、戦争におけるAIの開発と使用は、最も厳格な倫理的制約を受けなければならない」
「『人工道徳エージェント』という言葉が示すように、時として、まるで機械が人間よりも高い一貫性を持って善悪を区別できるかのように語られることがある。しかし、計算によって道徳的な判断を下すことはできない。なぜなら、それには良心、個人的な責任、そして他者を人間として認めることが含まれるからだ。したがって、人の生死に関わるような決定や、あるいはその他の取り返しのつかない決定を人工的なシステムに委ねることは許されない。いかなるアルゴリズムを用いたとしても、戦争が道徳的に受け入れられるようなものになることはない」
■J・R・R・トールキン『指輪物語』の一節
回勅では、J・R・R・トールキン著『指輪物語』に登場する魔法使い、ガンダルフの言葉が引用されている。
「『わしらにできるのは、この世界の潮の流れをすべて思いのままにすることではなく、ただ自分に与えられた時代の中で、苦しむ者たちを救うべく最善を尽くすことだけだ。わかっている土地の悪を根絶やしにし、後を継ぐ者たちが耕すべき清らかな大地を残せるようにね』。愛の文明は、単一の、あるいは派手なジェスチャーから生まれるのではない。非人間化に対する防波堤となる、それぞれは小さくとも揺るぎのない信義の行為が足し合わさることで生まれるのだ。だからこそ、愛の文明を築きあげる上で、私たちそれぞれがいかに協力できるのかを、立ち止まって考えてみる価値はあるだろう」
巨人軍の発表によると、阿部前監督は２５日午後６時頃、都内の自宅で姉妹がけんかを始めたため、それを止めようとした際、長女（１８）から言い返されたことに腹を立て、長女の襟元をつかみ、投げ飛ばして倒すなどの暴行を加えた。長女にけがはなかった。
長女が対話型ＡＩ「チャットＧＰＴ」に聞いたところ、児童相談所への通報を勧められたことから通報、児童相談所から連絡を受けた警視庁渋谷署が阿部前監督を現行犯逮捕した。その後、２６日未明に釈放した。阿部前監督と長女との間で過去にトラブルはなかった。
宗教的な話かと思ったら相当まっとうな見解だった。特に「テック企業が政府より力を持ちすぎてる」と「長期間管理下に置くのが不可能なシステム」というあたり。
生成AIはまだ全く安定しない事業なのに、政府も大企業も頼り始めて、テック企業や投資家にだけ富が集中している。いびつでいつ崩れてもおかしくない。生成AIを否定はしないが、本来はもっと慎重に計画を進めていくべきシステムだったと思う。
AIの決定に委ねることは、責任の放棄だと思う。
自分もAIを活用している以上、完全に否定する
ことは無いですが、教皇のおっしゃる
「人の生死に関わる選択をAIに委ねる」ことは
衰退、破滅への道に繋がっているように思う。
昔からの宗教観や風習は軽視されがちですが、
死生観だったり、人間の尊厳に関する考え方は
これからもっと大切にしていく必要があるかもしれません。