AIによる情報制御から「デジタル流刑」へ
――「遮断・中和・修復」から考える、情報社会の権力構造
AIについて語るとき、私たちは「AIが人間より賢くなるのか」「AIが仕事を奪うのか」「AIは便利なのか危険なのか」といった問いから入りがちです。
しかし、本当に深く考えなければならないのは、AIそのものの知能だけではありません。
むしろ重要なのは、
AIが社会の情報構造を理解し、予測し、介入できるようになったとき、社会そのものがどのように変化するのか。
という問題です。
特に、深層学習やグラフニューラルネットワーク（GNN）のような技術を考えると、この問題はさらに複雑になります。
従来のコンピューターは、基本的に「入力されたデータを処理して答えを出す」ものでした。
しかし、AIは大量のデータの中から、人間には見えにくい「パターン」「関係」「相関」「異常」を見つけることができます。
そしてGNNのようなネットワーク型の機械学習では、個々のデータだけではなく、
「誰と誰がつながっているのか」 「どの情報がどこへ伝わったのか」 「どのノードが他のノードに影響を与えたのか」
といった「関係性」そのものを分析対象にできます。
実際、誤情報の検出研究でも、情報の内容だけではなく、社会的な文脈や情報の伝播構造をグラフとして扱う手法が研究されています。(
arXiv
)
ここから、情報制御の構造を一つの理論モデルとして考えてみます。
その基本形は、
第一段階――遮断 第二段階――中和 第三段階――修復
です。
しかし、本当に重要なのは、この三段階だけではありません。
その先には、
第四段階――社会インフラとの接続
という問題があります。
そして最後に、
第五段階――そのシステムを誰が制御するのか
という、最も根本的な権力の問題が現れます。
第一章 AIは「情報」を読むだけではなく、「情報の流れ」を読む
1．従来型の情報管理
まず、従来の情報フィルタリングを考えてみましょう。
SNS上に一つの投稿があったとします。
システムは、
「この文章には禁止語があるか」
「暴力的な表現があるか」
「虚偽の可能性があるか」
「著作権侵害の可能性があるか」
といった基準で、その投稿そのものを判定します。
つまり、中心にあるのは、
「この情報は何なのか」
という問いです。
ところが、AIがネットワーク全体を見るようになると、問いが変わります。
「この情報は、誰によって、どこから、どこへ、どの速度で、どのようなネットワークを通って広がっているのか」
です。
ここに大きな変化があります。
第二章 情報は「文章」ではなく「ネットワーク上を移動する信号」になる
1．人間関係そのものがデータになる
たとえば、ある投稿が最初に1人のユーザーによって発信されたとします。
その投稿が、
A → B → C → D → E
と広がっていく。
さらに別のルート、
A → F → G → H
にも広がる。
さらに、
C → J → K → L
という新しいコミュニティへも伝播する。
ここで重要なのは、「投稿A」だけではありません。
AIが見るのは、
Aからどの方向へ情報が流れたのか
です。
つまり、
「何を言ったか」
だけではなく、
「誰が誰に影響を与えたのか」
が重要なデータになります。
2．ハブという存在
ネットワークには、非常に多くの接続を持つ「ハブ」が存在します。
ハブは、必ずしも最も有名な人ではありません。
フォロワー数が最も多いとも限りません。
むしろ重要なのは、
「その人の情報が、他のネットワークへ渡る際の中継点になっているか」
です。
たとえば、一つの小さなコミュニティの中で極めて信頼されている人物が、別のコミュニティへの「橋」になっている場合があります。
その人が一つの情報を共有すると、その情報は別の社会集団へ一気に移動します。
したがって、ネットワーク分析では、
フォロワー数
よりも、
ネットワーク上での位置
が重要になる場合があります。
ここまで来ると、AIは単純なコンテンツ監視システムではなくなります。
それは、
社会関係の構造そのものを理解するシステム
へ近づいていきます。
第三章 第一段階「遮断」
――火災が広がる前に、燃料と経路を断つ
情報拡散を火災にたとえると分かりやすくなります。
森林火災が発生したとき、消防が一番最初に考えるのは、
「火そのものを全部消せるか」
ではありません。
それより重要なのは、
「どこからどこへ火が広がるのか」
です。
風向きが分かれば延焼方向が予測できます。
燃えやすい場所が分かれば、防火帯を作ることができます。
危険地域を隔離することもできます。
情報ネットワークでも、似た構造を考えることができます。
AIが、
-
異常な拡散速度
-
異常な接続パターン
-
短時間での大量共有
-
自動化されたアカウント群
-
特定コミュニティへの急速な侵入
-
多数のユーザーを経由した連鎖的拡散
などを検知した場合、
理論上はその伝播経路に介入することが考えられます。
たとえば、
拡散速度を下げる。
一部のアカウントを隔離する。
特定の通信経路を制限する。
異常な拡散パターンに対して追加確認を要求する。
といった手段です。
ここで重要なのは、
遮断とは「人間を罰すること」ではなく、「情報の伝播速度を制御すること」と定義できる
という点です。
これは非常に大きな違いです。
しかし、ここに最初の危険が生まれます。
なぜなら、
何を「危険な情報」と定義するのか
という問題が残るからです。
第四章 「危険な情報」は誰が決めるのか
たとえば、
「この情報は明らかな詐欺だ」
という判断は比較的分かりやすい場合があります。
しかし、
「この情報は社会不安を引き起こす」
となると話が変わります。
さらに、
「この情報は国家の安全を脅かす」
となれば、政治的判断が入ってきます。
そして、
「この意見は社会に有害である」
となった瞬間、AIは単なる事実判定から、
価値判断
へ踏み込むことになります。
この境界は極めて重要です。
なぜなら、
「有害な情報を防ぐ」という目的は、非常に簡単に「都合の悪い意見を抑える」という目的へ変わり得る
からです。
だからこそ、情報制御について考えるときには、
AIの精度
だけでは不十分です。
必要なのは、
「何を基準に判定したのか」
というルールの透明性です。
第五章 第二段階「中和」
――削除するだけでは、人間の記憶は消えない
仮にAIが誤情報の拡散を止めたとしても、それで問題が解決するわけではありません。
なぜなら、人間は一度見た情報を完全には忘れないからです。
たとえばSNSで、
「危険な食品が流通している」
というデマを見たとします。
後になって、
「これは誤情報でした」
と訂正されても、
最初の印象だけが残ることがあります。
これは人間の認知の問題です。
つまり、
情報を削除すること
と、
認識を修正すること
は別問題です。
だから第二段階として、「中和」という考え方が出てきます。
第六章 ノイズキャンセリングという比喩
アクティブ・ノイズキャンセリングは、外部の音を単純に削除するものではありません。
周囲の音を検知し、それに対応する信号を生成することで、聞こえるノイズを低減します。
情報空間でも、これと似た発想を比喩として考えることができます。
誤情報をただ削除するのではなく、
検証可能な一次情報 信頼できる情報源 データの出典 反対側の証拠 背景情報 不確実性の説明
を同時に提示する。
つまり、
「偽情報を減らす」のではなく、「真実にアクセスできる情報を増やす」
という考え方です。
ここで言う「真・善・美」は、AIが人間に道徳を押し付けるという意味ではありません。
むしろ、
真――検証できること。
善――他者への不必要な損害を抑えること。
美――対立を煽るだけではなく、理解と対話を可能にすること。
という情報環境上の理想概念として扱うことができます。
第七章 しかし「中和」には危険な側面もある
ここで、さらに一歩深く考える必要があります。
誰かが、
「私はこの情報を正しいと思う」
と言ったとします。
別の人間が、
「いや、それは間違っている」
と言います。
ではAIは、
どちらに「+1」を与えるのか。
ここが最大の問題です。
もしAIが「正しい情報」を自動的に定義して、反対側の情報を押し下げるなら、それは「中和」ではありません。
それは、
「認知空間の編集」
になります。
つまり、
誰が真実を決めるのか
という問題が、AIの内部に入り込むのです。
ここから、情報制御は急速に政治哲学の問題へ変化します。
第八章 第三段階「修復」
――問題を止めるだけではなく、問題を生む構造を探す
次の段階は「修復」です。
誤情報が発生する。
AIが検知する。
AIが遮断する。
AIが中和する。
しかし、数日後には別の誤情報が発生する。
このサイクルを繰り返している限り、AIは永遠に「問題の後を追う」だけです。
そこで重要になるのが、
「なぜ、この問題は繰り返し発生するのか」
という問いです。
第九章 「犯人探し」ではなく「原因構造」を探す
ここで注意しなければならないのは、
「最初に投稿した人間を見つければ終わり」
ではないことです。
一つの社会問題を、一人の人間だけで説明することはできません。
たとえば、誤情報が広がった背景には、
-
注目を集めることで利益が得られる仕組み
-
SNSの推薦アルゴリズム
-
感情的な情報ほど共有されやすい構造
-
メディアへの不信
-
社会的分断
-
偏ったデータ
-
集団心理
などが存在しているかもしれません。
つまり、
投稿そのものが「原因」なのではなく、投稿が成功してしまう環境そのものが原因
である可能性があります。
だから「修復」とは、
問題の投稿を削除することではありません。
本当の修復とは、
同じタイプの問題が何度も生まれる条件を取り除くこと
です。
第十章 ここでAIの役割が「予測」から「介入」へ変わる
AIが単に、
「これは危険かもしれない」
と予測しているだけなら、それは分析です。
しかし、
「危険だから、この人の投稿を遅らせよう」
「このアカウントの接続を制限しよう」
「この情報を検索結果から外そう」
となれば、
それはすでに介入です。
そして、
予測から介入へ移った瞬間、AIは社会的権力を持ち始めます。
ここが非常に重要です。
AIの能力が高度になること自体が問題なのではありません。
問題は、
AIの予測結果が、そのまま現実の人間の行動可能性を制限するようになること
です。
第十一章 第四段階――デジタルIDと社会インフラへの接続
そして、ここから問題がさらに深くなります。
AIによる情報管理がSNSの内部だけで完結しているなら、影響はまだ限定的です。
しかし、その判断が、
デジタルID
と結びついたらどうなるでしょうか。
さらに、
銀行口座
クレジットカード
交通チケット
通信サービス
行政サービス
公共施設
などと接続したらどうなるでしょうか。
すると、
「この人は何を投稿したのか」
という問題が、
「この人は社会のどのサービスを利用できるのか」
という問題に変わります。
ここには決定的な違いがあります。
情報を見ることを制限するのと、
社会に参加する能力を制限すること
は、同じではありません。
第十二章 なぜデジタル社会では「アクセス」が生存能力になるのか
現代人の生活を考えてみましょう。
銀行口座がなければ、
家賃を払えません。
給与を受け取ることも難しくなります。
オンライン決済もできません。
交通サービスにアクセスできなければ、
仕事に行くことも難しくなります。
本人確認ができなければ、
新しいサービスを契約できない場合があります。
通信が止まれば、
仕事、教育、人間関係、行政手続きにまで影響が及びます。
つまり、デジタル社会では、
「アクセス権」そのものが社会参加権に近い意味を持つ
ようになります。
そして、ここに「デジタル流刑」という概念が登場します。
第十三章 「デジタル流刑」とは何か
昔の流刑は、
身体を社会から追放すること
でした。
しかし、デジタル社会では、身体を物理的に追い出す必要がないかもしれません。
本人は自宅にいる。
外に出ることもできる。
逮捕されているわけでもない。
しかし、
口座が使えない。
決済ができない。
必要な交通サービスが利用できない。
通信ができない。
オンラインサービスへアクセスできない。
そうなると、その人は現代社会の中で急速に「孤立」していきます。
これが、ここでいう「デジタル流刑」の核心です。
つまり、
身体は自由なのに、社会参加のためのデジタル経路だけが閉ざされる。
第十四章 中国の事例――デジタル化された司法執行
ここでは現実の制度を見てみましょう。
中国には、いわゆる「失信被執行人」制度があります。
これは、裁判所の確定した義務を履行しないなど、一定の法的要件を満たした執行対象者について、信用上の懲戒措置を行う仕組みです。
中国最高人民法院の規定では、一定の条件を満たした対象者について、高額消費や一定の交通機関・座席の利用などを制限する仕組みが定められています。たとえば、G字頭高速鉄道の全席、その他の動車組列車の一等席以上などが対象となり得ます。(
最高人民法院
)
また、最高人民法院は、対象者の情報が金融機関や交通機関などと連携し、信用懲戒を行う仕組みについても説明しています。(
最高人民法院
)
ここで注目すべきなのは、
「中国は怖い」
という単純な評価ではありません。
むしろ技術的・制度的に重要なのは、
司法上の判断が、デジタル化された社会インフラを通じて、現実の行動制限へ高速に変換される
という構造です。
これは中国に限った問題ではありません。
デジタル化が進む社会では、どの国でも、
「ある判定」 ↓ 「データベースへの登録」 ↓ 「複数機関との連携」 ↓ 「自動または半自動的な制限」
という構造を構築することが可能になります。
そして、ここで重要なのは、「自動化されているから怖い」のではありません。
本当の問題は、
その登録が間違っていた場合、誰が、どのように、それを取り消せるのか
です。
第十五章 中国の事例が示す、より深い問題
デジタル化された司法執行には、明確な利点もあります。
司法判断を実際に執行しやすくする。
債務者の資産逃避を防ぐ。
裁判の実効性を高める。
この目的自体は、法治社会において理解可能です。
しかし、デジタル化が進めば進むほど、
一つの情報が複数のシステムへ広がる速度
も増していきます。
その結果、
「一つの誤登録」が「複数のサービスへの連鎖的な影響」に変わる
可能性があります。
ここで重要になるのは、AIそのものよりも、
データベース同士の接続性
です。
つまり、
危険なのはAI単体ではなく、AI＋ID＋データベース＋社会インフラの統合
なのです。
第十六章 カナダ2022年――金融インフラが政策実行手段になった事例
もう一つ興味深い事例が、2022年のカナダにおける「Freedom Convoy（フリーダム・コンボイ）」です。
2022年2月14日、カナダ政府は《Emergencies Act（緊急事態法）》に基づき、公序に関する緊急事態を宣言しました。政府の説明では、同法の発動は全国的な封鎖やオタワ占拠などへの対応として行われ、金融面の措置もその一環として導入されました。(
Ministère de la Justice
)
この措置には、クラウドファンディング・プラットフォームや決済サービス提供者をマネーロンダリング対策・テロ資金供与対策の枠組みに含め、疑わしい取引などに関する報告義務を拡大することも含まれていました。暗号資産を含む取引も対象に含まれていました。(
加拿大政府
)
また、政府関係者は金融機関と法執行機関の間で情報共有を行い、対象となる資金や金融サービスへの措置が取られていると説明していました。(
加拿大政府
)
その後の公的調査委員会の報告書では、Freedom Convoy関連の資金について、GoFundMeには約13万3,836人の寄付者が存在し、約1,006万カナダドルが集められていたことなどが記録されています。(
publicorderemergencycommission.ca
)
さらに同委員会は、資産凍結措置の主な目的を、違法な抗議活動の現場に留まることを抑制することと、新たな資金が参加者に流れることを防ぐこととして整理しています。(
publicorderemergencycommission.ca
)
ここで議論したいのは、
「カナダ政府は正しかったのか」
という単純な政治評価ではありません。
もっと重要なのは、
高度にデジタル化された金融システムは、公共政策を実行するための非常に強力なインフラにもなり得る
という点です。
第十七章 銀行口座は「お金の保管場所」ではない
現代社会において、銀行口座は単なる財布ではありません。
銀行口座は、
給与を受け取る場所
であり、
家賃を支払う場所
であり、
電気・通信料金を支払う場所
であり、
食料や生活用品を購入する手段
です。
つまり、
金融アクセスは、現代社会へのアクセスそのものに近づいている
のです。
したがって、ある人の金融アクセスを停止することは、単純に「お金を止める」という意味を超える可能性があります。
社会参加能力そのものへ影響するからです。
第十八章 ここで見えてくる「情報→ID→金融」という一本の線
ここまでの話をつなげてみましょう。
最初は、
①情報を見る。
次に、
②その情報を評価する。
次に、
③その人の情報行動を分析する。
次に、
④その人物をデジタルIDに結び付ける。
さらに、
⑤そのIDを金融・交通・通信などの社会インフラに接続する。
すると、
⑥情報上の評価が、現実世界のアクセス権へ影響する。
ここまで来ると、最初の「SNSの投稿」は、もはや単なるSNSの投稿ではありません。
その一つの情報が、
本人の評価
と結びつき、
さらに、
社会参加能力
と結びつく可能性があります。
これこそが、最も注意しなければならないポイントです。
第十九章 「情報を消す」ことと「人間を消す」ことの距離が縮まる
もちろん、現実にはこの間に多くの法律、制度、審査、行政手続きが存在します。
だから、
「AIが投稿を一つ削除したら、その人の銀行口座が消える」
というような単純な話ではありません。
しかし、技術が発展し、社会インフラが相互接続されていくほど、
情報上の評価
と
現実世界の処遇
の距離は短くなり得ます。
この距離を慎重に監視しなければなりません。
なぜなら、
誤情報の削除
と
社会的排除
は、本来まったく別のレベルの措置だからです。
ところが、両者が同じIDシステムとデータ基盤の上に乗ると、その境界が曖昧になる可能性があります。
第二十章 最も重要な問題――「スコア化」
ここで、さらに一歩深く進みます。
デジタル社会において、人間の行動はますますデータ化されています。
検索履歴。
購入履歴。
位置情報。
SNS上の行動。
移動履歴。
金融取引。
人間関係。
オンライン上の発言。
これらは単独では意味を持たないデータかもしれません。
しかしAIがこれらを統合すると、
「この人はどのような人物なのか」
という推定が可能になります。
つまり、
人間がデータになる
のです。
そしてデータ化された人間は、
分類
できます。
分類された人間は、
スコア化
できます。
スコア化された人間は、
予測
できます。
予測された人間には、
介入
できます。
ここに、
データ化 → 分類 → スコア化 → 予測 → 介入
という新しい権力の流れが生まれます。
第二十一章 問題は「AIが間違える」だけではない
もちろん、AIの誤判定は重大な問題です。
しかし、もっと深刻なのは、
AIが正確だったとしても、その使い方が人間にとって危険になる可能性がある
ということです。
たとえば、
AIが「この人物は将来的に危険な行動をする確率が高い」と予測したとします。
しかし、その人はまだ何もしていません。
つまり、
実際の行動
ではなく、
予測された未来
に対して制限をかけることになります。
ここでは、法治社会の基本的な考え方である、
「何をしたのか」と「何をするかもしれない」を区別する
という原則が重要になります。
AIによる予測が正確になればなるほど、
「まだ何もしていない人間を、予測だけでどこまで制限してよいのか」
という難問が浮かび上がります。
第二十二章 「犯罪予測」から「思想予測」へ進んだらどうなるのか
さらに危険なケースを考えてみましょう。
「この人物は犯罪を起こす可能性が高い」
という予測ですら難しい問題ですが、
もし、
「この人物は社会に不満を持っている」
「この人物は政府への信頼が低い」
「この人物は特定の思想に近い」
「この人物は社会運動に参加する可能性が高い」
といったところまでAIが推定し始めたらどうでしょうか。
ここでは、
行動の分析
から
内面の推定
へと移っています。
そして内面の推定は、行動よりはるかに危険です。
なぜなら、
人間には、考える自由がある
からです。
行動を規制する社会と、
思考そのものを評価する社会では、
民主社会としての意味が大きく異なります。
第二十三章 だから「情報隠蔽」は非常に危険なのです
ここで、最初の問題に戻ります。
なぜ「情報隠蔽の怖さ」を知ってもらう必要があるのか。
それは、情報隠蔽が単に、
「情報が見えなくなる」
という問題ではないからです。
情報が隠されると、
人間は比較できなくなります。
比較できなくなると、
検証できなくなります。
検証できなくなると、
判断できなくなります。
判断できなくなると、
異議を申し立てることが難しくなります。
そして異議を申し立てられなくなると、
権力の側が、自分の判断を「唯一の正解」として固定できるようになる
危険があります。
だからこそ、
情報の透明性
は、単なるジャーナリズムの問題ではありません。
それは、
権力を監視するための基盤
です。
第二十四章 透明性とは「全部公開すること」ではない
もちろん、透明性とは「すべての情報を全員に公開すること」ではありません。
個人情報や医療情報、セキュリティ情報など、保護すべき情報も存在します。
重要なのは、
権力が人間を評価するとき、その評価の根拠が検証可能であること
です。
たとえば、
「あなたは危険人物として分類されました」
と言われたとします。
ならば、
なぜなのか。
どのデータが使われたのか。
どの基準で判定されたのか。
いつまで有効なのか。
誤りならどう訂正できるのか。
を知る権利が必要になります。
これがなければ、
デジタルシステムは巨大な「ブラックボックス」になります。
第二十五章 最も怖いのは「悪いAI」ではない
多くの人は、
「AIが暴走したらどうするのか」
と考えます。
しかし、本当の意味で恐ろしいのは、AIが暴走することだけではありません。
もっと現実的な危険があります。
AIが正常に動いているのに、社会が危険な方向へ進むことです。
AIが設計された通りに人間を分類する。
AIが設計された通りに情報を順位付けする。
AIが設計された通りに危険度を算出する。
AIが設計された通りにアカウントを制限する。
AIが設計された通りに金融機関へ通知する。
AIが設計された通りに公共サービスのアクセスを変更する。
つまり、
「AIの暴走」ではなく、「AIの正常運転による社会的な過集中」
の方が、現実には重要かもしれません。
第二十六章 AIに「善悪」を決めさせてはいけない理由
AIは、
「このデータではAの確率が高い」
という計算を得意とします。
しかし、
「Aは正しいのか」
という問いは別問題です。
さらに、
「Aを社会に強制してよいのか」
は、さらに別の問題です。
つまり、
予測
と
倫理
は違います。
効率
と
正当性
も違います。
正確性
と
正義
も違います。
ここを混同してはいけません。
AIが99.9％の精度を持っていたとしても、
その99.9％が「誰を制限するべきか」という価値判断に使われるのであれば、
私たちはその判断基準自体を議論しなければなりません。
第二十七章 だから必要なのは「AIを止める社会」
私は、ここに一つの重要な原則があると思います。
それは、
「AIに何をさせるか」だけではなく、「AIに何をさせてはいけないか」を明確にすること
です。
AIに情報を分析させる。
これは可能です。
AIに異常を検知させる。
これも可能です。
AIに危険を予測させる。
それも可能です。
しかし、
AIの判断だけで、人間の社会参加権を停止する。
これは別問題です。
重大な権利制限には、
人間による再審査
が必要です。
誤判定には、
異議申し立て
が必要です。
システムには、
独立した監査
が必要です。
さらに、
停止装置
が必要です。
第二十八章 必要なのは「止めるAI」ではなく「止められるAI」
AIが社会に深く入り込めば入り込むほど、
「何ができるか」
より、
「誰が止められるか」
が重要になります。
AIの能力を高める。
これは技術者の仕事です。
AIのルールを決める。
これは社会の仕事です。
AIを監査する。
これは制度の仕事です。
AIの判断に異議を申し立てる。
これは市民の権利です。
そして、
AIを停止できる仕組みを持つ。
これは社会そのものの安全装置です。
第二十九章 情報社会の「第四の原則」
ここまでの三段階は、
遮断 中和 修復
でした。
しかし、それだけでは不十分です。
第四段階として、
監査
が必要です。
誰がシステムを作ったのか。
誰がルールを決めたのか。
誰がデータを持っているのか。
誰がモデルを変更できるのか。
誰が停止権限を持つのか。
誰が結果を検証するのか。
誰が責任を取るのか。
この構造が公開されていなければなりません。
第三十章 そして第五の原則――「分散」
もう一つ重要なのが、
権力の分散
です。
一つの組織が、
本人確認
通信
金融
交通
行政
情報配信
のすべてを支配する状態は、非常に強力です。
便利である一方、
一つの判断が社会全体へ一気に波及する
可能性があるからです。
だからこそ、
複数の組織
複数の監査機関
司法
市民社会
独立した第三者
などによって権力を分散させる必要があります。
これはAI時代における「新しい三権分立」に近い考え方として捉えることもできます。
第三十一章 最後に守るべきものは「異議を唱える権利」
ここまで話を深めると、最後に一つの結論が見えてきます。
私たちが守るべきなのは、
単に「プライバシー」だけではありません。
本当に守らなければならないのは、
異論を述べる自由
です。
間違う自由
です。
疑う自由
です。
質問する自由
です。
多数派と違う意見を持つ自由
です。
そして、
一度システムから誤って評価されたとしても、やり直す自由
です。
なぜなら、
人間社会において「間違いを訂正できること」は、「自由であること」の重要な条件だからです。
結論
AIが怖いのではない。「AIを使って何を決めるのか」が怖い
AIは、これからさらに賢くなっていくでしょう。
情報の分析能力は向上するでしょう。
ネットワークの把握能力も向上するでしょう。
人間の行動予測も、今より高精度になるでしょう。
そして、さまざまな社会インフラがデジタル化されていくでしょう。
これ自体は、必ずしも悪いことではありません。
むしろ、多くの問題を解決する可能性があります。
しかし、その力が一つのシステムに集中したとき、別の問題が生まれます。
それは、
「そのシステムに逆らうことができるのか」
という問題です。
AIが情報を識別する。
それ自体は問題ではない。
AIが情報の拡散を分析する。
それも必ずしも問題ではない。
AIが危険な情報を検知する。
それも社会に役立つでしょう。
しかし、
その判定がデジタルIDと結びつき、
デジタルIDが金融・交通・通信と結びつき、
そして、それらすべてが一つの意思決定システムによって制御される
ところまで進んだなら、話は変わります。
そのとき私たちが直面するのは、
「AIは賢いか」
という問題ではありません。
それは、
「誰が社会へのアクセスを決めるのか」
という問題です。
そして、それこそが「デジタル流刑」という概念の核心です。
昔は、身体を拘束すれば人間を社会から隔離できました。
しかしデジタル社会では、
アクセスを制限するだけで、社会から隔離できる可能性があります。
だから私たちは、
AIを怖がるだけでもいけない。
AIを無条件に信じるのもいけない。
必要なのは、
AIを使いながら、同時にAIを制御する社会
です。
AIには、
遮断する力
だけではなく、
中和する力
も与えられるでしょう。
そして、
修復する力
も持つかもしれません。
しかし、人間社会にはさらに一つ、
「制御する側を制御する力」
が必要です。
透明性。
説明責任。
監査。
異議申し立て。
司法的救済。
権力分散。
そして、停止可能性。
この最後の安全装置が失われたとき、AIは単なる便利な道具ではなくなります。
それは、
人間社会の構造そのものを決定する装置
になります。
そして、そこまで来たときに最も重要な問いは、
「AIは人間より賢いのか」
ではありません。
もっと根本的な問いです。
「AIが決めたことに対して、私たちは『違う』と言えるのか。」
「間違っていると証明されたとき、その決定を取り消せるのか。」
「システムから排除された人間が、もう一度社会へ戻る道は残されているのか。」
そして最後に、
「誰も止められないシステムを、私たちは作ってはいけない。」
これが、AI時代における最も重要な原則の一つなのではないでしょうか。
AIに必要なのは、究極の支配力ではありません。
社会に必要なのは、
「どれほど強力なAIであっても、人間がそれを止められること」
なのです。
