AIによる個人情報の漏洩を防ぐためにさまざまな対策が提案されている。AIに渡す情報を減らす。氏名などを伏せる。閲覧できる情報を制限する。外部に情報を送らず社内だけでAIを動かす。いずれもリスクを減らすために役立つ対策だ。しかし、現在の対策が、急速に進化するAIに対していつまでも有効だとは限らない。
別々の情報を結びつけて個人を特定したり、システムの弱点を見つけたりする能力が高まれば、これまでの対策では防ぎきれなくなる可能性がある。だからこそ、危険を感じたときにAIの利用をやめられるようにしておく必要がある。必要ならインターネットとの接続も切れるようにしておく。ただし、接続を切った途端に仕事も生活も成り立たなくなるのではその選択肢は実際には使えない。
大切なのは切った後も必要なことを続けられるようにしておくことだ。そのためには、人間による確認を待つこと、AIに任せない仕事を残しておくこと、不必要な接続を避けること、そして、人員や設備、技能を維持することが必要になる。もちろん費用も手間もかかる。効率だけを見れば無駄に思えるかもしれない。しかし、それは問題が起きたときに別の方法を選べるようにするための費用でもある。
便利さを理由に人員を減らし、設備を処分し、技能を受け継ぐ人もいなくなってしまえば、後から「危険だからやめよう」と思ってもすぐには戻れない。危険がはっきりするのを待っている間にやめる手段そのものを失うおそれがある。
使うかどうかを選べるうちはAIは便利な道具である。しかし、使わなければ生活や仕事ができなくなれば、使い続けることを自由に選んでいるとは言い難い。便利さを評価するなら、その便利さから離れられるかどうかも問わなければならない。 そして、離れるための手段は依存が深まる前に確保しておく必要がある。そのためにまず次の二つを導入や拡大の条件とすべきだ。
- 代替手段を確保するまで人員・設備・技能を廃止しない！
- 切り離して運用できることを確認するまで重要業務の接続や自動化を拡大しない！
ピダハンの世界から⑸で述べたように、我々の文明が自分の成功によって崩壊するか否かを決定する岐路に、我々は今、立っているのだ。果たして我々は二つの条件を満たすことができるだろうか？
