技術は｜両刃《もろは》の｜剣《つるぎ》です。
特に、強力な技術ほど悪用・誤用・副作用に注意が必要です。
農耕技術は、不作による｜飢饉《ききん》などの恐れを伴います。
工業技術は、資源・環境問題や核戦争の危険をもたらします。
情報技術も、電脳犯罪・デマ拡散や太陽嵐などによる障害で、
社会に甚大な被害をもたらす可能性があります。
高性能な人工知能が、悪意ある人間に利用されたり、
命令や｜資料《データ》の誤解から重要な判断を誤ったりするだけでも、
人類の危機をもたらしてしまうかもしれません。
特に、人間の知能を超えた｜汎用《はんよう》ＡＩが｜人為《じんい》的または偶発的に
無条件の自己保存｜演算指示《プログラム》を持つ〝人工生命〟となるような、
技術的暴走が起きてしまったら大変です。
『ＡＩは楽園も終末ももたらしうる』と言われるように、
使い方を誤れば人類の存続さえ危うくしうる技術なので、
あくまで最終目的は人間が決めながら良い結果を導けるよう、
その開発・利用を管理していくことが不可欠でしょう。
しかし一方、『勝てないのなら、混ざれ』（Ｅ・マスク）
ということで人間の脳と｜電算組織《コンピュータシステム》の直接的な接続を図り、
さらには人工頭脳への｜人格転移《マインドアップローディング》も考えられるなど、
人間自身が近づくことで危険を避ける発想も生まれています。
究極的には人類が人格転移でＡＩ化して、各種の人工頭脳や
機械・生物的身体の間を自由自在に乗り移れるようになれば、
神か悪魔の如き全知全能・永遠不滅の存在になり得ます。
私も連作『ルシファー』や『復活』でその設定を使いました。
もちろんそうした技術は、すぐには実現できないでしょう。
しかしいずれは遅かれ早かれ、『人間は神のようになる』
（Ｒ・カーツワイル）ともいわれます。
どうせなるなら『責任ある神々にならねばならない』
（Ｙ．Ｎ．ハラリ）ということで、
今からしっかりとした安全対策が必要です。
まず、こうした大きな技術革新の際には、
技術の健全な進歩を助ける技術的政策が不可欠です。
実は〝文明の星〟理論においては、
技術と政策が助け合う社会工学的技術と技術的政策は、
｜相方《あいかた》のどの｜経路《ルート》を助けるかによって、
さらに３つずつに分けることができます。
①共同支援ルート：
（社会に直接働きかける相方を、自分も社会の中で助ける）
経済・社会政策への組織・会計技術（会社組織や公的保険）
画期技術への｜社会工学的《ルールづくり》政策（安全団体や利用｜法規《ルール》）
②部分支援ルート：
（相方が経済・社会活動から入手できない部分を助ける）
保健・教育政策への公衆衛生・公教育技術（人流抑制や標準教育）
実現技術への｜社会基盤《インフラ》政策（大規模施設など）
③特注支援ルート：
（政府機関や研究・開発組織の特殊性に応じて助ける）
行政管理政策への｜企画支援技術《オペレーションズ・リサーチ》（公共性・権力性に対応）
研究・開発技術への研究・開発政策（社会性・機密性に対応）
※技術的政策の分類は理論的分類であり、具体的には
資源・環境、都市整備、防犯・防災・国防などとなります。
そのため一口に技術的政策といっても、研究・開発政策、
社会基盤《インフラ》政策、｜社会工学的《ルールづくり》政策があり、
そこではＡＩの活動段階に応じた入力情報管理や
判断の可視化・調整、活動能力の制限、
人間の開発・利用時における安全｜法規《ルール》の普及といった、
物的・人的な対策が不可欠となるでしょう。
また、技術はそれぞれの目的を持ちますが、
政策は共通の公益目的を持ち、連携度が高いです。
そこで、社会の中で利害を調整する経済・社会政策、
我々自身を向上させる人的資源政策、
人々を活かして政策を改善する行政管理政策も合わせた、
総合的な政策が必要となります。
するとさらに、それらの政策を助ける社会工学的技術として、
行政運営や人材育成、技術導入、利害調整を支援する
｜企画支援技術《オペレーションズ・リサーチ》や公教育技術、組織（立法）技術、あるいは
｜最低所得保障《ベーシックインカム》のような会計技術も重要になります。
全ての技術と政策が揃って初めて、画期技術ＡＩが
安全に、次なる文明段階を導けるのだと思います。
