・AI兵器、実用化迫る 規制導入に米ロなど大国が反対(日本経済新聞 2018年9月3日)

※人工知能(AI)が攻撃目標を探し殺傷する自律型のAI兵器の実用化が間近とされる。国連が8月下旬に開いた会合では永世中立国のオーストリアがAIに生死の判断を委ねるリスクに懸念を示し、常設軍を持たないコスタリカなどの代表はAI兵器の全面禁止を主張。一方、軍事力が強大な米国やロシアはAIで人的損害を減らせるとして規制導入に原則反対する姿勢を強調した。

会合はスイスのジュネーブで8月27日に始まり、1日未明に終了。100カ国以上の政府や非政府組織(NGO)の代表、専門家らが出席した。

AI兵器は「自律型致死兵器システム(LAWS)」とも呼ばれ、人間が介在せず、自動的に目標を特定し攻撃する。現状でも自動飛行するドローン(小型無人機)などは実戦で使われているが、攻撃などの判断には人間が関与していた。

最大の課題は倫理だ。「AIに人の生死の判断を委ねることはできない」とオーストリアのハイノツィ大使は主張した。AIのミスで市民が巻き添えになったり不具合で制御不能になったりするリスクは避けられない。

コスタリカなどはAI兵器の全面禁止を主張。「現行の国際法は新兵器に対応できない」との声も聞かれた。参加したNGOによると、オーストリアやブラジルなど26カ国・地域が禁止条約の制定などに賛成した。

一方、米国やロシアなどは原則として規制に反対する。米は「AI兵器は一般市民の殺傷を減らすことができる」と主張。ロシアも「AIのほうが人間より優れた判断が可能」と指摘した。仮に一部の国の主導でAI兵器禁止条約を制定しても、こうした大国が批准しなければ実効性はない。

AI兵器の開発は加速している。韓国は相手の熱などで目標を決め、人間の指示に基づき機関銃などで攻撃するロボットを配備。米陸軍は8月24日、AIなどを使った次世代兵器の研究開発を担う「未来司令部」をテキサス州に設けた。

人間の判断が全く介在しない「自律型」のAI兵器を現場に配備した例はまだないとみられるが、核兵器や対人地雷のようにAI兵器の開発や使用にも網をかけるルールづくりを求める声もある。ギル議長(インド)は「各国ともに何らかの人間の介在は必要という共通認識はある」と話す。

AIは標的を撃つかどうかの判断だけでなく、敵の発見や特定、追跡、目標設定などでも活用されそうだ。欧州連合(EU)は「自律型兵器の中身や、人間の関与についてもっと議論を深める必要がある」と指摘する。

「AI兵器の開発や製造、取引、使用には関与しない」。米テスラのイーロン・マスク最高経営責任者(CEO)ら2400人以上の経営者や研究者などは、AI兵器に反対する声明に最近、署名した。こうした懸念をよそに次世代産業の浮沈を握るAIの研究で後れをとりたくないという思惑もあり、規制の議論は平行線をたどっている。

※ブログ主注:こうした無人AI兵器が人口削減のための各国国民の大虐殺に使われる可能性は高いとブログ主は考えています。

・河野外相 AI兵器の活用議論 積極的に関与の考え示す(NHK NEWS web 2019年3月8日)

※国際的な議論が続いている、いわゆる「AI兵器」をめぐって、河野外務大臣は、AIの兵器への活用は一定のメリットがあるものの行きすぎれば取り返しがつかないとして、議論に積極的に関与していく考えを示しました。

AI=人工知能を搭載した「AI兵器」をめぐっては、人道的な見地から開発や運用を規制すべきだという声がある一方、開発に取り組んでいるアメリカなどからは、管理する体制が重要だとして規制に反対する意見もあり、今月下旬には、ジュネーブの国連ヨーロッパ本部で専門家会合が開かれる予定です。

これについて、河野外務大臣は記者会見で、「映画の『ターミネーター』のような、全く人間が関与せずに殺りくできる兵器の開発には反対だが、日本の様に人口が減少している国で、効果的、効率的な手段になり得る可能性はある」と述べました。

そのうえで、河野大臣は、「火薬や核兵器と同じマグニチュードで戦争の在り方を変えてしまう可能性があり、日本としては議論に参加するだけでなく、リーダーシップを取れるように努力していかなければならない」と述べ、行きすぎれば取り返しがつかないとして、議論に積極的に関与していく考えを示しました。


・自律型無人戦闘兵器と群体戦術の実用化の時期(2019年3月31日)

JSF | 軍事ブロガー

※3月25日から29日にかけてスイスのジュネーブで開かれた特定通常兵器使用禁止制限条約(CCW)の会合で、人工知能を搭載して自律的な判断で攻撃を行う無人兵器(ドローン)の「自律型致死兵器システム(LAWS)」について規制を行うべく話し合いが行われましたが、アメリカやロシアなど幾つもの大国が規制に反対して話し合いは纏まりませんでした。

自律型の無人戦闘兵器は人工知能で判断して自動的に攻撃を行います。投入されれば戦場を一変させる脅威的な存在と成り得る上に、人間の判断が介在せずに殺人を行う倫理面が大きな問題となっていますが、そもそも複雑に入り乱れる戦場で敵と味方と民間人を識別して攻撃を行う人工知能の開発は技術的に非常に困難で、近い将来に実用化できるものではありません。

そこで2018年にアメリカ国防総省が発表した報告書「無人システム統合ロードマップ2017-2042」から、無人兵器の自律行動能力は何時頃を実用化の目途に開発しているのかを見てみましょう。

「高度な自律性(Highly Autonomous)」は「長期的(FAR-TERM)」な計画に分類されて25年後まで記した計画の最後の方に載っています。自律行動できる人工知能についてアメリカ軍自身が直ぐに完成できるようなシステムではなく数十年先になると認識していることが分かります。ここまで長期間の見積もりだと予定通りに開発できるとは限らず、25年後に完成しているかどうかの保証はないでしょう。

また自律行動能力が必要な「群体行動(Swarming)」も長期的な計画とされています。実は遠隔操作型の無人戦闘兵器は周波数の帯域の限界で同時投入数はあまり増やすことができなかったので、無人戦闘兵器を大群で投入するためには自律行動能力が必要だったのです。群体(スウォーム)として投入される自律型無人戦闘兵器はお互いがデータリンクで情報を共有し、目標を捜索・発見し攻撃し続けることができます。

無人戦闘兵器が自律行動能力と群体行動能力を獲得して、更に人工知能が高度に進化を続けた場合、遠い未来の何時の日か、無人戦闘兵器だけで戦争が行える未来が訪れてしまうのかもしれません。その前に国際的な規制が行われるのか、それとも人類はこの未来を受け入れてしまうのでしょうか。猶予はまだ先の話になります。