世間ではゴールデンウィークだというのに、私はと言えば家族を置いて実態調査に駆り出されて面倒くさい地域でごそごそやっておりました。
メインテーマはややこしい国からのサイバー攻撃対応でアメリカ、NATOと日本、オーストラリア、カナダなども足並みを揃えようという話なのですが、一番出遅れているのは日本だぞということで、大変ありがたい叱咤激励なども頂戴しつつ、これほんとどうするんだろうなあとぼんやり思っているところでございます。
タリン文書も出てきましたので、いくつか公にするべき論点についても整理していきたいと思っています。
Automated/Autonomous Incident Response
https://ccdcoe.org/uploads/2022/05/Automated-Autonomous-Davide-Giovannelli.pdf
重要な論点としては「6. Artificial Intelligence's Legal Implications」でありまして、そもそもサイバー攻撃が組織的に行われてその被害を食らっている側が、速やかに事態を類型化して、それがいかなるAutomated（自動化）処理によるものかを察知し、それが機械学習としてどのように組み上げられたのかを予測し、次に起きるであろうインシデントの予知・防衛につなげていかないといけないんだけど、その人工知能に対する法的な意味づけが諸外国でバラバラであって、かなり重層的な情報連携を各国で取らないと容易にお互いがお互いを踏み台にされちゃって被害甚大じゃねえのということであります。
例えば、軍事目的で構築されたデータアセットと機械学習のモデルは各国のAI規制に必ずしも整合的であるとは言えず、まあ要するに法律なんて無関係に軍事ではある程度ツールとして人工知能使うじゃねえかということで、これらの情報を相互に開示してアメリカ欧州（NATO）と日本、オーストラリアなどが連携すると言っても開示レベルが違ったらあまり意味がなかろうと。
しかも、これらのデータリンクについては、例えば航空衛星や偵察機などからの敵軍位置情報の提供など一方的なソーシングだけでなく、むしろかなりオルタナティブなものであって、しかも軍事的には平和な環境下でも常時危機に晒される類のものであるから、これはいったいどうやって着地させるねんという永遠の課題の入り口に立っているとも言えます。
これらのサイバー攻撃は人工知能によって各段に頻度が増えた上に深刻な問題を孕んでいることもあって、電力系システムや上水道、揚水ポンプ、薬品倉庫などが直接危機に晒されるだけでなく、連続で攻撃されてひとつひとつ人力で対処するんすかという問題を持ち、さらに人工知能を制限するAI法が各国でバラバラ、各国防衛隊もサイバー攻撃への防御という点ではカカシも同然の状態で、さらに被害が出たときには大抵において既にもう遅いというとんでもない非対称性があります。
我が国でもようやくACD（Active Cyber Defence；積極的サイバー防衛）の議論が出てきたところですが、やはり上記のようにサイバー攻撃に対する人工知能の法的位置づけ、多国間連携と併せて、どこまでが警察力での対処で、どこからが国防的アプローチなのかという線引きも不明確であるというところに大変な脆弱性があるものと言えます。
政策的に落とし込みをと言われてもたぶん我が国国内では話が進まず、デジタル庁もスコープ外で、むしろデジタル庁にNISCや一部総務省部局も巻き取ってデジタル省にするか、アメリカのやっとるような委員会方式で横断的になんかカバーしようやってぐらいしか方法はないのではないかと思うのですが、どうするんですかね。
そんな話をしている最中に、本来なら先行してデジタル技術の平和利用ができる分野でまさかの手戻りがあったらしく、台湾人から「お前ら大変だね」って笑顔を頂戴しました。ちくしょう。
デジタル庁の「事業所」データ整備事業が中断、目玉政策が実現困難と判明した経緯 https://xtech.nikkei.com/atcl/nxt/column/18/01157/042800060/
手も足も出ないままそろそろ帰ります。
メインテーマはややこしい国からのサイバー攻撃対応でアメリカ、NATOと日本、オーストラリア、カナダなども足並みを揃えようという話なのですが、一番出遅れているのは日本だぞということで、大変ありがたい叱咤激励なども頂戴しつつ、これほんとどうするんだろうなあとぼんやり思っているところでございます。
タリン文書も出てきましたので、いくつか公にするべき論点についても整理していきたいと思っています。
Automated/Autonomous Incident Response
https://ccdcoe.org/uploads/2022/05/Automated-Autonomous-Davide-Giovannelli.pdf
重要な論点としては「6. Artificial Intelligence's Legal Implications」でありまして、そもそもサイバー攻撃が組織的に行われてその被害を食らっている側が、速やかに事態を類型化して、それがいかなるAutomated（自動化）処理によるものかを察知し、それが機械学習としてどのように組み上げられたのかを予測し、次に起きるであろうインシデントの予知・防衛につなげていかないといけないんだけど、その人工知能に対する法的な意味づけが諸外国でバラバラであって、かなり重層的な情報連携を各国で取らないと容易にお互いがお互いを踏み台にされちゃって被害甚大じゃねえのということであります。
例えば、軍事目的で構築されたデータアセットと機械学習のモデルは各国のAI規制に必ずしも整合的であるとは言えず、まあ要するに法律なんて無関係に軍事ではある程度ツールとして人工知能使うじゃねえかということで、これらの情報を相互に開示してアメリカ欧州（NATO）と日本、オーストラリアなどが連携すると言っても開示レベルが違ったらあまり意味がなかろうと。
しかも、これらのデータリンクについては、例えば航空衛星や偵察機などからの敵軍位置情報の提供など一方的なソーシングだけでなく、むしろかなりオルタナティブなものであって、しかも軍事的には平和な環境下でも常時危機に晒される類のものであるから、これはいったいどうやって着地させるねんという永遠の課題の入り口に立っているとも言えます。
これらのサイバー攻撃は人工知能によって各段に頻度が増えた上に深刻な問題を孕んでいることもあって、電力系システムや上水道、揚水ポンプ、薬品倉庫などが直接危機に晒されるだけでなく、連続で攻撃されてひとつひとつ人力で対処するんすかという問題を持ち、さらに人工知能を制限するAI法が各国でバラバラ、各国防衛隊もサイバー攻撃への防御という点ではカカシも同然の状態で、さらに被害が出たときには大抵において既にもう遅いというとんでもない非対称性があります。
我が国でもようやくACD（Active Cyber Defence；積極的サイバー防衛）の議論が出てきたところですが、やはり上記のようにサイバー攻撃に対する人工知能の法的位置づけ、多国間連携と併せて、どこまでが警察力での対処で、どこからが国防的アプローチなのかという線引きも不明確であるというところに大変な脆弱性があるものと言えます。
政策的に落とし込みをと言われてもたぶん我が国国内では話が進まず、デジタル庁もスコープ外で、むしろデジタル庁にNISCや一部総務省部局も巻き取ってデジタル省にするか、アメリカのやっとるような委員会方式で横断的になんかカバーしようやってぐらいしか方法はないのではないかと思うのですが、どうするんですかね。
そんな話をしている最中に、本来なら先行してデジタル技術の平和利用ができる分野でまさかの手戻りがあったらしく、台湾人から「お前ら大変だね」って笑顔を頂戴しました。ちくしょう。
デジタル庁の「事業所」データ整備事業が中断、目玉政策が実現困難と判明した経緯 https://xtech.nikkei.com/atcl/nxt/column/18/01157/042800060/
手も足も出ないままそろそろ帰ります。