新潟医療未来総合病院。AIが患者の診断から治療計画、薬剤管理までを司る、国内最先端のスマートホスピタルだ。そこに導入されたばかりの診断AIシステム「メディカル・ブレイン」は、医師の負担を軽減し、誤診を限りなくゼロに近づけるはずだった。
しかし、その完璧なはずのシステムが、突如として牙を剥いた。
サイバー犯罪課のオフィスに、病院からの緊急要請が入ったのは、早朝のことだった。如月怜子の指示で、葉山拓海は即座に病院のネットワークに接続し、異常の解析に取り掛かっていた。車椅子に座り、いくつものモニターを前にした彼の姿は、まるで現代の魔法使いのようだった。
「メディカル・ブレインが、患者の診断を誤っています」葉山は、淡々とした口調で報告した。「軽度の風邪を重度の肺炎と診断したり、アレルギー反応のない患者に、特定の薬剤に対するアレルギーがあると誤認識したりしています。すでに数件の医療ミスが発生しました」
「医療ミス…」如月怜子の声に、緊張が走る。「人命に関わる問題だ。外部からのハッキングは確認できたか？」
葉山は首を横に振った。「いいえ。システムログは正常を示しています。まるで、AIが自ら間違った学習をしてしまったかのように見えます。まるで、バグではない、意図的な誤動作です」
そこが、この事件の最も不気味な点だった。不正な侵入痕跡がないのに、AIがまるで悪意を持つかのように誤作動している。第1話のバス暴走事件を彷彿とさせた。
佐倉健太は、葉山のモニターを覗き込んだ。「うわ、これヤバいっすね。医療AIがぶっ壊れたら、下手すりゃ死者が出る。ハッカーが仕込んだプログラムとかじゃないんすか？」
「解析中です。しかし、通常のマルウェアであれば、もっと明確なコードの署名が残るはずです」葉山の視線は、数万行にも及ぶAIの診断ログのデータ群を高速で追っていた。彼の集中力は常人離れしており、その瞳は、まるでコードの奥底に潜む真実を見通すかのようだった。
藤崎梓は、AIシステムのアップデート履歴や、過去のメンテナンス記録を調べていた。「メディカル・ブレインは、週に一度、自動で最新の医療データを取り込み、自己学習を進めています。この自己学習プロセスに、何らかの異常が介入した可能性が高いです」
広報の三上陽介は、すでに病院と連携し、事態の収束と市民への説明準備を進めていた。「病院側は、システム異常を公表することを躊躇しています。パニックになることを恐れているようです。しかし、このままでは被害が拡大します」
「時間がないな」怜子は決断した。「葉山、君はメディカル・ブレインの学習モデルの深層を探れ。この誤動作が、どのデータ、どのアルゴリズムの歪みから来ているのかを特定するんだ。藤崎は、過去のAI診断データの中に、今回の誤動作の『予兆』となるような、わずかな異常値がないか調べてくれ」
葉山は、返事をすることなく、ただ頷いた。彼の指が、キーボード上で複雑なコマンドを打ち込んでいく。モニターには、AIの思考回路を模した、無数のノードとリンクが光速で変化していく様子が映し出された。
数時間後。葉山のデスクには、空になった栄養ドリンクのボトルが増えていた。彼の目は充血しているが、その集中力は衰えるどころか、研ぎ澄まされていくようだった。
「見つけました」葉山が、静かに言った。その声は、普段よりもわずかに低い。「誤認識の起点は、約2ヶ月前に学習された、特定の疾患に関する症例データです。このデータには、ごく微量なノイズが混入していました。単体では無害ですが、メディカル・ブレインがこれを**『最適化』**しようとする過程で、アルゴリズムの構造を歪め、結果として関連する複数の診断に影響を与えていました」
「ノイズ…？ それは偶然入ったものか？」佐倉が身を乗り出した。
葉山は首を振った。「いいえ。そのノイズは、通常のデータではありえない**『パターン』を持っています。それは、特定の周波数の乱数と、視認できないほどの微小なピクセルデータです。人間が見ても気づかず、AIでも通常はノイズとして処理されますが、特定の深層学習モデルにとっては、まるで『毒』**のように作用します」
「つまり、誰かが意図的に、このノイズを医療データに忍び込ませたということか」怜子の声が低くなる。
藤崎が解析結果を報告した。「葉山が特定した期間のデータアップロードログを確認したところ、外部の医療系ベンチャー企業から提供された、臨床試験データの中に、そのノイズが確認されました。この企業は最近、AI医療システムの分野に参入し、急速にシェアを伸ばしています」
「そのベンチャー企業が、競合するメディカル・ブレインを潰すために、仕込んだ可能性が高い、と…」三上が推測する。
「しかし、なぜこんなに複雑な方法を…？」佐倉は疑問を呈した。「普通にハッキングした方が手っ取り早いんじゃないすか？」
葉山は、モニターに表示されたノイズのパターンを指差した。「これは、メディカル・ブレインの持つ**『最適化』という特性を逆手に取った攻撃です。通常のシステムであれば排除されるノイズを、AIに『重要な情報』だと誤認させ、それを基に自己修正を促す**。そして、その修正が、やがてシステム全体を歪める。AIが自ら『悪意』を学習したかのように見せかける、極めて悪質な手法です」
それは、AIの持つ最も優れた能力である「自己学習」と「最適化」を、犯罪に悪用する、恐ろしい手口だった。
「葉山、そのノイズを除去し、システムを正常に戻すことは可能か？」怜子が尋ねた。
「可能です。ノイズのパターンが特定できた今、AIにそのパターンを**『無効』**と学習させ直します」葉山は、迷いなくキーボードを叩き始めた。彼の指が、再び光速で舞う。
数分後、病院からの連絡が入った。
「メディカル・ブレインの診断が、正常に戻り始めています！ 誤診の報告が止まりました！」
サイバー犯罪課に安堵の空気が流れる。葉山は、大きく息を吐いた。彼の顔には、微かな疲労が見えるものの、達成感に満ちていた。
「よくやった、葉山」怜子は、心からの労いの言葉を贈った。「すぐにそのベンチャー企業の調査を開始する。彼らはAIの『知性』を悪用した。絶対に許さない」
葉山拓海は、多くを語らない。しかし、彼の研ぎ澄まされた知性と、コードの深層に潜む「真実の欠片」を見つけ出す能力は、AI都市に潜む見えない悪意を暴き出す上で、不可欠なものだった。彼にとって、コードは迷宮であり、同時に、真実への道を示す唯一の光なのだ。