AIの危険性を考えるときは、説明に使われている資料が誰によって、何のために作られたのかにも目を向ける必要がある。
例えば、英国AI Security Instituteは、AIを経済成長の機会と捉え、その危険性を調査しながら安全な利用を実現するという方針を示している。つまり、AIは制御可能であるという前提に立っているのである。ここでは、AIの利用促進という目的と安全性の研究とが結び付いている。もちろん、それだけで研究結果が誤っているとは言えない。ただし、「安全に使うにはどうすればよいか」を調べることと、「そもそも使うべきか」を考えることは同じではない。
車で考えると分かりやすい。衝突試験は、その車が事故の際にどれだけ乗員を守れるかを調べる。しかし、その試験結果だけでは、車を買うべきか、それとも電車やバスを利用すべきかまでは決まらない。まして、その地域を車なしでは暮らせない仕組みに変えてよいかという問題には答えられない。AIの安全性に関する資料も同じである。特定の危険を減らせるという研究結果だけでは、そのAIを社会に広く導入すべきかどうかまでは決まらないのである。
国際AI安全性報告書は英国政府の委託によって作成され、同機関内の事務局がその活動を支えている。一方で、執筆者には内容を決定する裁量が与えられており、企業や市民社会からも意見を受け付けるほか、政策提言は行わないと説明されている。
まず注意すべきなのは、「中止すべきだと書かれていないから、進めてよい」という読み方である。政策提言を行わない資料であるなら、「中止を勧めていないこと」は「中止が不要であること」の証拠にはならない。つまり、AI推進をやめるべきかどうかを判断しない資料に「やめるべきだ」と書かれていなくても、それは「やめなくてもよい」という意味にはならないのである。進めるべきか、延期すべきか、それともやめるべきかは、その資料の知見を参考にしながらも、別途判断する必要がある。
次に重要なのは、何が調査対象から外されているかである。実際、2026年版の同報告書は、扱う範囲を限定し、環境への影響やプライバシーなどを対象外としている。家電を選ぶ際、省エネ性能だけを比較した資料からは、修理のしやすさや維持費までは分からない。それと同じで、限られた範囲の調査結果だけを根拠に、「AI全体が安全である」というお墨付きを与えることはできない。
また、誰が研究費を出したのか、誰が調査項目を決めたのか、不都合な結果も公表できるのか、外部の人が検証できる情報が公開されているのかといった点も重要である。「政府機関」「国際報告書」「専門家」という名称だけでは、これらの問いへの答えにはならない。ただし、資金源や所属先を理由に研究を疑うのであれば、どの部分に問題があるのかを具体的に示す必要もある。
では、危険がまだはっきりしていない段階ではどうすればよいのか。
私は、「制御不能になると証明されるまでは進めてよい」という考えには賛成できない。被害が生じて初めて危険性が証明されたとしても、そのときには取り返しのつかない状況になっている場合があるからである。
例えば、AIに試験の採点を任せるとしよう。教師が確認したうえで成績を確定し、誤りがあれば修正できる仕組みであれば、確認と修正の機会は残る。しかし、確認が追いつかないまま成績が確定され、進路判断にまで利用されれば、「後で間違いを直せばよい」では済まないかもしれない。同じ採点でも、練習問題への助言と、進路を左右する成績評価とでは、求められる確認の厳しさは異なる。
AIを使うかどうかは、便利さだけでなく、任せる仕事や権限、そして間違えた場合の被害の大きさを考慮して判断しなければならない。判断の根拠を後から確かめられるか。重大な誤りを被害が生じる前に発見できるか。人間による確認が終わるまで待たせられるか。必要なときに停止できるか。停止しても間に合わない場合に備えて、被害の拡大を抑えられるか。こうした条件を満たせない用途では、導入を見合わせるべきである。もちろん、人間にも間違いはある。AIを使わないことで増える負担や失われる利益も比較しなければならない。それでも、「人間も間違える」「AIは便利だ」という説明だけでは、確認も停止もできない仕組みを採用する理由にはならない。
導入を見送ったうえで、外部に影響が及ばない環境で研究を続けられる場合もあるだろう。しかし、研究や試験の段階であっても、危険を十分に抑えられないのであれば、開発の延期や中止も必要となる。何を止めるのか、誰が判断するのか、何を確認すれば再開できるのか。その条件を明確にしておく必要がある。
そして、もう一つ忘れてはならないのが、使い始めた後もやめられるかという問題である。
例えば、ナビに頼って道を覚えなくなり、地図も持ち歩かなくなれば、故障したときに困るだろう。それでも、道を尋ねたり地図を手に入れたりできるなら、別の方法に戻ることは可能である。ところが、社会の仕組みをAIに任せ、人員を削減し、代替設備を廃止し、手作業の方法まで失ってしまったらどうだろうか。問題が見つかっても、AIを停止すれば仕事や生活が成り立たなくなる。そのとき、停止ボタンは存在していても、実際には押せなくなっているかもしれない。
人間による確認を待つこと。AIに任せない仕事を残しておくこと。不必要な接続を避けること。人員や設備、技能を維持すること。これらには費用も手間もかかる。しかし、それは問題が起きたときに別の方法を選択できるようにするための費用でもある。便利さを評価するのであれば、その便利さから離れられる条件も併せて評価すべきである。使うかどうかを選べるうちは便利な道具にすぎない。しかし、使わなければ生活できなくなるような存在になれば、その利用を続けることは、もはや自由な選択とは言えなくなるだろう。
