「AIツールがパンデミックで『役立たず』に終わった理由」（MIT Tech Review Will Douglas Heaven 米国版 AI担当上級編集者）がちょっと面白い。
「今回のパンデミックでは、現場の医師を支援することを目指したAIツールが数多く作られた。しかし、役に立つツールがどれ一つとしてなかっただけでなく、中には誤診やリスクの過小評価によって有害になり得るツールすらあった。」
「AIコミュニティは、即座にソフトウェア開発に乗り出した。こうしたソフトウェアは、患者の診断やトリアージを迅速化することで、少なくとも理屈の上では、最前線の医師たちが切実に求めている支援を提供できるはずだった。
こうして相当数の予測ツールが開発された。だが、本当に役立ったものはひとつもなく、有害になり得るものすらあった。
こうした否定的な結論が、ここ数カ月で発表された複数の論文で得られている。データサイエンスとAIに特化した英国立研究機関であるチューリング研究所（Turing Institute）は6月に、2020年後半に開催されたいくつかのワークショップでの議論をまとめた報告書を発表した。新型コロナウイルス（SARS-CoV-2）との戦いにおいて、AIツールはまったくといっていいほど事態を改善しなかったというのが満場一致の結論だ。」
「明らかになった問題点の多くは、研究者がツール開発の際に用いたデータの質が低いことと関係がある。医療用スキャンを含む新型コロナウイルス感染症患者に関する情報は、世界的パンデミックの最中に、医師たちが治療に悪戦苦闘しながら収集し、共有したものだ。研究者たちはいち早く支援を届けたいと考えていたし、手に入る公開データはほかに存在しなかった。だが、そのせいで多くのツールは、ラベル付けを誤ったデータや出自不明のデータを用いて構築されてしまった。
ケンブリッジ大学で機械学習を研究する博士課程大学院生のデレク・ドリッグスは、自身が重視する問題を『フランケンシュタイン・データセット』と呼んでいる。複数のソースから切り貼りされた、重複を含むデータのことだ。これにより一部のツールは、訓練用のデータと同じものを用いてテストされ、実際よりも正確に予測できるように見えていた。」
「多くのツールは医学的知識のないAI研究者が開発したためにデータの不備が見落とされていたか、あるいは数学的スキルを欠いた医学研究者が開発したために欠点を修正できていなかった。ドリッグスは、『組み込みバイアス（incorporation bias）』と呼ばれる、微妙な問題も指摘している。データセットのラベリングの段階で混入するバイアスのことだ。
たとえば、多くの医療用スキャン画像は、撮影した放射線科医による新型コロナウイルス感染症か否かの判断をもとにラベリングされている。だが、これにより特定の医師に固有のバイアスが、データセットのグラウンドトゥルースに組み込まれてしまう。医療用スキャンのラベリングは、1人の医師の意見ではなく、PCR検査の結果に基づいておこなうべきだとドリッグスは指摘する。とはいえ、多忙な病院では、統計的な詳細にまで注意を払う余裕がないのが実情だ。」
「問題に対処すべく世界保健機関（WHO）は、世界的な公衆衛生上の危機の際に発動させる、緊急時のデータ共有に関する契約の導入を検討している。これにより、研究者が国境を越えてデータを移動させやすくなるだろうと、マティーン医師（ロンドンに拠点を置く世界的な医学研究支援団体であるウェルカム・トラストで、テクノロジーの臨床利用に関する研究をしている）は言う。6月の英国G7サミット開催前、参加国の主要研究グループは、将来の公衆衛生上の危機に備えた『データ準備体制』の整備を訴えた。」
AP
MIT Tech Review: AIツールがパンデミックで「役立たず」に終わった理由 (technologyreview.jp)
https://www.technologyreview.jp/s/252298/hundreds-of-ai-tools-have-been-built-to-catch-covid-none-of-them-helped/
ＩＴ起業研究所ITInvC 代表小松仁