災害が起きると必ずSNS上でデマ、偽ニュースが拡散されます。災害時のデマは人命にかかわるので極めて危険ですが、デマや偽ニュースは災害時に限ったことではなくSNS上に常に氾濫しています。ネット上ではクリック数稼いでなんぼの世界なので、発信する方も拡散する方も真偽よりクリックしてもらえそうな煽情的な内容へ強烈なバイアスがかかる傾向があるのはネットの構造的な信頼性の問題だと思っています。
悪意をもったデマの作るのは簡単なのに識別が極めて難しく、対策は困難でしょう。専門家も提言していますが、ニュースの受け手、SNSの読者、つまり私たちがSNS上の情報には大量の偽ニュースが含まれている、という前提でSNSに接することが必要だと思います。SNSが人々の主要な情報源となって15年はたっているのでそろそろ読者側が成熟してきてもいいのかもしれませんが、現実は難しいのでしょうね。
さて、生身の人間にとって偽ニュースの識別が難しいとしたらAIは？AIへの依存度はこれから益々大きくなっていくと思いますが、AIはどうやって偽情報を識別している？というわけでググってみたのですが、結局これもGeminiなのでAIに訊いてるわけです。やれやれ。なんか情報発信者にあなたの情報は信頼できますか、と訊いてるみたいで。もちろんAIに自我はないので自分をよく見せようとする意図はありません。……ないはずですが、そのうちトランプみたいな超利己主義、嘘ごり押しを徹底する人物の言動を「学んで」しまうAIがでてきたら怖いかも。
AIがどうやって偽情報を識別しているかですが、情報源クロスチェックや文章パターンなど割とありきたりの回答でやや頼りない印象。文章パターンなんてAIにもすぐに識別不可能になるだろうし、偽情報発信源がまっとうな情報源を数で圧倒する状態が続くとそのうち偽情報を正しいと判断してしまうようなことにならない？私は基本的に老舗主要メディアやウィキペディアはSNSより比較にならないくらい信頼性が高い、情報の質が高いと感じています。でも政治的意図をもった集団が「情報源」を組織的に創ってしまうようになったら？ウィキペディアや主要メディアの内容を政治的な目的をもって改ざんした情報源を創ってしまうなんてAIなら簡単にできるのでは？どうも不安はぬぐい切れません。
SNS上の偽ニュースに世界が侵されている状況は深刻ですが、AIに今一番信頼できるAIはどれ、と訊いてみることにしました。AI様ご推薦のAIです。GeminiとChatGPTに訊いてみたところーー
GeminiはPerplexity、Claude、そしてGemini。Chat GPTはChatGPT、Gemini、ClaudeそしてPerplexity。いずれもちゃっかり自分自身を含めているところがかわいいですね。ずばりどれが一番高性能のAIか、ときいたところーー
GeminiはChatGPT、Claude、Gemini、そしてPerplexity。Chat GPTはPerplexity、Claude、GeminiそしてChatGPT。まるで代わり映えのしないお答えでした。でもこの4者はとりあえず現時点で欧米での評価が高いということだと思います。中国語やロシア語でそれぞれの国のAI に訊いたらまるで違った答えになりそうですが。
