情報について書かれたこの本で、一番印象に残ったのは、ミャンマーでのロヒンギャ族の迫害である。この件では、フェイスブック（現メタ）が非難を浴びていた記事を、かつてフランス語の勉強会で読んだことがあった。この時は、フェイスブックがミャンマー語の専門家を置かず、対立を煽る投稿を規制しなかったと非難されても、利用者が悪いと思っていた。だが、ハラリ氏によれば、フェイスブックのアルゴリスムは、フェイスブックへの利用を促進する投稿を表示し、利用者の利用率を高めるように設計されていたので、過激な投稿が閲覧されやすくなったという。
まさに、これがAIの怖いところだ。AIは意識も感情もないのに決定権を握り、与えられた目標のために突進するので、誤った目標を設定すれば大惨事になるというわけだ。
これに対する防御策は、過ちを正す仕組みを設けることで、これを機能させるためには、自己修正メカニズムが必要と著者は言う。このためにも、まずは、間違いを一緒に指摘する賢い仲間を作ることが必要なのだろう。