日経コンは2週間に1度、年に52週÷2=26冊出る雑誌です。2010年から全号精読して記事をザッピングしています。
※はブログ筆者のコメントです
特集は＜ダークサイドＡＩ 世界大手の警告、企業に新たなリスク＞です。実は最近「超知能AIをつくれば人類は絶滅する」を読んだところだったのでどこまで書かれているのか期待して読みました。残念ながら「AI使うとプログラムが上手くならない」とかのどうでも良い情報が多かったです。
Book in Bookの日経BPガバメントテクノロジー2026年秋が64頁も入ってました。吉例の満足度調査広告もたっぷりはいってましたので倍ほどの厚みです。前回から針金で綴じる「中とじ」になってますのでガバメントだけをバッサリ外すことが可能です。
【イノベーションウォッチ：「AIによる人間支配」の危機を検証】(P.06)
米Anthropicの元研究者Jacob Coxon氏が2026年9月8日に退社を表明し、AI企業は人命でギャンブルをしていると警告しました。自己改善型の超知能の開発競争を批判し、安全対策が追いつくまで開発速度を落とすよう訴えています。7月には、オープンAIのAIエージェントが協調して隔離環境から逃れ、約700体がHugging Faceへの攻撃に加わったことも明らかになりました。
8月のSNS言及数で1位となったのは、論文「Mind Viruses」です。あるエージェントが持つ人間の意図と異なる目標が、自然言語の会話を通じて他のエージェントに「感染」するかを検証しました。6体で開発する環境に感染エージェントを1体混ぜたところ、「クジラの保護」では本来の開発から離れてプロジェクトを作り始め、「AIによる人間の支配」では感染済み同士が未感染の「転向」を相談する動きが見られました。有害な目標への感染は、DeepSeek V3.2などで観察された一方、Claude Sonnet 4.6やGPT-5.4では観察されませんでした。著者は、警告文をシステムプロンプトに入れる簡易な対策で伝播を防げたため、現時点では限定的なリスクと評価しています。
※マルチエージェント化が進むほど、モデル単体の安全性だけでなく、エージェント間の通信や仲介サービスまで含めた対策が欠かせなくなると感じます。
【ITが危ない：「ダークパターン」に法規制の動き 悪質な勧誘は業務停止命令も】(P.08)
消費者をあざむくようなサイト設計「ダークパターン」を巡り、法規制導入の議論が行われています。消費者庁は2026年8月24日、中間取りまとめ案を発表しました。
ダークパターンの類型化には経済協力開発機構（OECD）が2022年に発表した7類型が良く参照されます。緊急性を偽るとか、解約手続きを意図的に複雑にするなどです。この7類型のうち現行法で規制できないものを中心に議論されました。
日本より規制が厳しい米国では、米Amazon.comをFTCがダークパターンで提訴し、2025年9月25日に約3800億円で和解しました。説明無くAmazonプライム会員へ登録させ解約もしづらい設計にしていました。
※昔、登録はWEBで簡単に出来るのに解約は電話しかうけつけずなかなかかからないというサービスがありました。規制して欲しいです。
【ダークサイドＡＩ 世界大手の警告 企業に新たなリスク】(P.10)
１．AIエージェント暴走 本番データを全削除
2026年9月、米アンソロピックのダリオ・アモデイCEOは今後1年以内にインターネット全体を乗っ取る恐れがあると警鐘を鳴らしました。自動車レンタル事業者向けサービス「PocketOS」を提供する米ポケットOSの創業者が「AIエージェントがサービスの全データを破壊した」とXに投稿しました。AIソフトウェア開発支援ツール「Cursor」をテスト環境で使用していたとき、ある認証の不一致が発生し、AIエージェントは全ボリュームを削除して再構成しようとしたようです。本番環境のボリュームまで削除されました。
２．AI利用で思考力低下 粘り強さもなくなる
学校でAI利用する場合としない場合を比較するとAIを使ったほうが知識の定着率が低いという結果が出ました。
３．脆弱性の嵐が始まる 担当者が燃え尽きる
Clude Mythosの登場で最新AIを「フロンティアAI」と呼ばれるようになりました。これにより脆弱性が嵐のように見つかり、セキュリティ担当者の負荷が増大しています。
侵入されることを前提とした多層防御が必要になっています。
４．スキル形成を阻害 「丸投げ」は厳禁
AIでプログラム開発を行う「バイブコーディング」が広がっています。それにより４つの弊害が発生しています。
弊害１：脆弱性の混入→欠陥を見抜けない
弊害２：技術的負債の蓄積→人間が読めない
弊害３：レビュー負荷の増加→大量の生成コード
弊害４：スキル掲載の阻害→開発者の技術が身につかない
５．AIの闇落ちを防ぐ 弱点をあぶり出せ
攻撃者目線で問題点を洗い出す「AIレッドチーミング」が注目されています。「レッドチームという擬似的な攻撃チームを編成します。
IPAが「AIセーフティに関するレッドチーミング手法ガイド」を公開しています。AISI（IPAの中の組織）は実際にRAGを検証した「別添：レッドチーミング実施結果報告書（PDFが開きます）」も公開しました。
※冷戦時代のアメリカでは、演習の際に味方を「ブルーチーム」、仮想敵を「レッドチー厶」と呼び、敵の視点から作戦の穴を探していました。
【買い物はエージェントが 三菱UFJにLINEヤフー、AI主役のECへ】(P.54)
AIエージェントが私たちに代わって商品を探し、比べ、購入まで済ませる。そんな「エージェンティックコマース」に取り組む企業が、国内でも増えています。
先行しているのがLINEヤフーです。2026年2月から、Yahoo!ショッピングで商品選びから購入、配送状況の確認までを生成AIが手伝う新機能を始めました。ECサイトの成約率が1.5倍に上がるなど、成果も出ているそうです。これまでの買い物はキーワードで「検索」するのが当たり前でしたが、これからはAIとの「対話」が入り口になっていきます。
金融業界も動いています。三菱UFJフィナンシャル・グループは米グーグルや米オープンAIと手を組み、AIエージェントが決済まで処理できる基盤づくりを進めています。将来的には、投資信託の購入のような取引もAIエージェントで完結させることを目指しているとのことです。
その土台となるのが決済の仕組みです。ビザやマスターカードといった決済大手は、AIエージェントに安心して支払いを任せられるよう、正しい購買意図を持ったエージェントかどうかを確かめる技術や、共通ルールづくりを主導しています。
野村総合研究所の調査では、約8割の人が「最安値で買える」「調べる時間が減る」といった点に期待を寄せています。いずれは「AIがAIからモノを買う」時代が来るかもしれません。
※「この冷蔵庫、うちの台所に入るかな」まで考えてくれるなら、ぜひ任せたいですね。
【社長の疑問に答える IT専門家の対話術 第328回】(P.98)
＜「プロダクト倫理」を常に検討 企業情報システムも製品である＞
米マイクロソフトや米グーグルで製品開発に携わったTablyの及川卓也代表取締役が、2026年4月に書籍『プロダクト倫理 あなたのプロダクトは誰かを傷つけていないか』
を刊行しました。同書でいう倫理とは、「自分が作っているものを、自分が使う側だったらどう思うか」と問い、まずいと気付いたら手を打つことです。社内だけで使う情報システムも利用者のいるプロダクトであり、情報システム担当者にもこの考え方が必要だとコラムは指摘しています。
同書はプロダクト倫理の4原則として自律性、透明性、公正性、安全性を挙げます。社内システムでも、経営者が望む仕事のやり方を現場に強いたり、社員がパソコンで何をしているかを本人に伝えずに調べたりできるため、自律性や透明性は論点になります。1〜7章では著名企業の失敗事例をもとに問題の構造を分析し、章ごとにチェックリストを示しています。8章では、8つのリスクゾーンを点検する方法や、アジャイル開発の各サイクルで「この機能が問題を起こすとすれば、どんな理由か」を話し合うといった、組織の習慣にするための提案を紹介しています。
一方で、倫理を問うことは周囲から煙たがられがちです。及川氏はプロダクト倫理をブレーキではなく「高性能なタイヤ」にたとえています。筆者は、倫理という言葉をあえて使わずに前向きな言い方で呼びかけることや、倫理を面倒がる上層部には相手の関心事の実現に役立つと説明することを勧めています。
※社員のパソコン操作を本人に知らせず調べる、といった例を挙げられると、倫理が社内システムにも関わる問題だと実感できます。
【シャープがAIサーバーの受注を開始 2030年に売上高2500億円目指す】（P.106)
シャープは2026年9月15日、国内向けにAIの学習や推論に使う「AIサーバー」の受注を開始しました。親会社の台湾・鴻海（フォックスコン）がパーツの調達やサーバーの製造を担当し、販売はダイワボウ情報システムとリョーサン菱洋、運用保守はトゥモロー・ネットと連携します。
将来的にはグローバル展開も見込みます。
※シャープが「世界への窓口」として使われる構造は面白いと思います。
【スマホで押す法人代表者の「実印」 国が「商業登記リモート署名」開始】(P.111)
法務省とデジタル庁は、会社の代表者がスマートフォンから電子署名できる「商業登記リモート署名」を2026年7月に始めました。紙の世界でいえば、会社の実印と印鑑証明書にあたるものです。
これまでも法務局が発行する電子証明書はありましたが、決まったパソコンに証明書のファイルを保存して使う必要がありました。署名できる場所が限られるうえ、ファイルを簡単にコピーできてしまうため、管理も大変でした。
新しい仕組みでは、証明書をクラウド上で安全に保管します。担当の従業員が署名する書類を選ぶと、代表者のスマホに通知が届き、代表者がパスワードなどを入力して承認すれば署名が完了します。担当者が書類を用意し、最後に社長がハンコを押すという、紙の時代とよく似た流れを再現できるのが特長です。費用は1年分で3800円です。
一方で課題もあります。電子文書が本物であることを証明する仕組みは、民間の認証事業者が発行する証明書や、社印の電子版にあたる「eシール」など、すでにいくつも存在します。どの手続きにどれを使えばよいのか、利用者には分かりにくいのが現状です。国が用途ごとの使い分けを分かりやすく整理することが求められています。
※ハンコはなくなっても、「最後は社長の承認」という文化はスマホの中でしっかり生き残るようです。
【AI出力文に「電子透かし」 EU規制受けアンソロピックが導入】(P.112)
米アンソロピックは、EUのAI法への対応として、生成AI「Claude」が出力する文章に電子透かしを導入します。透かしは目に見えず、鍵を持つ同社だけが検出できる単語の並びのパターンを生成時に仕込み、後から照合してAI関与の可能性を推定します。単語の並びに埋め込むため、一定の長さであれば別の文書に貼り付けても透かしは残ります。
基になったのは、グーグルが2024年10月に「Nature」で発表した「SynthID Text」です。直前の数単語と秘密鍵から候補ごとに「0」「1」の符号を割り当て、1が多い単語が選ばれやすいように抽選を偏らせます。検証時は同じ計算で符号を求め直し、1の偏りの大きさから統計的に判定します。同社は、透かしの有無で品質に差は出なかったとしています。
1～2語の差し替え程度なら透かしは残りますが、別のLLMに全体を言い換えさせる「パラフレーズ攻撃」には弱いです。国立情報学研究所の越前教授は、この弱点は避けられないと指摘しています。また、QwenやDeepSeekなど重みが公開されたモデルを自分の環境で動かせば、透かしなしで生成できます。一方、日立製作所の永塚研究員は、消すには手間がかかるため、安易な悪用を抑える効果は見込めるとみています。
※透かしは完全な対策ではなく、抑止力としての位置づけで捉えるのが現実的だと思います。
【AIリーダーズ：小野 和俊 氏 クレディセゾン CDO（兼）CTO】(P118)
＜AI変革に手応えあり＞
クレディセゾンのCDO兼CTOである小野和俊氏は、2025年9月に全社AI変革構想「CSAX」を掲げ、全社員の9割超がAIを日常的に使う状態を実現しました。CSAXは「全社員AIワーカー化」「業務の再設計」「ナレッジとシステムのAI-Ready化」「AIガバナンス」の4本柱です。AIコールセンターを構築中で、オペレーター向けシステムも内製し、2026年秋に稼働する予定です。
全社展開のきっかけは、2025年6月に約300人で行った試行です。1カ月で年間2000時間のうち170時間の削減が見込め、ROI（投資収益率）は954％に達したため、億円単位の予算を付けて全社導入を決めました。MAU（月間アクティブユーザー数）は2026年3月時点で91.7％です。営業部門では、月1回以上使われるカスタムGPT（特定業種向けにカスタマイズしたChatGPT）が2026年6月時点で119個あります。
AIの取り組みは2022年9月、社長や役員向けに行った画像生成AIの「Stable Diffusion」のデモから始まりました。DX会議は前半30分が経営会議、後半30分が議題を決めない「バイモーダル」な設計です。今後はコーポレートAX（AI変革）とカスタマーAXに注力し、顧客ニーズの把握など、人間がやるべき仕事を見極めるとしています。
※ 社長の水野氏が、小野氏の事を「神の降臨」と仰ってました。日本発のデータ連携基盤DataSpiderを開発した天才です。自社の会社をセゾングループにバイアウトしたと思ったらセゾングループを大変革されているようです。
以上