2026年7月26日／株式会社東京ネット工務店 海老沢敦
① 事実
企業のAIエージェント（人が逐一指示しなくても、自分で手順を判断して動くAI）は、いま本番の業務に入りつつあります。Gartnerの予測では、2026年末までに企業向けアプリケーションの<strong>40%</strong>がこれを組み込むとされています。2025年は5%未満でした。<strong>1年で8倍</strong>です。
その一方で、こういう報告が出ています。
最先端のAIモデルは、いまも3回に1回の割合で失敗している。しかも、その挙動を後から監査する（なぜそうなったかを検証する）ことが、難しくなっている。
失敗率のほうは、まだ分かりやすい話です。新しい道具なのだから、当たり前とも言えます（なおこの3分の1は、実際の業務での失敗率ではなく、各社のAIに同じ問題集を解かせて点数をつける場での数字です。スタンフォード大学の研究機関が毎年出している報告によるもので、AIがすでに実務に組み込まれている一方で、その問題集ではまだ3回に1回つまずく、という文脈で語られています）。
問題は後半です。
「監査が難しい」とは、こういうことです。AIが出した答えについて、なぜその答えになったのかを、後から検証できない。 結果は残ります。その結果を使って仕事も進みます。しかし、判断の理由は残らない。
これはAIの新しい欠陥ではありません。
会社という組織が、ずっと前から同じことをやってきました。AIは、それを機械の速度でやりはじめただけです。
出典：
- フロンティアモデルの失敗率と監査可能性（VentureBeat） https://venturebeat.com/security/frontier-models-are-failing-one-in-three-production-attempts-and-getting-harder-to-audit
- 2026 AI Index Report（Stanford HAI／上記の元データ） https://hai.stanford.edu/ai-index/2026-ai-index-report
- 企業アプリの40%予測（Gartner公式プレスリリース） https://www.gartner.com/en/newsroom/press-releases/2025-08-26-gartner-predicts-40-percent-of-enterprise-apps-will-feature-task-specific-ai-agents-by-2026-up-from-less-than-5-percent-in-2025
② 構造 — けもの道は、10年経つと市道になる
あなたの会社にも、意味の分からないルールがあるはずです。
なぜその順番で承認するのか。なぜその項目を書かせるのか。なぜ月末でなく25日なのか。誰に聞いても「昔からそうなっている」としか返ってこない。変えようとすると、なんとなく反対される。
それは、かつて誰かの正しい判断でした。
馬鹿げて見えるルールほど、当時は何かを解いていました。解いていなければ、定着しなかったからです。誰かが困っていて、誰かが決めて、それで問題が消えた。だから残った。
けもの道を思い浮かべてください。
誰かが近道したくて、芝生を斜めに横切ります。踏み跡がつく。次の人が同じところを歩く。やがて土がむき出しの道になる。そして10年後、市が舗装して、正式な歩道にします。 いま毎朝、大勢の人が当たり前にそこを通っている。最初にそこを踏んだ人間がいたことを、誰も知りません。
舗装された瞬間に、「近道」が「道」になりました。
近道は、目的地と地形があって初めて近道でした。急いでいる人がいて、遠回りの舗道があって、間に芝生があった。その三つが揃っていたから、そこを歩く意味があった。 舗装されると、その三つは消えます。残るのは「そこに道がある」という事実だけ。理由が消えて、形だけが公共物になる。
同じことが、あちこちで起きています。郊外の住宅地を航空写真で見ると、区画に昔の田んぼの形が残っていることがあります。田はもうありません。水を引く都合で決まった曲がり方が、いま車の通り道になっている。 器が完全に入れ替わっても、形だけが残る。
家庭の料理も同じです。母親が当時の事情——子どもが辛いのが苦手だった、安い肉しか買えなかった——で決めた作り方が、子の家庭に受け継がれる。鍋は圧力鍋に変わっているのに、手順だけ残る。理由はもう無いのに、それが「うちの味」になっている。
判断は残る。判断の前提は残らない。
なぜそうなるのか。記録されるのは決定だけだからです。
規程には「こうする」と書いてあります。しかし「当時こういう問題があり、こういう制約の下で、これが最善だった」とは書いてありません。決めた人の頭の中にしかなかった。そして、その人は異動したか、辞めています。
前提が変わっても、見直しの起点が無い。
見直すには「これは何を解くために作られたのか」が分かっていなければなりません。それが分からなければ、「もう要らない」とも判断できない。だから、廃止がいちばん難しい。 増やすのは誰でもできます。減らすには、出自を知る必要がある。
Vol.09で、決まっていない領域は組織が動いている限り自然に生まれ続ける、と書きました。今号はその裏面です。決めたことも、理由が消えたまま、そこに残り続ける。 組織には、この二つが同時に溜まっていきます。
そして戦略の階層で読むと、なぜ内部から直せないかが分かります。
その部門の中では、そのルールは合理的です。実際に何かを回している。困っている人はいない。上の階層から見ると、要らない。 全社の様式と重複している、順番が逆になっている、もう存在しない制約に対応している。
判断が届く範囲が、部門で切れているのです。 部門の中にいる人には、部門の外の景色が見えない。見えない以上、直しようがない。階層をまたいで見られるのは、上にいる人だけです。
ここまでが、AI以前からずっとあった話です。そこに、①の数字が乗ります。
AIは、この生成を機械の速度でやります。 これまで一つの仕組みを作るのに数日かかったものが、数時間で形になる。判断の量が桁で増える。そして、その判断の理由は監査できない。
人間の場合、理由は「決めた人の頭の中」にはありました。少なくとも、その人が社内にいるうちは聞けた。AIの場合、最初からどこにも無い。
③ 経営者の自分事
ここから先は、私が実際に経験した話です。
私がサラリーマンだったのは、2000年代の7年間、2社だけです。肩書きは営業とマーケティングの部長でしたが、システムも自分で作っていました。 その間ずっと、店舗の立ち上げか、新規事業か、新部門の立ち上げをやっていました。前例の無い場所に、仕組みを作る側でした。
その後は独立して、いまもエンジニアです。肩書きが変わっただけで、やっていることはあのころから変わっていません。
そして9年ぶりに、古巣へ戻りました。 今度はエンジニアという肩書きで、新規事業の開発です。2年いました。正直に言えば、その仕事はうまくいきませんでした。
うまくいかなかった話は措くとして、その2年で、見たものがあります。
私がいたころに作った独自のシステムは、もうありませんでした。 社内では、私の名前で呼ばれていたシステムです。 一人の人間の名前がシステムの名前になっている時点で、どういう代物か察しがつくと思います。実際、典型的な負の遺産でした。 それも特大の。
そのシステムは、Salesforce（世界で最も広く使われている顧客管理システム）に移し替えられていました。ここまでは、正しい判断です。 属人的な独自システムを捨てて、世の中の標準に乗せる。誰がやってもそうします。
問題は、中身でした。
