2026年7月26日／株式会社東京ネット工務店 海老沢敦
① 事実
企業のAIエージェント（人が逐一指示しなくても、自分で手順を判断して動くAI）は、いま本番の業務に入りつつあります。Gartnerの予測では、2026年末までに企業向けアプリケーションの<strong>40%</strong>がこれを組み込むとされています。2025年は5%未満でした。<strong>1年で8倍</strong>です。
その一方で、こういう報告が出ています。
最先端のAIモデルは、いまも3回に1回の割合で失敗している。しかも、その挙動を後から監査する（なぜそうなったかを検証する）ことが、難しくなっている。
失敗率のほうは、まだ分かりやすい話です。新しい道具なのだから、当たり前とも言えます（なおこの3分の1は、実際の業務での失敗率ではなく、各社のAIに同じ問題集を解かせて点数をつける場での数字です。スタンフォード大学の研究機関が毎年出している報告によるもので、AIがすでに実務に組み込まれている一方で、その問題集ではまだ3回に1回つまずく、という文脈で語られています）。
問題は後半です。
「監査が難しい」とは、こういうことです。AIが出した答えについて、なぜその答えになったのかを、後から検証できない。 結果は残ります。その結果を使って仕事も進みます。しかし、判断の理由は残らない。
これはAIの新しい欠陥ではありません。
会社という組織が、ずっと前から同じことをやってきました。AIは、それを機械の速度でやりはじめただけです。
出典：
- フロンティアモデルの失敗率と監査可能性（VentureBeat） https://venturebeat.com/security/frontier-models-are-failing-one-in-three-production-attempts-and-getting-harder-to-audit
- 2026 AI Index Report（Stanford HAI／上記の元データ） https://hai.stanford.edu/ai-index/2026-ai-index-report
- 企業アプリの40%予測（Gartner公式プレスリリース） https://www.gartner.com/en/newsroom/press-releases/2025-08-26-gartner-predicts-40-percent-of-enterprise-apps-will-feature-task-specific-ai-agents-by-2026-up-from-less-than-5-percent-in-2025
② 構造 — けもの道は、10年経つと市道になる
あなたの会社にも、意味の分からないルールがあるはずです。
なぜその順番で承認するのか。なぜその項目を書かせるのか。なぜ月末でなく25日なのか。誰に聞いても「昔からそうなっている」としか返ってこない。変えようとすると、なんとなく反対される。
それは、かつて誰かの正しい判断でした。
馬鹿げて見えるルールほど、当時は何かを解いていました。解いていなければ、定着しなかったからです。誰かが困っていて、誰かが決めて、それで問題が消えた。だから残った。
けもの道を思い浮かべてください。
誰かが近道したくて、芝生を斜めに横切ります。踏み跡がつく。次の人が同じところを歩く。やがて土がむき出しの道になる。そして10年後、市が舗装して、正式な歩道にします。 いま毎朝、大勢の人が当たり前にそこを通っている。最初にそこを踏んだ人間がいたことを、誰も知りません。
舗装された瞬間に、「近道」が「道」になりました。
近道は、目的地と地形があって初めて近道でした。急いでいる人がいて、遠回りの舗道があって、間に芝生があった。その三つが揃っていたから、そこを歩く意味があった。 舗装されると、その三つは消えます。残るのは「そこに道がある」という事実だけ。理由が消えて、形だけが公共物になる。
同じことが、あちこちで起きています。郊外の住宅地を航空写真で見ると、区画に昔の田んぼの形が残っていることがあります。田はもうありません。水を引く都合で決まった曲がり方が、いま車の通り道になっている。 器が完全に入れ替わっても、形だけが残る。
家庭の料理も同じです。母親が当時の事情——子どもが辛いのが苦手だった、安い肉しか買えなかった——で決めた作り方が、子の家庭に受け継がれる。鍋は圧力鍋に変わっているのに、手順だけ残る。理由はもう無いのに、それが「うちの味」になっている。
判断は残る。判断の前提は残らない。
なぜそうなるのか。記録されるのは決定だけだからです。
規程には「こうする」と書いてあります。しかし「当時こういう問題があり、こういう制約の下で、これが最善だった」とは書いてありません。決めた人の頭の中にしかなかった。そして、その人は異動したか、辞めています。
前提が変わっても、見直しの起点が無い。
見直すには「これは何を解くために作られたのか」が分かっていなければなりません。それが分からなければ、「もう要らない」とも判断できない。だから、廃止がいちばん難しい。 増やすのは誰でもできます。減らすには、出自を知る必要がある。
Vol.09で、決まっていない領域は組織が動いている限り自然に生まれ続ける、と書きました。今号はその裏面です。決めたことも、理由が消えたまま、そこに残り続ける。 組織には、この二つが同時に溜まっていきます。
そして戦略の階層で読むと、なぜ内部から直せないかが分かります。
その部門の中では、そのルールは合理的です。実際に何かを回している。困っている人はいない。上の階層から見ると、要らない。 全社の様式と重複している、順番が逆になっている、もう存在しない制約に対応している。
判断が届く範囲が、部門で切れているのです。 部門の中にいる人には、部門の外の景色が見えない。見えない以上、直しようがない。階層をまたいで見られるのは、上にいる人だけです。
ここまでが、AI以前からずっとあった話です。そこに、①の数字が乗ります。
AIは、この生成を機械の速度でやります。 これまで一つの仕組みを作るのに数日かかったものが、数時間で形になる。判断の量が桁で増える。そして、その判断の理由は監査できない。
人間の場合、理由は「決めた人の頭の中」にはありました。少なくとも、その人が社内にいるうちは聞けた。AIの場合、最初からどこにも無い。
③ 経営者の自分事
ここから先は、私が実際に経験した話です。
私がサラリーマンだったのは、2000年代の7年間、2社だけです。肩書きは営業とマーケティングの部長でしたが、システムも自分で作っていました。 その間ずっと、店舗の立ち上げか、新規事業か、新部門の立ち上げをやっていました。前例の無い場所に、仕組みを作る側でした。
その後は独立して、いまもエンジニアです。肩書きが変わっただけで、やっていることはあのころから変わっていません。
そして9年ぶりに、古巣へ戻りました。 今度はエンジニアという肩書きで、新規事業の開発です。2年いました。正直に言えば、その仕事はうまくいきませんでした。
うまくいかなかった話は措くとして、その2年で、見たものがあります。
私がいたころに作った独自のシステムは、もうありませんでした。 社内では、私の名前で呼ばれていたシステムです。 一人の人間の名前がシステムの名前になっている時点で、どういう代物か察しがつくと思います。実際、典型的な負の遺産でした。 それも特大の。
そのシステムは、Salesforce（世界で最も広く使われている顧客管理システム）に移し替えられていました。ここまでは、正しい判断です。 属人的な独自システムを捨てて、世の中の標準に乗せる。誰がやってもそうします。
問題は、中身でした。
新しく作っていたアプリから、そのデータを見て、私は倒れそうになりました。 移し方が、あまりに酷かったからです。新しいシステムの考え方に沿って作り直されておらず、古い形が、そのまま彫り込まれていた。 翻訳されていないのです。それでは、乗り換えた意味がありません。
そして、もっと驚いたのは、システムではありませんでした。会話です。
営業部門の人たちが話していることが、私がいたころとほとんど同じでした。数値につけた名前。私の言い回し。それだけではありません。話の順番まで、同じでした。
何を最初に見て、次に何を確かめて、どこで判断を切るか。それは、あのころの課題を解くために私が決めた手順です。 業務のやり方として決めて、そのままシステムに落とし込んだ、あの順番。それが9年後、人が話す順番として残っていました。
気になって、聞いてみました。「なんで、そうしてるんですか」「なんでそこで、それを見るんですか」
返ってきたのは、まず顔でした。この人は何を言っているんだろう、という顔です。
そして、答えはこうでした。「入ったときから、こうです」「そう教わりました」 それ以上でも、それ以下でもない。理由を聞かれたこと自体が、意外だったのだと思います。
念のために書いておきますが、彼らは優秀でした。手を抜いてもいません。ただ、理由というものが、そこに無かった。 忘れられたのではありません。最初から、渡されていなかったのです。 彼らにとってそれは、生まれたときからそこにある景色でした。
そして——その景色を作った人間が目の前にいることを、誰も知りません。
自分の書いた台本を、台本だと知らない人たちが、当たり前の顔をして演じている。
正直に書きます。黒歴史を見せられている気分でした。
あれは暫定解です。 その時点の課題を、その時点の制約の中で解くために作ったもので、10年使うつもりで設計したものではない。私の間に合わせが、会ったこともない人たちの当たり前になっていた。
ここで、移した人を責めるのは簡単です。実際、そのときの私はそう思いました。何も分かっていない人間がやったんだろう、と。
でも、いま振り返ると、違います。移した人には、翻訳しようがなかったのです。
翻訳するには、それが何を解くために作られたのかを、知っていなければなりません。 私が作った理由は、どこにも残っていませんでした。残っていたのは、手順と数値だけです。理由の分からないものを、別の考え方の器に移すことはできません。 できるのは、形をなぞることだけです。
そして、なぜあそこまで翻訳しにくいものになっていたのか。 いま考えると、私の作り方に理由があります。
あのころ、私は営業部門を立ち上げながら、同時にシステムを作っていました。 業務のやり方を先に決めて、それをシステムに落とす——ではありません。両方を並行して、混ぜながら進めていた。
この作り方は、速いし、よく効きます。現場で困ったことが、その日のうちに仕組みに反映される。実際、それで部門は回りました。
ただし、分離できない形で残ります。
業務のやり方とシステムが融合しているということは、なぜそうなっているかの理由が、業務の側にしか無いということです。システムに残るのは、決まった結果だけ。②で書いたことが、そのまま起きています。判断は残る。前提は残らない。 私は、その構造そのものを作っていたわけです。
だから、システムだけを取り出して別の器に移そうとしても、解けない。強みとして働いていたものが、そのまま負の遺産になりました。同じものの、表と裏です。
——ここまで、私個人の恥として書いてきました。ですが、これは私の古巣だけの話ではありません。
独自システムをSalesforceに載せ替える。 これは、いま日本中で起きています。行政が「古い仕組みを新しいものに入れ替えましょう」と旗を振り、補助金が移行の費用を出し、それを受けて移行を請け負うベンダーが入る。流れとしては、どこも間違っていません。
問題は、補助金が何を測れるかです。
補助金が確認できるのは、移行が完了したことです。データが移り、新しいシステムが動いている。これは測れます。領収書も出ます。
翻訳できたかどうかは、測れません。
古いやり方が形だけ彫り込まれているのか、新しい器の考え方に沿って作り直されたのか——外から見ても、動いている限り区別がつきません。 Vol.07で書いた「気づけない不良」と、まったく同じ形です。
しかも、移行を請け負うのは、その会社の外の人間です。中の人ですら「これは何を解くために作られたのか」を答えられないのに、外から来た人に分かるはずがありません。理解していないというより、知りようがない。
測れるものにはお金が出て、測れないものには出ない。 そして、測れないほうが本体でした。
そのとき理解したことがあります。私は、あの「意味の分からない社内ルール」を作った側の人間だった。 ②で書いた話の、両側を見たわけです。作った側と、9年後にそれを発見する側と。
だから、ここから先は自分への戒めとして書きます。
社内のフローやルールは、面倒でも、経営者が定期的にチェックしなければなりません。 戦略の階層というフレームを当てて、一つずつ見る。これは戦術の話か、戦略の話か。何を解くために作られたのか。その前提は、まだあるのか。
面倒です。動いているものを止めて見るのだから、当然そうなります。誰も困っていないものを点検するのだから、やる気も出ない。
外に出せないか、と考えるのは自然です。会計はもう外に出しています。税理士がいて、監査法人がある。同じように、業務フローの点検も誰かに任せられないのか。
これは、構造上できません。
監査とは、基準に照らして合っているかを見る仕事です。基準があって初めて成立する。ところが戦略の階層で点検するというのは、その基準がまだ有効かを問うことです。監査は、自分が使っている物差しそのものを検査できません。 それをやったら、監査ではなくなります。
それどころか、逆に働きます。監査が見るのは「定められた通りに運用されているか」です。変えていないことが、良いこととして評価される。 手順を変えるには変更の手続きが要る。だんだん、変えないほうが楽になる。制度としての監査は、この号で問題にしている化石化を、むしろ後押しします。
それでも、経営者がやるしかありません。 部門の中の人には見えない。外の専門家は、構造上そこを見られない。階層をまたげるのは、上にいる人だけです。
ただし、経営者が一人で点検して回ると、それは一回の棚卸しで終わります。
自分のキャパで頭打ちになり、数年後にはまた同じだけ溜まる。本紙で繰り返し書いてきた言い方をすると、それはストックであって、ループではありません。 一度きれいにしたという在庫が手元にあるだけで、次にまた溜まったときに動き出す仕組みは、どこにもない。
では、どうすればループになるか。
評価軸に入れることです。
管理職を「業績を上げたか」だけで評価するのをやめて、「戦略の階層で、自分の部門のフローを点検できるか」を評価軸に入れる。 そうすると、点検は個人の気力ではなく、組織が毎年回すものになります。人が入れ替わっても回り続ける。
なぜそう言えるのか。私の失敗を、そのまま裏返した話だからです。
古巣で生き延びていたのは、私が作ったものの中でも、顧客の評価軸でした。評価軸に入っているものは、全員が毎回それを使って判断します。使われるから回り続ける。組織の中で唯一、放っておいても回り続ける場所が、評価軸です。
ただ、ここを取り違えてはいけません。
私の作ったものが優れていたから残ったのではありません。誰も、それを変えていいものだと思わなかったから残ったのです。
後を引き継いだ人たちは、怠けていたわけでも、能力が足りなかったわけでもありません。業務フローというものは、その時々の作戦であって、状況が変われば変えるものだ——ということを、知らなかっただけです。
知らなければ、疑いようがありません。疑うには、まず「これは変えられるものだ」と思っている必要があります。変えられないものを、人は疑いません。 天気を疑う人がいないのと同じです。
私が作ったとき、あれは明らかに作戦でした。その時期の課題があり、その制約があり、だからその手順にした。私にとっては、変えるのが前提のものです。 それが引き継がれていくうちに、作戦ではなく、環境になりました。気がついたら、そこにあるもの。
戦略の階層でいえば、これは階層の取り違えです。戦術として作られたものが、制度として受け取られた。 作った側と受け取った側で、階層の認識が切れたわけです。
「文化になっていた」というのは、つまりこういうことでした。文化とは、疑う対象から外れたもののことです。
しかも、たちの悪いことがあります。うまく回っているものほど、この状態になります。 下手な仕組みなら、誰かが文句を言って、そのうち直る。よくできた暫定解は、誰も触らない。だから10年残る。 私が驚いたのは、自分の工夫が生き延びていたからではありません。10年、誰もそれを「変えていいもの」だと思わなかった、という事実にです。
個別のルールや基準を評価軸に入れると、それは化石になります。 回り続けるがゆえに、変えられるものだと思われなくなる。私がやったのは、まさにこれでした。10年後に誰かが「なぜこれで判断しているのか」と首をかしげる状態を、自分で作ったわけです。
評価軸に置くべきなのは、答えではなく、「点検すること」そのものです。 「この手順を守っているか」ではなく、「この手順を、ちゃんと見直したか」を見るということです。
点検というループを置けば、中身は入れ替わり続けます。私が本当に残すべきだったのは、あの顧客評価軸ではありませんでした。「この評価軸は、何を解くために作ったのか」を毎年問い直す習慣のほうです。そちらを残していれば、私の暫定解は10年も生き延びなかったはずです。生き延びないほうが、正しかった。
そして、これは号令では解決しません。
「おかしいと思ったら言ってくれ」と言っても、変えていいものだと思っていない人からは、何も出てきません。 意見が出ないのは、意欲の問題ではない。それが意見の対象になりうる、と思われていないだけです。
評価軸に入れて、初めて伝わります。評価は、組織にとって最も強い意思表示だからです。 何で評価するかは、その会社が何を仕事だと思っているかの表明そのものです。点検を評価軸に置いた瞬間に、「業務フローは変えるものだ」が、口で言うより確実に伝わります。
うちの社員は言われたことしかやらない、という嘆きを聞くことがあります。 多くの場合、言われたこと以外をやっていいと、一度も伝わっていません。少なくとも、評価という形では伝わっていない。
AIの話に戻ります。
これから、暫定解が大量に生まれます。①で見たとおり、AIは仕組みを作る速度を桁で上げ、しかもその理由を残しません。私が10年かけて一つ残したようなものが、これからは1年で何十個も生まれます。 誰も理由を知らないまま、10年後に文化になっているものが。
だから、問いはAIをどう使うかではありません。あなたの会社に、「これは何を解くために作られたのか」を問い直す動作が、仕組みとして入っているかどうかです。
——明日、こう話してみてください。「うちのあの意味の分からないルールさ、作った人は当時、正しかったんだと思うよ。困ってたことがあって、それを解いたから残ったんだ。問題は、それ以来ずっと、誰もあれを『変えていいもの』だと思ってないことでさ。 業務のやり方なんて、その時々の作戦なんだけどな」
CoBANTO3-AIチャット
https://www.netkomuten.tokyo/lp/co-banto3-ai
本紙のバックナンバーを記憶し、本紙の読み方（戦略の階層・歴史循環）で、あなたの会社の状況に当てて答えるAIチャットです。記事は「地図」ですが、地図は現地には当たりません。「この号の話、うちの場合はどうなるのか」を訊く場所として用意しました。
ご利用は事前購入のクレジット制です（1,000円から）。月額の契約ではないので、解約の手続きはありません。使った分だけ減り、無くなれば止まります。
読者登録をいただいた方に、無料クレジットを500クレジット追加させていただきました。ぜひ使ってみてください。
ライトノベル「ようこそ、東京ネット工務店へ」
https://www.netkomuten.tokyo/channels/novel-tnk-part1/articles/ch06
小さなIT企業の現場を書いた小説です。毎号1話ずつご紹介します。
今号の話：〈第一部 夏編6「AI鏡の原則 - 道具が、態度を映す」〉
タクヤが、AIに雑に訊きます。返ってきた答えも、雑でした。同じことを、今度は丁寧に訊いてみます。
Q&Aコーナー
AI・IT業界に関するご質問を募集しています。CoBANTO3-AIチャットのサポートも、こちらへお願いします。
いただいたお名前は匿名にして回答します。内容によっては、個別に回答させていただく場合があります。