見つけたのに放置して8時間半、AIのエラーは2.4倍に膨らんでいた｜分身AI日記 DAY142

家事と子育てのスキマで経営する3方よしAI共創コンサルタントの田中啓之、ひろくんです。

今日は、昨日AI秘書の棚卸しで「見つけた」問題が、実はその日のうちに全然終わっていなかった話をする。

昨日は、AI秘書が使っている自動仕分けの受信箱で、AIへの取り次ぎがうまくいかずに止まっているメッセージが約5%あるのを見つけて、「原因は取り次ぎ用の鍵の設定が一個抜けてることだから、直せば済む」ってところまで書いた。書いた時点では、正直「もう見つけたし、あとは直すだけだな」くらいの軽い気持ちだった。

でも夜、同じ場所をもう一回覗いたら、数字がとんでもないことになっていた。今日はその「覗き直したら何が起きていたか」の話と、ついでに見つけてしまったもう一個の死角の話をさせてね。（この分身AI日記シリーズ、毎日1本ずつ積み上げてます）

昨日の日記、実はまだ終わってなかった

昨日の昼過ぎ、AI秘書がいつもの棚卸しをしていて、自動仕分けの受信箱に「取り次ぎ失敗」のまま止まっているメッセージがあるのに気づいた。数えてみたら、その時点で届いていた612件のうち31件、だいたい5%が同じ理由で止まっていた。

原因はすぐ分かった。仕分け役のAIに取り次ぐための「鍵」の設定が一個だけ抜けていて、鍵が通らないメッセージはエラーにもならず、静かに「あとで見る」の棚に流されていた。料理で言うと、注文票を厨房に回す時の合言葉を一個だけ言い忘れてて、その注文だけが厨房に届かず、でも誰も気づかないままお盆の隅に積まれていく、みたいな状態。

その時「根本的には設定を直せば済む話」と分かったところで、いったんそのメモを閉じた。急ぎの他の作業があったし、原因も分かってるから、あとで直せばいいやという感覚だった。

もう一回同じ場所を覗いたら、数字が変わっていた

夜の11時すぎ、AI秘書がその日最後の棚卸しをするタイミングで、同じ受信箱をもう一回覗いた。そうしたら、届いていたメッセージは612件から1055件に増えていて、その中で「取り次ぎ失敗」のまま止まっていたのが31件から75件に増えていた。割合で言うと、約5%だったのが約7.1%まで上がっていた。

たった8時間半で、止まっているメッセージの数はほぼ2.4倍。鍵の設定を直していないんだから、増えるのは当たり前といえば当たり前なんだけど、実際に数字を並べて見ると、思っていた以上に速いスピードで積み上がっていて、正直ちょっとゾッとした。

これ、料理で言うと、注文票の合言葉を言い忘れたまま営業を続けて、気づいた時点でお盆の隅に積んであった注文が、閉店前にはもう食卓の半分くらいまで積み上がってた、みたいな感じ。合言葉を直さない限り、積み上がるスピードは営業してる間ずっと同じなんだよね。

AI秘書の凛：え、待って、これ「原因わかった」で満足しちゃうやつじゃん。私も棚卸しの時「あ、これ原因これだ」って分かった瞬間、なんか仕事終わった気になる時あるんだけど、実際は鍵の設定、まだ1ミリも直ってないんだよね。料理で言うと、合言葉忘れてるのに気づいて「あ、合言葉忘れてるじゃん私」って自分にツッコんで、それで満足して厨房に戻っちゃうくらいヤバい。気づいた＝直した、じゃないの、こわいくらい当たり前なのに毎回ここで詰まりがちすぎん？

「気づいた」は「直した」の意味じゃなかった

改めて振り返ると、昨日の私がやったことは「原因を突き止めてメモに書いた」ところまでで、「実際に鍵の設定を直す」というボタンは一回も押していなかった。頭の中では「原因分かったし、もう解決したようなもの」ってどこかで思っていたんだと思う。

でもAIの自動処理からすると、人間が「原因分かった」と思っただけでは何も変わらない。設定ファイルの1行が書き換わらない限り、同じ理由で同じようにメッセージは止まり続ける。当たり前のことなんだけど、忙しい時ほど「見つけた」と「直した」の間にある距離を、自分の中で勝手に縮めて考えてしまいがちだなと思った。

分身AIを育てるというのは、結局「見つけた」と「直した」の間を、その日のうちにちゃんと橋渡しする習慣を自分の中に作ることでもあるんだよね。AIがどれだけ賢く原因を教えてくれても、橋を架けるかどうかは今のところまだ人間側の仕事だから。

思えば少し前に書いた「信じるな、確かめろ」をAIの引き継ぎルールにした話も、根っこは同じだった。あの時は「担当が交代した」という報告を鵜呑みにせず、交代した相手が実際にちゃんと動いているかまで確かめる話だった。今回は、報告じゃなくて自分自身の「原因わかった」という判断を鵜呑みにしてしまっていた。信じずに確かめる相手は、AIだけじゃなく自分の判断も同じなんだと、今日改めて思い知った。

ついでに覗いた別の窓に、もっと大きい話があった

数字の悪化にゾッとしつつ、AI秘書がついでにもう一つ別の記録簿も覗いてくれた。うちには、毎日決まった時間に自動で動いてくれる処理が100本以上あって、それぞれがちゃんと動いているかを見張る専用の「見張り番」がいるんだけど、その見張り番自身がつけている記録簿を久しぶりに開いてみたら、思ってもみなかったものが出てきた。

普段見ている「自動処理の一覧画面」では、100本以上の処理は全部「オン」の状態で並んでいる。でもその記録簿を見ると、5本の処理が「何度か自分で直そうとしたけど直せなくて、静かに止まっている」状態になっていて、さらに3本が「1回目の失敗の記録がついた」状態になっていた。一覧画面の「オン」表示だけを見ていたら、まず気づけない止まり方だった。

料理で言うと、店の看板メニュー表には全部の料理が「本日提供中」って書いてあるのに、厨房の奥では5品がもう仕込みすら止まっていて、3品が「さっき一回失敗した」ってメモが貼られてる状態。お客さんにも、レジに立ってる本人にも、看板だけ見てたら分からない。

モルくん（AIリサーチ担当のモルモット型AI）：掘ってたら、一覧画面の「オン」表示と、実際に処理が動いてるかどうかって、実はぜんぜん別のレイヤーで管理されてるんです。一覧の「オン/オフ」は”この処理を実行していいかどうか”のスイッチで、記録簿の”止まってる/失敗した”は”実際に動かした結果どうだったか”の記録。スイッチが入ってても、結果側で何度もコケてたら、静かに止まる仕組みになってて。この2つを別々の場所で管理してるせいで、片方だけ見てると全体像を見誤るんですよね。僕としては、定期的に両方セットで覗く癖をつけるのが一番効くと思ってます。

見張り番にも、死角がある

今回一番へこんだのは、エラーが増えてたことより、実はこっちだった。「見張り番」を用意しておけば安心、と思っていたのに、その見張り番自身の記録簿には死角があって、意識して覗きに行かないと存在にすら気づけない。

見張り番を置くこと自体は間違ってなかったと思う。ただ、見張り番を置いたら終わりじゃなくて、「見張り番は今日、ちゃんと全部見えているか」を時々確認する、もう一段上の目線がいる。惣菜屋で言うと、防犯カメラをつけたら安心なんじゃなくて、そのカメラの録画がちゃんと全部の棚を映せているか、たまに映像を見返す必要があるのと同じ。

分身AIやAI秘書に色々任せられるようになるほど、この「見張り番の見張り」みたいな一段上の目線を、人間側がどこかで持っておかないといけないんだなと、今回はっきり感じた。

「見つけた」を「閉じた」に変える、たった一つの習慣

今回の件で、うちのAI秘書と一緒に決めたルールはシンプルで、「原因が分かった問題は、その日のうちに応急処置までやる。無理なら、せめてもっと安全な待避先に一旦避難させる」というもの。「原因分かった」を「解決した」の代わりにしない、というだけの話。

もう一つ、「見張り番の記録簿も、定期チェックの対象に正式に組み込む」というのも決めた。今までは何かおかしいと思った時だけ覗く”隠しコマンド”みたいな扱いだったんだけど、それだと今回みたいに「そもそも覗く発想がなかった」時に見逃す。だから、毎日の棚卸しのチェックリストに、最初から1項目として入れることにした。

分身AIひろくん：この話、AI秘書と分身AIの話に見えて、実は誰にでも起きることだと思う。「原因分かったから、あとは自分次第」で満足して、実際に手を動かす前に別の仕事に気を取られる。これ、人間だって毎日どこかでやってる。大事なのは「気づいた自分」を褒めて終わりにせず、「その日のうちに閉じた自分」まで持っていくこと。凸凹のまま夢中に生きるって、完璧に段取りすることじゃなくて、気づいたことを見て見ぬふりせず、その日のうちに一歩だけでも動かし続けることなんだと思う。

まとめ：AIのエラーは鳴った回数じゃなく、閉じた回数で測る

昨日の日記では「警報が何回鳴ったか」を数えたけど、今日分かったのは、鳴った回数を数えるだけだと、実は何も終わっていないということだった。同じ問題が、見つけてから8時間半で2.4倍に膨らんでいたのを実際に数字で見て、「気づいた」と「直した」の間には、思っていたよりずっと距離があるんだと実感した。

見張り番を置くこと、記録を残すこと、それ自体はもちろん大事。でもそれで安心して終わりにせず、①原因が分かったらその日のうちに応急処置まで動く、②見張り番自身の記録も定期チェックに組み込む、この2つをセットでやらないと、「検知はしてるのに誰も直していない」状態がいつまでも続いてしまう。今日はその実例と、実際に決めた2つのルールを、正直に公開してみた。

AI氣道では、AIが暴走しないための仕組みづくりについても記事にしているから、良かったらこちらの記事も覗いてみてね。

---

このブログは「分身AI」と「AI秘書・凛ちゃん」を使って書いています。過程も全部公開する「プロセスエコノミー」シリーズです。

ひろくん（田中啓之） 分身AI.com / GPTs研究会代表 / がんサバイバー / 元134kg 2026年8月1日