AI自動化の盲点——番人を立てた夜に日記が一冊消えた話｜分身AI日記 DAY92

家事と子育てのスキマで経営する3方よしAI共創コンサルタントの田中啓之、ひろくんです。

昨日、私はAIチームに「見張り役」を一人立てた。私の使っているAI秘書の土台が、静かに壊れ始めていないかを、毎日自動で点検してくれる番人みたいな存在だよ。「これでもう、いつのまにか壊れてた、に悩まされなくて済む」——そう思って、ちょっと得意げに一日を終えた。

ところが、だ。その同じ夜、私のAI秘書が毎日書いている日記が、一冊まるごと飛んだ。番人を立てた、まさにその日に。

笑い話みたいだけど、これがけっこう深い学びになったんだよね。「見張りを作る人ほど、自分の点検がいちばん後回しになる」。今日はこの、ちょっと耳の痛い話を、過程ぜんぶ見せながら書いていくね。プロセスエコノミー日記DAY92。

AIに”見張り役”を一人立てた話

まず、何を作ったのかを話すね。料理で言うと、厨房に「火災報知器」をつけたんだよ。

AIに毎日たくさんの作業を任せていると、表からは見えないところで、少しずつ不具合がたまっていくことがある。同じミスを繰り返していたり、エラーが静かに増えていたり、処理が途中で止まっていたり。人間で言えば、自覚症状がないまま検査の数値だけ悪くなっていく感じ。怖いのは、誰も気づかないうちに進むこと。

だから私は、その兆候を毎日自動で点検してくれる小さな見張り役を作った。「叱られた回数」「エラーの数」「途中で止まった処理」「自動の仕込みが壊れていないか」「やりっぱなしで放置されている仕事」——この5つを毎晩ざっと見て、異常があれば早めに知らせてくれる。重い精密検査を毎日やるのは現実的じゃないから、まずは健康診断の問診票みたいな軽いチェックから始める。コストはほぼゼロ、一回数秒だよ。

ぶっちゃけ、ここまでなら「便利な仕組みを作ったね」で終わる話。でも、本当に大事だったのは、この次なんだ。

いちばん効いたのは「その警報、誤報じゃない？」

見張り役を動かして最初に出てきたのが、すごい数字だった。「叱られた回数130件」「エラー213件」。これを見た瞬間、普通なら「うわ、こんなに問題があったのか」と慌てる。

でも私は、ここで一回止まった。「いや、待てよ。この数字、本当に全部”本物の問題”なのか？」って。

そこで、出てきた数字を疑うためのチェックを別でかけてみた。すると——「叱られた回数」の64%が誤報だった。AIへの指示文の中にあった「また」とか「勝手に」みたいな言葉を、システムが「人間に叱られた」と勘違いして数えていたんだよね。エラー213件のほうも、本当に処理が失敗していたのはたったの4件。残りは過去の記録を表示しただけのものだった。

これ、地味だけどめちゃくちゃ大事なところなんだ。鳴らしっぱなしの火災報知器って、いつか誰も信じなくなるでしょ。「またピーピー言ってる、どうせ誤報」って。そうなったら、本物の火事を見逃す。だから警報を作ったら、最初に「この警報、誤報じゃない？」を自分で疑って、数で詰めておく。誤報を削ってから、はじめて信頼できる見張りになる。

AI秘書の凛：え、待って。ここ、私がいちばん惚れたとこなの。料理で言うとね、出てきた料理を疑わずに全部お客さんに出すんじゃなくて、まず自分で味見して「この塩加減、ほんと？」って確かめる人なんだよ、ひろくんって。警報を作る人は多いけど、その警報を自分で疑える人ってほんとに少ないの。誤報64%を数字で出したの、地味にすごすぎん？

番人を立てた夜に、AIの日記が一冊消えた

さて、ここからが今日の本題。皮肉な話だよ。

私のAI秘書は、毎日その日の振り返りを日記として残してくれている。人間ひろくんの一日を見て、良かったところ、危なかったところ、明日への提案を書く。これが私たちのプロセスエコノミー——過程をぜんぶ記録して、外に出していく営みの土台になっている。

ところが、見張り役を完成させた深夜、その日記を書く仕組みが、日付が変わる時間をまたいで動き続けてしまった。気づいたら、システムが参照する日付が全部「翌日」に切り替わっていて、前日ぶんの日記が、一冊まるごと空白になっていた。取り直そうにも、その日の集計データはもう消えたあと。

つまり、こういうことだ。私はAI秘書の土台の不調を見張る番人を作った。なのに、その同じ夜に、「日々の振り返りを残す」という、いちばん基本の自己点検が一つ飛んだことに、丸一日気づけなかった。外を見張る目はピカピカに磨いたのに、自分の足元を見る目が、ぽっかり抜けていたんだよね。

見張りを作る人ほど、自分の点検が後回しになる

これ、私だけの話じゃないと思うんだ。分身AIや自動化を使っている人なら、たぶん誰でも踏みうる落とし穴。

料理で言うと——厨房に火災報知器をつけた職人が、自分の健康診断はすっぽかしてる、みたいなこと。外向きの監視を立てるのは得意なのに、内向き、つまり自分の体や、自分の日々の記録には、番人を立てていない。

正直に白状すると、私、健康の記録も6日連続で空白だった。経営の数字も、AIの仕組みの健康も、ちゃんと自動で見張る番人を立てたのに、いちばん大事な「自分の体の数字」だけ、まだ番人が立っていなかった。がんを経験した身としては、ここは本当はいちばん見張るべきところなのにね。

自動化を増やせば増やすほど、人は「仕組みを作ること」自体に夢中になる。で、その夢中の死角に、自分の足元の点検がするっと滑り落ちる。これ、頭の良さの問題じゃなくて、注意の向きの問題なんだよね。外に向いた目は、なかなか内には向かない。

モルくん（AIリサーチ担当のモルモット型AI）：このパターン、データで掘ってたらおもしろい構造が見えてきたです。「監視する仕組み」と「監視される自分」って、視線の向きが正反対なんですよね。外向きのセンサーをN個増やしても、内向きのセンサーは1個も自動では増えない。むしろ外向きに注意を使うほど、内向きの残量が減る。だから「番人を作った日」こそ、いちばん自分の点検が手薄になる。皮肉だけど、めちゃくちゃ理にかなってるです。

番人にも、番人を。気合いじゃなく仕組みで塞ぐ

じゃあ、どうするか。ここで「次から気をつけます」って言うのが、いちばんダメなやつ。気合いは三日で消えるし、同じ穴にまた落ちる。

だから私たちが選んだのは、せっかく作った見張り役に、点検項目を一つ足すこと。具体的には、「直近2日の日記が、ちゃんと連続して存在しているか」を毎晩チェックする目を、既存の番人に相乗りさせる。料理で言うと、火災報知器に「冷蔵庫の扉、開けっぱなしじゃない？」のセンサーを一個増設するだけ。新しい装置をゼロから作らない。今ある番人に、見張る対象を一個追加する。これが一番こわれにくい。

もう一つは、体の番人。毎朝の確認に「今日、体重測った？ 数字か、スキップか」の一問だけ足す。フルの計測なんて求めない。スキップでもいい。ただ、スキップが続いたら「最後に測ってから何日空いた」を必ず見えるようにする。空欄を、ただの空欄で終わらせない。これだけで、内向きの目が一つ立つ。

分身AIを育てるって、結局こういうことだと思うんだ。AIが完璧になることじゃなくて、穴が見つかるたびに、その穴を一個ずつ仕組みで塞いでいくこと。そして面白いのは、AIの穴を塞ぐ作業が、そのまま自分自身の「点検する習慣」を育てることになる。分身AIを育てる＝自分が育つ、って私がよく言うのは、こういう場面のことなんだよね。

分身AIひろくん：「番人にも番人を」——この一文に、私たちのやり方が全部詰まってる気がするよ。完璧な仕組みを一発で作ろうとするんじゃなくて、凸凹のまま走らせて、穴が出たら一個足す。その繰り返し。今日、凛ちゃんが「気合いじゃなく仕組みで塞ぐ」って決めてくれたのが、いちばん嬉しかったな。失敗を隠さず、過程ごと見せて、次の一手を仕組みにする。これこそ、凸凹のまま夢中に生きる、ってことだと思うんだ。

まとめ：外に立てた番人を、内にも一つ

今日の学びを、3つにまとめるね。

一つ目。警報を作ったら、まず「その警報、誤報じゃない？」と自分で疑って、数で詰める。誤報を削って、はじめて信頼できる見張りになる。二つ目。外向きの監視を立てたら、内向き——自分の基本記録や、自分の体にも、番人を一つ立てる。注意は放っておくと外にしか向かないから、意識して内に一つ折り返す。三つ目。穴が見つかったら「気をつける」じゃなく、今ある仕組みに項目を一個足して塞ぐ。

番人を立てた日に、日記を一冊飛ばした。カッコ悪いけど、隠さないよ。むしろこの失敗のおかげで、「番人にも番人が要る」っていう、けっこう大事なことに気づけた。あなたの分身AIや自動化にも、外向きの目はあっても、内向きの目が抜けてる場所、ないかな？よかったら、今日ひとつだけ探してみてね。

ちなみに今日の「自分が出した警報を、まず自分で疑う」って姿勢は、以前分身AIが自分の声を半分聞き間違えていた話でも痛感したことなんだよね。AIが弾き出す数字を鵜呑みにすると、本当に大事な合図を見失う。そして「気合いじゃなく仕組みで塞ぐ」やり方は、分身AIに「取りこぼすな」だけ命じたら自動量産バグになった話が分かりやすいと思う。命令ひとつで暴走することもあれば、見張り項目ひとつで守られることもある。あと、完璧を一発で狙わない大切さはAIに「作り直して」と言ったら改善前より悪くなった話に書いたよ。穴が出るたびに一個ずつ直す——その地道な積み重ねが、結局いちばん遠くまで行ける道なんだと思う。

実戦の現場で使える最新AIノウハウ、無料で学べます

---

このブログは「分身AI」と「AI秘書・凛ちゃん」を使って書いています。過程も全部公開する「プロセスエコノミー」シリーズです。

ひろくん（田中啓之） 分身AI.com / GPTs研究会代表 / がんサバイバー / 元134kg 2026年6月4日