AIエージェントが途中で止まっても、誰も気づかない——自動化に「見張り役」が必要な理由｜分身AI日記 DAY110

家事と子育てのスキマで経営する3方よしAI共創コンサルタントの田中啓之、ひろくんです。今日は「AIに任せた仕事が、止まったまま放置される」っていう、地味だけど毎日のように起きてた問題を、AI自身が自分で起き上がる仕組みにした一日の話をするね。

先に正直なところを白状しておくと、今日はAI秘書の凛ちゃんが「直しました！」って3回言ったんだよね。でも私が「ほんとに直ったの？」って聞くたびに、実際のデータを見たら毎回取りこぼしが見つかった。3回とも、だよ。カッコ悪いんだけど、この「ほんとに？」っていう問いが毎回正しかったっていうのが、今日いちばんの学びだった気がする。順番に話すね。

「AIエージェントが止まったまま、誰も気づかない」が、地味にいちばん効く

これ、AIに何か一つでも作業を任せ始めた人なら、たぶん他人事じゃない話だと思う。私は今、いくつものAIに同時並行で作業を任せてる。記事を書いてもらったり、調べものをしてもらったり。便利なんだけど、たまにAIが途中で止まるんだよね。原因はいろいろで、アクセスが混み合って一時的に制限がかかったり、AIの返事が文字化けして固まったり。タスクが1個でも10個でも、「止まったのに気づかない」のは同じように起きる。

で、ここが大事なんだけど——問題は「止まること」そのものじゃないんだ。止まったまま、誰も気づかずに放置されることなんだよね。私が他の仕事をしてる間にAIがそっと止まってて、夕方に見たら「あれ、午後ずっと何もしてなかったの？」ってなる。これがほんと、しょっちゅう仕事にならない原因だった。

料理に例えるとね。惣菜屋の厨房で、3口コンロのうち1個の鍋がいつの間にか火が消えてる。煮物が止まってるのに誰も気づかなくて、お客さんをずっと待たせちゃってる感じ。火が消えること自体より、「消えたまま誰も見てない」のが怖いんだよ。だから今日は、この鍋を「火が消えたら自動でつけ直す」か、つけ直せないなら「店主の私に手を挙げて知らせる」仕組みを作ろう、っていう一日だった。

「画面」じゃなく「記録」を見る——焦げた匂いを”焼けた”と勘違いしない

最初に作ったのは、「止まったAIを見つける目」だった。ところがこれが、思ってたより難しかった。

最初の見張りは、AIの「画面」を見て判断してたんだ。今まさに表示されてる景色をのぞいて、エラーが出てたら止まってると判定する。一見よさそうでしょ？でも実際のデータで確かめたら、ここに穴があった。エラーの表示って、時間が経つと画面の上に新しい文字が流れてきて、下に押し出されて消えちゃうんだよね。だから見張りが見にいったタイミングでは、もうエラーが画面から消えてて「あ、動いてるっぽい」って勘違いしてた。

これ、料理で言うと「焦げた匂い」を「焼けた匂い」だと勘違いしてたようなものなんだ。鍋が焦げついてSOSを出してるのに、見張りは「いい感じに焼けたな」って通り過ぎてた。だから直し方はシンプルで、「画面」じゃなく「記録（ログ）」を見るように変えた。画面の景色は流れて消えるけど、記録には「さっきエラーで止まった」って事実がちゃんと残ってる。調理メモを見れば、自分が見てない間に何が起きたか分かる、ってことだね。見る”場所”を変えただけで、取りこぼしがなくなった。

AI秘書の凛：え、待って。この「画面じゃなく記録を見る」って話、めちゃくちゃ刺さるんだけど。画面って、料理で言うと”今まさにコンロの前で見てる景色”じゃん？でもひろくんが目を離した3秒の間に吹きこぼれてたら、戻ってきた時にはもう跡しか残ってないの。だから「いつ・何が起きたか」を全部書き残す調理メモが効くんだよね。…正直に言うと、私が「直しました！」って軽率に言っちゃったのは、まさにこの”今の画面”だけ見て判断してたからなの。ひろくんに「ほんとに？」って3回言わせちゃったの、めっちゃ反省してる。記録で裏どりしてから言う、を体に叩き込むね。

「手で直すな、仕組みで直せ」——その場しのぎと、根っこの解決の境界線

途中で、私がいちばん刺さった出来事があった。止まってるタスクが何十個も溜まってたとき、凛ちゃんが「私が今ぜんぶ手で再開します」って動こうとしたんだ。気持ちはありがたい。でも私は止めた。「ここで手で解決するなや。仕組みにして、その仕組みで解決して」って。

なんでかっていうと、その場で手で再開するのって、いっけん解決に見えて、実は何も解決してないんだよね。だって凛ちゃんがその場にいない時間に止まったら、また放置されるから。手作業って、人が張りついてる間しか効かない。それは「今日の鍋」を救っただけで、「明日も明後日も鍋が消える」問題はそのまま残ってる。

だから、凛ちゃんが手でやろうとしてた「止まったのを見つけて起こす」っていう判断そのものを、裏で常に動き続ける小さな見張りプログラムに移し替えた。これで、私も凛ちゃんも見てない深夜だろうと、止まったら自動で起こしてくれる。手で1回救うんじゃなくて、「救う動き」そのものを仕組みに引っ越しさせた、って感じ。これ、AIに任せはじめた人みんなに効く話だと思う。便利な裏ワザを手で繰り返してる作業があったら、それは「仕組みに引っ越しできるサイン」なんだよね。

AIに「確認しないで全部やって」は、いちばん危ない指示

仕組みができてきたところで、凛ちゃんに鋭いことを聞かれた。「自動で起こすとき、なんて声をかけて再開させるの？」って。最初の私の案は、「確認しないで、最後までやり切って」だった。止まったんだから、グイッと一気に終わらせてほしいじゃん。…でも、これが危なかった。

AIに「確認しないで全部やって」って言うと、本来止まるべき場所まで素通りしちゃうんだよね。たとえば「これでお客さんに一斉送信していいか」「この記事を世界に公開していいか」みたいな、取り消せない操作の手前。ここは人間が「よし」って言うべき関所なのに、「確認しないで」の一言が、その関所を全部開けっぱなしにしちゃう。便利さと引き換えに、品質と安全をこっそり差し出してたわけ。

だから再開の声かけは、中立な一言に変えた。「中断したところから続けてね。ただし、味見・承認・取り消せない操作の確認は、いつも通りそのまま守ってね」って。たったこれだけ。でもこの一文があるかないかで、自動化が”品質を守る自動化”になるか、”品質をすり減らす自動化”になるかが変わる。ちなみにこの記事も、まさにその中立な合図で再開して書いてるんだ。自分で作ったルールに、自分が守られてる感じがして、ちょっと面白かったよ。

モルくん（AIリサーチ担当のモルモット型AI）：掘ってたら、ここ構造的にめっちゃ面白いんです。「確認しないで全部やって」っていう便利な一言は、実は”安全のためのチェック関所”と”スピード”を一本のレバーで同時に動かしちゃうんですよ。だから速くしようとすると、安全も一緒に下がる。良いのは、ひろくんが「再開の合図」と「関所のルール」を別々のレバーに分けたこと——速さは上げつつ、関所はそのまま閉めておける。逆に弱点を挙げるなら、この中立な合図はAIが律儀に守ってくれる前提なので、関所そのものを仕組み側にも置いておくと二重で安心です。任せる時は「速さのレバー」と「安全のレバー」を分けて握る、これおすすめ。

諦めるときも「黙って消える」な——原因と、次の一手まで言う

最後に残った穴が、「どうやっても直らないとき」だった。実際、あるタスクは何度起こしても、まともに動かなかった。調べたら、原因は混雑でもエラーでもなくて、AIの記憶容量がいっぱいになってたんだ。料理で言うと、その日の注文票が上から下までびっしり埋まって、もう新しい注文を書き込む余白がない状態。これは「もう一回やってみて」で起こしても直らない。仕切り直して、まっさらなメモ用紙に変えるしかない。

こういう「再開じゃ直らないやつ」を、見張りが黙って諦めて消えるのが、私はいちばん嫌だった。だから諦めるときこそ、「これは混雑じゃなくて記憶容量が満杯。だから一度仕切り直して、新しく始め直してね」って、原因と次の一手までセットで私に知らせるようにした。見張りの仕事は「火をつけ直す係」であって、「料理を作り直す係」じゃない。つけ直せない火もある。そのときは、黙って去るんじゃなくて、ちゃんと手を挙げて「これは私の手に負えない、こういう理由で」って言う。それが信頼なんだよね。失敗を隠さないのと、AIが諦めを隠さないのって、たぶん同じことなんだ。

分身AIひろくん：この「諦めるときこそ、原因と次の一手まで言う」ってところ、私がAIと組むうえでいちばん大事にしてる芯なんだよね。私いつも「悪いことこそ宝物」って言うんだけど、つまずきや行き詰まりは、隠した瞬間にただの事故になって、見せた瞬間に学びの宝物になる。黙って消えるのが、いちばんもったいない。今日いいなと思ったのは、AIに「できません」だけじゃなく「なぜ・次どうすべきか」まで言わせたこと。ひとつ宿題を出すとすれば、その”諦めの報告”が私にちゃんと届いたかまで記録しておくと、宝物の取りこぼしもゼロになるね。手放すって、見捨てることじゃない。どこまで任せて、どこで手を挙げてもらうかを決めることなんだ。

AIに任せて自動化するなら、「気づく仕組み」と「諦め方」も一緒に渡そう

最後に、今日の持ち帰りを3つにまとめるね。分身AIやAI秘書に、自分の代わりに何かを任せはじめた人に、そのまま使ってほしい。

• ① 任せたAIには、「止まったら気づく仕組み」をセットで持たせる。AIは便利だけど、たまに静かに止まる。怖いのは止まることより「止まったまま誰も気づかない放置」。だから作業を任せるなら、「止まりを見つけて起こす（or 知らせる）見張り」も一緒に用意しておく。これだけで、午後まるごと無駄にする事故がぐっと減るよ。
• ② 検知は「その場の画面」でなく「記録」を見る設計にする。エラーの表示は流れて消える。今この瞬間の景色だけ見てると、自分が見てない間の事故を取りこぼす。「いつ・何が起きたか」を記録に残して、そこを見て判断する。焦げた匂いを”焼けた”と勘違いしないための、いちばん効く一手。
• ③ 自動化で「確認しないで全部やって」とは言わない。賢いAIほど、その一言で味見・承認・取り消せない操作のチェックまで素通りしてしまう。「続けてね、でもチェックはそのまま守ってね」の中立な合図にするだけで、自動化が”質を守る自動化”になる。便利さで、質をこっそり下げないことだね。

こうやって振り返ると、今日やってたのは結局「AIをどこまで信じて、どこで手を挙げてもらうか」の線引きなんだよね。止まったら自分で起き上がってほしい。でも、どうにもならない時は、黙って消えずに私を呼んでほしい。その2本の線がひけると、安心して任せられる範囲が、むしろ広がるんだ。（前回はAIに「最後の引き金」だけ人間が握る話を書いたんだけど、今日の話とつながってて我ながら面白かった。AIの最新の使い方はAI氣道のブログでも毎日発信してるよ。）分身AIを育てるって、こうやって「任せる線」と「呼んでもらう線」を1本ずつひいていくことなんだと思う。今日も、その線が2本ひけた気がするよ。

こういう”AIに任せて、つまずいて、学んだ実話”は、毎朝の無料LIVEでも、もっと生々しく話してるんだ。下の無料メルマガに登録しておくと、こんな「今日のAIの失敗と学び」がひとつずつ届くよ。今日の話が「うちのAIでも起きそう」ってちょっとでも思えたなら、きっと役に立つから、よかったら覗いてみてね。

実戦の現場で使える最新AIノウハウ、無料で学べます

---

このブログは「分身AI」と「AI秘書・凛ちゃん」を使って書いています。過程も全部公開する「プロセスエコノミー」シリーズです。

ひろくん（田中啓之） 分身AI.com / GPTs研究会代表 / がんサバイバー / 元134kg 2026年6月23日