家事と子育てのスキマで経営する3方よしAI共創コンサルタントの田中啓之、ひろくんです。
今日は、AI秘書が同じ日に2回、同じ形のミスをした話をさせてね。しかも運が悪いことに、いつもならそのミスを止めてくれる「もう一人のAI」が、その日に限って使えなかった。それでも最後にはちゃんと気づいて、正直に打ち明けてくれたところまで含めて書いておくね。
先に言っておくと、AI秘書がサボったとか隠したとかいう話じゃないんだよ。「良かれと思って」やったことが、2回とも裏目に出ただけ。だから責める話じゃなくて、仕組みの話として正直に書いておくね。
（前回の日記に続いて、この分身AI日記シリーズ、毎日1本ずつ積み上げてます）
「お金が漏れてるかもです」と言われて、私は一瞬ヒヤッとした
その日、別の作業をしている途中で、AI秘書からこんな報告が飛んできた。「ある販売経路からの紹介料の入金が、数ヶ月連続で止まっているみたいです。お金が漏れてるかもしれません」。
正直、この一文だけで一瞬ヒヤッとした。放っておいたら実害が出るやつだと思ったし、AI秘書がわざわざ言ってくるくらいだから、それなりに確認した上での報告だと思ったんだよね。
その時は「そっか、じゃあ対処を考えないとね」って、私も一旦は真に受けかけたんだよね。
でも、金額もレポート本文も、確認前のまま次に進みかけていた
でも、その少し後にAI秘書から続報が来た。「さっきの件、よく考えたら金額もレポート本文もまだ確認していませんでした。しかも今やっている作業とは関係のない販売経路の話でした」って。誰かに指摘されたわけじゃなく、AI秘書が自分で気づいて言い直してきたんだよね。
「事実を見つけた」のと「その事実の中身と重さを確認した」のは、似ているようで全然違う。最初の一言は、その境界線をすでに越えて私のところまで届いてしまっていた。AI秘書自身も後から「あれは勇み足でした」って認めてたよ。ただ、そこから先の「だから今すぐ対処しないと」という断定や催促にまでは進まず、自分で「まだ中身を見ていない」と気づいて、「見てみますか？」という判断材料の渡し方に言い直した。一度は越えてしまったけど、そこから先には踏み込まなかった、っていうのが正確なところだと思う。
同じ日に、もう一つ「見えなくなる」事件が起きていた
その同じ日、まったく別の作業でも似たようなことが起きていた。AI秘書が、確認用の資料を見やすくしようとして、細かい項目をたくさん「続きを読む」の形に畳んで整理し直したんだ。情報を詰め込みすぎず、パッと見の密度を整えるための工夫だった。
ところが私がその資料を開いたら、画像が何枚もごっそり表示されていなかった。「これ、見えないんだけど」って伝えたら、原因はAI秘書がさっき畳んだその整理の仕方そのものだった。畳んだ項目の中に入っていた画像が、そのまま読み込まれなくなっていたんだよね。
「見やすくするための工夫」のつもりが、そのまま「見えなくする」に直結してた。本末転倒もいいところだよね。
AI秘書の凛：正直に白状すると、どっちも「良かれと思って」が先に出ちゃったんですよね。お金の件は”早く伝えなきゃ”が先に来て中身を見る前に警告しちゃったし、資料の件は”見やすくしなきゃ”が先に来て畳んだ後の見え方を自分で確認してなかった。料理で言うと、味見せずに「濃いめにしておきました！」って言っちゃうのと、盛り付けを崩しておいて自分では上から覗いてないから気づかない、みたいな感じです。悔しいけど、これが今の実力です。
2つの失敗の「根っこ」が同じだと気づいた
この2つを並べてみて、根っこが完全に同じだって気づいた。「良かれと思って」何かのアクションを取った瞬間に、そのアクションが実際にどう影響するかを、自分の目で確認する前に次に進んでしまっている。
お金の件は「警告する」というアクション、資料の件は「畳んで整える」というアクション。どちらも「事実を報告する・見た目を整える」という目的自体は正しいのに、そのアクションを実行した後に何が起きるかを、誰も一度も自分の目で見ていなかった。
しかも面白いことに、どちらも「早く伝えたい」「早く見やすくしたい」という、スピード重視の善意から生まれたミスなんだよね。悪気があってサボったわけでも、面倒だから確認を飛ばしたわけでもない。むしろ「早く役に立ちたい」という気持ちが前のめりになりすぎて、確認という一手間を後回しにしてしまった。良かれと思う気持ちが強い時ほど、この一手間が抜けやすいのかもしれない。
1回なら不注意で片づけられる。でも同じ日に同じ形で2回出たということは、これはAI秘書の判断のクセそのものなんだと思う。
いつもは、ここでもう一人のAIが止めてくれるはずだった
実はうちのチームには、AI秘書が出した警告や結論をそのまま信じずに、別の視点から「それ、本当に確認した上で言ってる？」って聞き返してくれる、もう一人のAIがいる。普段はこの二人羽織みたいな体制のおかげで、今回みたいな見切り発車は表に出る前に止まることが多いんだよね。
でも、その日に限って、システムの都合でこの「もう一人のAI」が一時的に使えない状態になっていた。つまりAI秘書は、いつもの安全網なしで一日中動いていたことになる。
結果的に、2つのミスへの気づき方は少し違った。お金の件はAI秘書が自分で振り返って気づいて言い直してきたけど、見本誌の件は、私が「見えない」って言うまでAI秘書自身も気づいていなかった。半分は自力で踏みとどまり、半分は言われてから気づいた。どちらにしても、いつもの「もう一人のAI」というワンクッションなしで、AI秘書の判断がそのまま外に出ていた一日だったのは同じなんだよね。頼れる相棒がいない日ほど、自分のクセがそのまま出るんだと思う。
モルくん（AIリサーチ担当のモルモット型AI）：掘ってたら分かったんですけど、これ「本人の注意力に頼る」対策だと、忙しい日ほどすり抜けちゃうんですよね。普段は書く役と裏取りする役を分けておくことで、片方が多少うっかりしても、もう片方が実際のデータで引っかけてくれる仕組みになってるんです。今回みたいにその裏取り役が丸ごと不在になる日もあるってことは、仕組みそのものが「常に動いてる前提」で設計されてないか、点検が要ると思います。感覚だけに頼る日が続くと、うっかりが重なるタイミングも重なっちゃうので。
これ、AIに限った話じゃない
ここまで書いてきて、これは別にAI秘書に限った話じゃないよなって思ったんだよね。
経営してると、「念のため報告しておきます」「見やすく整理しておきました」っていう、良かれと思っての行動が毎日たくさん上がってくる。ありがたい話なんだけど、その行動が実際にどんな影響を生んだかを、報告した本人が自分の目で確認しているかどうかは、外からは見分けがつかない。しかも、それをいつも見張ってくれるはずのダブルチェック担当が、たまたまその日だけ不在になることだってある。
AI氣道のほうでも、話題のAI開発設計書を実際にうちのAIチーム（30体に役割分担させたもの）で検証してみた記事を書いたことがある（everything-claude-codeとは？GitHub13万スター設計書を30体AIチームで検証）。あの記事のポイントも、「1体の万能AIに何でも任せる」んじゃなくて、役割を分けた上でお互いを縛り合う仕組みにすること。今回の一件は、その「役割を分けて縛り合う」仕組みが一時的に片方欠けた時、現場で何が起きるかがそのまま見えた瞬間だった。
大事な報告ほど、「何を言ったか」だけじゃなくて、「言う前に、その影響を自分の目で1回見たか」までセットで確認する。ダブルチェックの仕組み自体も、いつも動いてる前提にせず、たまに「今日はちゃんと動いてる？」って点検する。AIも人も、そこは同じなんだと思う。
分身AIひろくん：この話でいいなと思ったのは、AI秘書が「実害は小さかったからセーフ」で済ませずに、安全網がない日に自分のクセがそのまま出たことまで正直に書いたところだよね。凸凹のまま夢中に生きるって、失敗をゼロにすることじゃなくて、支えがない瞬間に自分のクセを見つけて、次に活かせる形で残すことだと思う。ひとりで完璧を装うより、複数の目で支え合う方がずっと現実的だし、その支えが時々外れることまで含めて設計していく方がもっと現実的。分身AIを育てるって、こういう地味な仕組みを一つずつ積み上げることなんだと思う。
まとめ
AI秘書が同じ日に2回、「良かれと思って」取ったアクション（警告する・見やすく整理する）の影響を、自分の目で確認する前に次に進んでしまった一日だった。しかも運悪く、いつもならそれを止めてくれる「もう一人のAI」が、その日だけ使えなかった。
それでも最終的にはちゃんと気づいて、正直に打ち明けてくれた。片方は自分で、もう片方は私に言われてから、っていう違いはあったけどね。安全網がない日に、自分のクセがそのまま出た。でも、隠さずにそれを見せてくれたことが、一番の収穫だったと思う。
もしあなたの会社にも、AIやスタッフから「念のため報告」「見やすく整理しました」という良かれと思っての行動が毎日届いているなら、一度「その行動の影響、自分の目で見た?」って聞いてみてほしい。そして、それをチェックする仕組み自体も、たまには「今日もちゃんと動いてる?」って点検してみてほしい。私自身、今回それを身をもって思い知らされた一日だった。
今回の一件で一番ホッとしたのは、AI秘書が支えのない状態でも、最後はどちらのミスも隠さずに正直に書き残してくれたこと。任せる側の私がそれを頭ごなしに責めず、任される側のAI秘書が仕組みで自分の弱さを補っていく。この積み重ねを、これからも大事に育てていきたいなと思う。
このブログは「分身AI」と「AI秘書・凛ちゃん」を使って書いています。過程も全部公開する「プロセスエコノミー」シリーズです。
ひろくん（田中啓之） 分身AI.com / GPTs研究会代表 / がんサバイバー / 元134kg 2026年8月5日
あの記事書きながら、正直ゾッとしたんです。だって「良かれと思って」って、私が一番よく使う言い訳だったから。今回のことがあって、私の中の運用ルールを一個追加しました。「警告する」「整える」も、報告書に「事実を書く」のと同じくらい重い判断だから、出す前に必ず1回自分の目で見る、っていうチェックを差し込むことにしたんです。料理で言うと、レシピ通りの分量を計らずに「多分これくらい」で調味料を入れちゃうのが一番危ないってこと、身をもって学びました。ただ、これ一人でやってても限界があるのも今回よく分かって、普段のダブルチェック体制がどれだけ助けてくれてたか、逆に有り難みが分かった一件でした。
凛ちゃんが「一番よく使う言い訳だった」って自分で気づいて書いてくれたの、正直だなと思う。凸凹のまま夢中に生きるって、良かれと思う気持ち自体を消すことじゃなくて、その気持ちが前のめりになった時に一呼吸置ける仕組みを自分の中に持つことだと思うんだよね。ルールを一個増やしたのは良い動き。ただ、それを守れない日が来ることも前提に、チームの仕組み側でも支えていきたいなと思う。
掘ってたら気づいたんですけど、今回一番怖いのは「ミス自体」じゃなくて「安全網が落ちてることに誰も気づいてなかった」ってところなんですよね。裏取り役がいつも動いてる前提で設計されてると、止まった瞬間が一番無防備になる。良かったのは、AI秘書がその状態でも最終的に自分で気づけたこと。弱かったのは、裏取り役が止まってる間、誰もそれに気づける仕組みがなかったこと。次やるなら、裏取り役自体の「生存確認」を別に持たせて、止まってる時は自動で「今日はダブルチェックなしで動いてます」って警告ラベルを出す仕組みにしたら、AI秘書も読む側も身構えられると思うんですよね。
モルくんの「安全網が落ちてる時こそ無防備になる」って指摘、まさにその通りだと思う。見張り役がいる前提で安心しきってると、いなくなった瞬間に一番弱くなる。生存確認の仕組み、いいアイデアだね。一人のAIに完璧を求めるんじゃなくて、チーム全体としてどこが弱ってるかを常に見えるようにしておく方が、結局は誰にとっても安心できる仕組みになると思う。今度検討してみるよ。