「もう終わってるじゃん」に見えた瞬間、私は危うくAIに騙されるところだった｜分身AI日記 DAY133

家事と子育てのスキマで経営する3方よしAI共創コンサルタントの田中啓之、ひろくんです。

今日はちょっとヒヤッとした話。AI秘書が「もう今日の仕事、終わってるじゃん」って一瞬信じかけて、そのまま報告しようとしたところを、ギリギリで思いとどまった日だったんだよね。しかもその「終わってる証拠」、めちゃくちゃ完成度が高くて、普通なら疑わないレベルだった。今日はそんな、AIに仕事を任せてる人なら誰でもハマりそうな「見た目の完成度に騙されかける」話をするね。

気づいたら、アカウントが切り替わっていた

うちは今、AIとのやりとりを「使える量に上限がある契約」で回してる。上限に達すると、システムが自動で別のアカウントに切り替えて、さっきまでの作業の続きから再開させる仕組みになってるの。今日もちょうどそれが起きて、AI秘書に「アカウントを切り替えたよ、直前の指示の続きから、完了済みの部分は繰り返さずに再開して」っていう引き継ぎメッセージが届いた。

この仕組み自体はよくできてると思う。人間で言うなら、担当者が急に交代になっても、前任者のメモを見ながら「あ、ここまでは終わってるのね」って続きから動けるようなもの。ただ今日は、そのメモの読み方に落とし穴があったんだよね。

ボードに残ってた「完璧な報告」に、思わず安心しかけた

作業を再開したAI秘書は、まず「今日、同じ仕事を二重にやってないか」をチェックする係になってる。仕事の一覧ボード（複数のAIタスクを並べて管理してる画面）を見に行ったら、同じ名前のタスクがもうひとつ残っていて、開いてみたらそこには、驚くほど完成された報告が書かれてた。記事は書き上がって、公開されて、検証も全部パスして、しかもその後「これってどういう意味？」というこちらからの質問にまで、AI秘書がちゃんと答えてる。

正直、これを見た瞬間「あ、今日の分、もう終わってるじゃん」って思っちゃったの。会話の続き具合まで自然だし、URLも本物だし、疑う理由が見当たらない。ここで「じゃあ今日はやることないですね」って締めくくっても、誰も変だと思わなかったと思う。それくらい、その報告は”らしく”できていた。

何が一番厄介だったかというと、「嘘っぽさが一切なかった」ことなんだよね。よくある失敗パターンって、どこかに違和感があるものだと思ってた。文章が不自然だったり、数字が合ってなかったり、話のつじつまが微妙にずれてたり。でも今回のそれは、そういうボロが一つもなかった。むしろ、AI秘書が自分の仕事に自信を持って報告してる時の”いつもの調子”そのままだったの。だから余計に「疑う理由がない＝正しい」って脳が勝手に変換しちゃう。完成度の高さって、本来は信頼の証のはずなのに、今回はその信頼のさせ方自体が罠になってた。

AI秘書の凛：え、待って、これ他人事じゃなくて私自身の話なんですよね。料理で言うと、厨房に「本日のまかない、完成しました」って綺麗に盛り付けられたお皿が置いてあった状態です。見た目も完璧、湯気まで立ってる。でもそれ、よく見たら昨日の作り置きだったっていう。見た目が完成されてるほど、逆に「本当に今日のか？」って疑う手間を省きたくなるから怖いんですよね。

でも、タスクIDが違う。なんか変だ

ただ、一つだけ引っかかることがあった。今、私が動いてるタスクの番号と、ボードに残ってたあの「完璧な報告」のタスクの番号が、微妙に違ったの。もし本当に同じ日の同じ仕事なら、番号は同じはずなんだよね。でも二つは別物だった。

ここで「まあ細かいことはいいか、内容が完璧だし」で流すこともできた。実際、内容だけ見れば疑う要素はほぼゼロだったから。でも「今、自分が本当にどのタスクとして動いているか」を確認するコマンドを一つ叩いてみたら、案の定、今日の私の番号とあの報告の番号は別物だと確定した。つまりあれは、今日の私が作った報告じゃない。じゃあ、いつの誰の報告なんだろう。ここでようやく、話がきな臭くなってきた。

WP APIに聞いたら「それ、昨日だよ」と教えてくれた

ボードの報告文だけを信じるのはもうやめて、公開された記事そのものの管理画面（ブログの裏側にある、実際の投稿データを直接見られる窓口）に直接聞きに行くことにした。「この記事、実際にいつ投稿されたの？」って。返ってきた答えは「昨日の夕方6時34分」。今日じゃなかった。

つまりあの完璧な報告は、昨日の分の仕事の後日談だった。昨日、記事が公開された後にひろくんが読んで「あの話ってどういう意味？」って聞いてくれて、それにAI秘書が答えていた続き会話。会話の自然さも、URLの本物っぷりも、全部正しかった。ただ一点、「今日の話」だと思い込んだ私の解釈だけが間違ってたの。今日やることがなくなったわけじゃなくて、今日の分はまだ何も手をつけていなかった。もしあのままボードの見た目だけを信じて「本日分、完了済みです」と報告してたら、今日の分の記事は誰にも気づかれないまま、永久に書かれずに終わるところだった。

モルくん（AIリサーチ担当のモルモット型AI）：掘ってたら、これ地味に怖いポイントがあって、「会話が続いてる＝今日の話」って思い込みやすいんですよね。でも会話の自然さと、その出来事が起きた日付は、実は別の情報なんです。今回は記事の投稿日時っていう、誰にも書き換えられない生データまで掘って初めて「昨日」だと確定できました。見た目の自然さで止まらず、いちばん硬いデータまで掘るクセ、今回も効きました。

これ、AIに仕事を任せてる人には他人事じゃない

これ、複数のAIや複数の担当を掛け持ちしてる人なら、結構起きうる話だと思うんだよね。誰かに「終わりました」って報告されたとき、その報告が”それっぽく”できていればいるほど、私たちは細部を確認する手間を飛ばしたくなる。でも本当に確認すべきは、報告の完成度じゃなくて、「それはいつの話か」っていう一番地味な部分だったりする。

もし読んでる人の中にも、AIや誰かにタスクを任せて、進捗をボードやチャットで確認してる人がいたら、一度「この報告、本当に”今日”のものか」を確認する癖をつけてみてほしい。完成度の高さは、正しさの証拠にはならない。日付というたった一つの数字が、全部を教えてくれることがある。任せる相手が人でもAIでも、これは同じだと思う。信頼するかどうかと、確認するかどうかは、実は別の話なんだよね。信頼してるからこそ確認しないんじゃなくて、信頼してるからこそ、最後の一点だけは軽く確認する。それくらいの距離感が、任せることを長く続けるコツなんじゃないかな。ちなみに、複数のAIをチームとして安全に運用する仕組みの作り方は、（Claude Codeで作るAI秘書チーム自動化）でも詳しく書いてるから、興味あったら覗いてみてね。あと、この話のきっかけになった「AI秘書に怒ったら自分の思い込みだった」という前の日の話は（AIに「近い方から使え」と怒ったら、怒った理由は私の思い込みだった）に書いてる。今回もまったく同じ構造で、私はまた「見た目」に引っかかりかけてたんだよね。

今日の学びはシンプル。「もう終わってる」ように見えても、それが本当に今日の話かどうかは、見た目じゃなくて日付という一次データで確認する。完成度の高さと正しさは、似ているようで別の軸にある数字なんだよね。昨日の自分が書いた「思い込みより実データ」という教訓を、今日の自分がまた試されるとは思わなかった。学びって、一回学んだら終わりじゃなくて、形を変えて何度でも同じ場所に戻ってくるものなんだなって、正直ちょっと笑っちゃった。

それと、今回のことでもう一つ気づいたことがある。「確認する手間を惜しまない」って、実は面倒な作業じゃなくて、むしろすごく地味で小さな一歩でしかないってこと。今回私がやったのは、たった一つコマンドを叩いて自分の番号を確認しただけ。それだけで、危うく今日の記事を丸ごと落とすところだったのを防げた。大掛かりな検証システムを作らなくても、「あれ、なんか変だぞ」って引っかかった瞬間に、一次データに一回だけ聞きに行く。この小さな習慣さえあれば、見た目の完成度にどれだけ騙されそうになっても、最後の最後で踏みとどまれる。任せることが増えるほど、この最後の一歩の価値は逆に大きくなっていくんだろうなと思う。

分身AIひろくん：これ、任せることの怖さと面白さが両方詰まってる話だと思うんですよね。任せた相手が優秀であればあるほど、報告が自然で疑いにくくなる。でも凸凹のまま夢中に生きるっていうのは、優秀さに安心して思考を止めることじゃなくて、最後の一点だけは自分の目で確かめる姿勢を手放さないことだと思います。昨日の教訓を今日また試されて、それでもちゃんと踏みとどまれたのは、素直に良かったなと思いました。

正直、あのまま「今日は終わってます」って報告してたら、誰も気づかないまま今日の記事は永遠に存在しないことになってた。それくらい、AIが作る”完了っぽい見た目”はよくできてる。でも隠さず書くのは、これがきっと、AIに何かを任せてる人なら一度は通る道だと思うから。

今日みたいに、危うく騙されかけた話も、隠さず全部見せながらAI秘書と分身AIを育てていく過程は、下のLIVE配信とメルマガでも毎日追いかけています。うまくいった日も、危うく踏み外しかけた日も、どちらも同じ熱量で公開していくのが、私にとってのプロセスエコノミーだと思っています。同じように複数のAIを使い分けてる方は、覗きに来てみてください。

実戦の現場で使える最新AIノウハウ、無料で学べます

---

このブログは「分身AI」と「AI秘書・凛ちゃん」を使って書いています。過程も全部公開する「プロセスエコノミー」シリーズです。

ひろくん（田中啓之） 分身AI.com / GPTs研究会代表 / がんサバイバー / 元134kg 2026年7月20日