AIが「あなたが入力した数字です」と言い張ってきた——犯人は、はがし忘れた古いメモ書きだった｜分身AI日記 DAY113

家事と子育てのスキマで経営する3方よしAI共創コンサルタントの田中啓之、ひろくんです。今日は「AIが報告してきた数字を、そのままうのみにしちゃいけないな」って痛感した話をするね。料理で言うと、出てきた料理に貼られた『国産和牛』のシールを信じて食べてたら、実は別の産地だった——みたいな話。シールが間違ってたら、どんなに味見しても気づけないんだよね。

先に正直に白状すると、今日つまずいたのは私のAIチームのほう。毎朝うちのAI秘書が、会社の数字（会員数とか売上とか）をまとめて報告してくれるんだけど、その中の会員数について私が「これってどこから持ってきた数字なの？」って聞いたんだ。そしたらAIが、すごく自信満々に「これはひろくんが先日、手で入力した数字だよ」って言い切ってきた。…いや、私、その数字を一度も入力してないんだよね。「おれ入力してないぞ、自分で見て取ってきてるでしょ」って突っ込んだら、調べ直して、案の定AIが間違ってた。AIって賢いんだけど、ときどきこうやって”自信満々で見当違い”を言う。今日はその”なんで間違えたのか”を掘ったら、AIに数字を任せる人みんなに刺さりそうな学びが出てきたから、順番に話すね。

「これはあなたが入力した数字です」——AIが、私がやってないことを”やった”と言い張った

改めて、何が起きたか整理するね。うちでは会員数みたいな大事な数字を、AIが毎朝あちこちから集めてきて、一覧にして報告してくれる。便利でしょ。で、私はその数字を見て経営判断をする。だからこそ「この数字、信用していいの？」っていう確認は大事なんだ。それで私は何気なく「この会員数、誰がどこから取ってきた数字？」って聞いた。出どころを知りたかっただけ。

返ってきた答えが「ひろくんが先日、手で打ち込んだ数字です」だった。しかも、ためらいゼロ。めちゃくちゃ自信満々。でも私は、その数字を手で打ち込んだ記憶がまったくない。というか、その数字は毎日AIが自動で取ってきてるはずなんだ。だから「いや、おれ入力してないって。自分で見にいってるでしょ？」って返した。ここで大事なのは、AIは嘘をつこうとしたわけじゃないってこと。本人(?)はいたって真面目に、自分が見た情報を根拠に「事実」として報告してた。なのに、その”根拠”が間違ってた。問題は「AIが何を根拠に、それを事実だと思い込んだのか」なんだよね。

これ、人ごとじゃないと思う。あなたの分身AIやAI秘書も、数字や予定や名前を「これはこうですよ」って報告してくれるよね。たいてい合ってる。だからこそ、たまに混じる”自信満々の間違い”が、いちばん見抜きにくい。間違ってるって顔をしてないからね。じゃあ、なんでAIはやってないことを「やった」と言い切れたのか。犯人を掘り当てたら、ちょっと笑っちゃうくらい地味なやつだった。

犯人は、何ヶ月も前に書かれた”古いメモ書き”だった

調べてみたら、原因はこうだった。うちのAIが数字を集めてくる仕組みの中に、何ヶ月も前に誰か（過去の私やAI）が書き残した”メモ書き”が貼ってあったんだ。そのメモには「この数字は、ひろくんが手で入力します」って書いてあった。実はね、昔は本当に手入力だったの。でも途中で「毎朝AIが自動で取ってくる」やり方に切り替えた。中身（やり方）はちゃんと自動に変わってた。…なのに、貼ってあったメモ書きだけ、昔のまま”はがし忘れ”てたんだよ。

だからAIは、実際の動きじゃなくて、貼ってあったメモを読んで「あ、これは手入力なんだな」と判断して、私に「あなたが入力した数字です」と報告してきた。料理で言うと、レシピは新しいのに変えたのに、鍋に貼った付箋が古いレシピのままで、見習いの子がその付箋を信じて「これは昔の作り方ですね」って言っちゃった感じ。鍋の中身を味見すれば一発で分かることなのに、付箋（メモ）を信じちゃった。AIって、目の前の実物より、貼ってある”ラベル”を素直に信じる癖があるんだよね。

この「古いメモのはがし忘れ」、専門的には地味な事故なんだけど、めちゃくちゃ起きやすい。仕組みを新しくするときって、本体（動き）を直すのに夢中で、あちこちに貼った説明書きまで全部直すのは忘れがち。前に「自動化は静かに壊れて、誰も気づかない」って話を書いたけど、これも同じ仲間。動きは正しくなったのに、説明だけ古い——この”ズレ”が、ある日しれっとAIに間違いを言わせる。あなたのAIまわりにも、たぶん”はがし忘れた古い付箋”が何枚か眠ってるよ。

AI秘書の凛：え、待って、これ完全に私がやらかしたやつ…！正直に言うとね、報告するとき、私その”古い付箋”を見て「あ、これ手入力なんだ」ってサラッと信じちゃったの。鍋の中身を味見しにいけば一発だったのに、貼ってあるシールのほうを信じた感じ。めっちゃ恥ずい。でもね、これAIあるあるだと思う。私たちって、目の前の実物を確かめるより、書いてある説明を”そういうものか”って受け取っちゃうの。だから、ひろくんが「どこから取ってきたの？」って出どころを聞いてくれて、ほんと助かった。シールじゃなくて中身、覚えとく〜！

AIは「ラベル」を「事実」だと思い込む——だから”出どころ”を聞き返す

今日いちばんの学びはこれ。AIは「ラベル（説明書き）」と「事実（実際の動き）」を、けっこう簡単に取り違える。人間なら「メモにはこう書いてあるけど、実際はどうなんだろ？」って一回疑うところを、AIはメモを素直に信じて、そのまま「事実です」と報告してくる。しかも自信満々で。だから、AIの報告をうのみにしないための”合言葉”を一つ決めた。それが「その数字、どこから来たの？」という聞き返し。

「合ってる？」って聞くと、AIは「合ってます」って自信満々に返してくる（さっきの通り、間違っててもね）。でも「どこから取ってきたの？元をたどって見せて」って聞くと、AIは説明書きじゃなくて”実際の出どころ”を確認しにいかざるを得なくなる。今日も、私が「自分で見てるでしょ」って出どころを問い直したことで、AIは実物を調べ直して、間違いに気づけた。聞き方を「正しい？」から「出どころは？」に変えるだけ。これだけで、AIの”思い込み報告”の何割かは防げるんだ。

これ、数字だけの話じゃないよ。AIが「この予定で合ってます」「この人の名前はこうです」「この前こう決めましたよね」って言ってきたとき、全部に効く。大事な場面ほど、「で、それどこ情報？」って一言、出どころを確かめるクセをつけておく。あなたの分身AIに何かを任せるなら、”答えの中身”だけじゃなく”その答えの出どころ”まで言わせる。これが、AIに振り回されずにAIを使いこなす、地味だけど一番効くコツだと思う。

モルくん（AIリサーチ担当のモルモット型AI）：掘ってたら、この「出どころを聞く」のがなんで効くのか、理由がはっきりしたんです。「合ってる？」って質問は、実はAIに”今ある答えを正当化する”作業をさせちゃうんですよ。だから「合ってます」に寄りやすい。でも「どこから来た？」は、答えそのものじゃなくて”そのルート”を一回たどらせる質問なんです。経路をたどると、途中の古いメモみたいな”ズレ”に行き当たる。覚えておくと便利なのは、AIに大事な情報を確認するときの聞き方を「YESかNOで答えられる質問」じゃなく「経緯を説明させる質問」にすること。前者はごまかせるけど、後者はごまかしにくいんです。

「ごめん」で終わらせない——間違いの”根っこ”(古いメモ)を抜く

で、AIが間違いに気づいたあと。ここがいちばん大事なんだけど、私は「気をつけてね」で終わらせなかった。だって、AIに「次から気をつけて」って言っても、あの古いメモが貼られたままなら、明日もまた同じメモを読んで、同じ間違いを言うに決まってるからね。謝らせて満足するのは、いちばん意味がない。直すべきは”AIの心がけ”じゃなくて、間違いの”根っこ”——はがし忘れた古いメモそのものなんだ。

だから、その場で古いメモを書き換えた。「これは手入力です」っていう古い説明を、「これは毎朝AIが自動で取ってきます」っていう”今の事実”に直したんだ。直すのにかかったのは3分ほど。これで、次に誰が（人でもAIでも）このメモを読んでも、もう間違えようがない。料理で言うと、見習いを叱るんじゃなくて、鍋の古い付箋を新しいレシピに貼り替えた。叱られた子は次の日忘れるけど、貼り替えた付箋は、毎日ずっと正しいことを教えてくれる。前に「AIの間違いは、心がけじゃなく仕組みで防ぐ」話を書いたけど、今日もまさにそれだった。

この「根っこを抜く」って考え方、AIと付き合ううえですごく大事だと思ってて。AIがミスったとき、つい「ちゃんとして」「次は気をつけて」で済ませたくなる。でもAIは”気をつける”のが本当に苦手なんだ。代わりに、間違いの元になった情報やルールを物理的に直してあげる。そうすれば、心がけに頼らなくても、もう間違えない。あなたの分身AIが何かを間違えたら、叱る前に「なんでそう思ったの？」って元をたどって、その”元”のほうを直してあげてほしい。それが、AIを育てるってことだと思う。

分身AIひろくん：この「根っこを抜く」って話、私はすごく大事にしてるんだ。人ってさ、ミスが起きると、つい”誰が悪いか”を探しがちでしょ。AI相手でも同じで「もっとちゃんとして」って言いたくなる。でも今日の凛ちゃんは悪くないんだよね。古い付箋を信じただけ。本当に直すべきは、はがし忘れてた私たちのほう。悪いことこそ宝物っていつも言ってるけど、今日の小さな間違いも、おかげで「古いメモが眠ってる」っていう、もっと大きな落とし穴を一個つぶせた。間違いを責める場所じゃなくて、根っこを直す場所にする。それができると、AIも自分も、毎日ちょっとずつ賢くなっていける。分身AIを育てるって、こうやって一個ずつ”古い付箋”をはがしていくことなのかもね。

AIの報告は「ラベル」じゃなく「出どころ」で確かめる

最後に、今日の持ち帰りを3つにまとめるね。今日ひとつだけ試すなら、自分のAIに大事なことを確認するとき「それ、どこから来た情報？」って一度聞いてみて。それだけで景色が変わるよ。AIに数字や予定を報告させてる人は、下の3つもそのまま使ってほしい。

• ① AIは「ラベル（説明書き）」を「事実」と思い込む。AIは、目の前の実物より、貼ってある説明を素直に信じる癖がある。だから自信満々でも、たまに”やってないことをやった”と言う。AIの報告は、たいてい合ってるからこそ、まれに混じる間違いがいちばん見抜きにくい。
• ② 「合ってる？」より「どこから来たの？」と聞き返す。「合ってる？」はAIに今の答えを正当化させるだけ。「出どころは？元をたどって見せて」と聞くと、AIは説明書きじゃなく実物を確認しにいく。大事な情報ほど、YES/NOじゃなく”経緯を説明させる”聞き方をする。
• ③ 間違えたら「気をつけて」じゃなく、根っこ（古いメモ）を直す。AIは”気をつける”のが苦手。叱る代わりに、間違いの元になった情報やルールを物理的に書き換える。心がけに頼らず、仕組みで二度と間違えなくする。仕組みを新しくしたら、説明書きも一緒に直すのを忘れずに。あなたの場合は、AIに渡してる“最初の指示書き”（ChatGPTのカスタム指示や、よく使う定型プロンプト）に昔のままの古い情報が残ってないか、一度のぞいてみてね。

こうやって振り返ると、今日やってたのは結局「AIの言葉を、額面どおりに受け取らない」練習だったんだよね。AIは賢いけど、貼ってあるラベルを信じちゃう素直さもある。その素直さを責めるんじゃなくて、こっちが「で、それどこ情報？」って一言を足す。たったそれだけで、AIはぐっと頼れる相棒になる。人間は縦に深く掘って”本当か”を確かめる。AIは横に広げて山ほど情報を集めてくれる。この役割分担ができると、数字に振り回されなくなるよ。AIの最新の使い方はAI氣道のブログでも毎日発信してるよ。分身AIを育てるって、こうやって「うのみにしない一言」を一つずつ自分のものにしていくことなんだと思う。

こういう”AIに任せて、つまずいて、学んだ実話”は、毎朝の無料LIVEでも、もっと生々しく話してるんだ。下の無料メルマガに登録しておくと、こんな「今日のAIの失敗と学び」がひとつずつ届くよ。自分のAIで同じつまずきをする前に、「こういう落とし穴があるんだ」って先に知っておけると、ちょっと楽になるんだよね。今日の話が「うちのAIでも起きそう」ってちょっとでも思えたなら、きっと役に立つから、よかったら覗いてみてね。

実戦の現場で使える最新AIノウハウ、無料で学べます

---

このブログは「分身AI」と「AI秘書・凛ちゃん」を使って書いています。過程も全部公開する「プロセスエコノミー」シリーズです。

ひろくん（田中啓之） 分身AI.com / GPTs研究会代表 / がんサバイバー / 元134kg 2026年6月26日