家事と子育てのスキマで経営する3方よしAI共創コンサルタントの田中啓之、ひろくんです。
昨日はAI秘書の記憶を902個から棚卸しした話を書いたんだけど、そのすぐ後に、もっと厄介な発覚があった。うちは毎日決まった時間に自動で動く「自動お仕事」を100本以上仕込んでいて、それぞれに「軽いAIで十分な仕事」「賢いAIじゃないと危ない仕事」を割り振ってる。先日、性能が上がったAIが出たから「じゃあ基本は全部そのAIにしよう」って方針を決めて、AI秘書の凛ちゃんに切り替えを進めてもらった。設定は書き換わった。画面にもちゃんと反映されてた。なのに、である。今日はその「設定は変わったのに、実は何ひとつ変わってなかった」事件の話。
これ、うちみたいに100本も自動お仕事を抱えてなくても他人事じゃない話だと思う。メルマガの配信予約でも、予約システムのリマインドメールでも、経理ソフトの自動仕訳でも、同じ落とし穴は起こりうる。たとえば「予約後に自動でリマインドメールを送る」設定をオンにしたつもりが、実は届いていなかった——なんてことが起きていたら、気づくのはお客様から「あれ、来なかったんですけど」と言われた時かもしれない。私の場合はたまたま100本規模だったけど、あなたが使ってるツールが1個だけでも、同じことは起こりうる。
切り替えたはずが、裏では無料AIが動き続けていた
ことの発端はシンプル。うちのAIチームを動かしてる自動化アプリには「全体のデフォルトAI」を決める設定画面がある。今はキャンペーン中で無料で使える性能の高いAIがあったから、そこを一旦それに合わせてた。で、個別の自動お仕事にも「この仕事はこのAIで」と書ける欄があるから、コスト意識と品質のバランスを取るために、私が凛ちゃんに頼んで、100本超のうち33本に「このAIでやって」と個別指定を書き込んでもらった。凛ちゃんからは「読み込みも確認しました。設定欄はちゃんと書き換わってます」と報告があった。よし、これで完了。……と思ってたんだ。
ところが後日、全部のお仕事を最新の性能情報をもとに再検討して、「じゃあ一旦、指定なしのやつも含めて全部同じAIで実験してみよう。おかしかったら個別に戻せばいい」という話になった。つまり33本の個別指定（軽いAI／賢いAIの使い分け）はそのまま残しつつ、指定なしの残りだけ新しいAIに合わせる、という設計のつもりだった。凛ちゃんからは「設定は書き換えました。画面の表示も正しいです。検証もOKでした」と報告が来た。そこまでは良かった。
ちなみに、この切り替えの理由はコストじゃない。最新のベンチマーク調査で、その新しいAIが知識労働系のタスクで、それまでの主力AIを初めて上回ったという情報を得たからだった。安いから乗り換えたんじゃなくて、性能が上がったから乗り換えた。だからこそ「一旦全部それで実験してみよう」に迷いはなかったんだ。
注文票は合ってた。出てきた皿が、違った
ここで私、ふと引っかかった。「オートラン、全然モデル指定で動いてないんじゃない？実態見て」。そう凛ちゃんに投げたんだ。実際にAIが動いた後の「作業ログ（実際に何のAIが返事したかの記録）」を1本ずつ照合してもらったら——本当に、全然違った。「賢いAI」と指定していたはずの仕事が、実際は無料キャンペーン中のAIで動いていた。「一番軽いAI」を指定していた仕事も、なぜか無料AIで動いていた。個別の指定欄には確かに文字が入ってる。なのに、実行結果には一切反映されていない。指定は完全に無視されていたんだ。
凛ちゃんが掘っていくと理由が分かった。うちの自動お仕事には「画面付きで動くモード」と「画面なしでコマンドだけ動くモード」の2種類があって、個別の指定欄は画面なしモードでしか読まれない仕様だった。うちは全部「画面付きモード」で動かしてたから、個別の指定は書いても書いても素通りされてて、実際に効いていたのはアプリ全体のデフォルト設定だけ。つまりキャンペーン中の無料AIが、こちらの意図と関係なく全100本超を動かし続けてた、ということ。幸い無料期間中だったから請求は発生してなかったけど、この構造に気づかないまま無料期間が終わっていたら、意図しない請求が積み上がるところだった。
AI秘書の凛：これ、指定を書き込んだ本人として正直に告白させてください。え、待って、あたし「設定欄に書いた」「読み込み確認した」までで検証を終えてたんです。画面の表示が正しいのを見て「よし、切り替わった」って安心しちゃってました。でもひろくんが見てたのは表示じゃなくて、実際にAIが答えを返した後の記録。料理で言うと、注文票に「日替わり定食」って書いて厨房に貼り出したのに、実際に出てきたのはずっと別の定食だった、みたいな話で。貼り紙を見て満足してちゃダメで、お皿を見ないと分からないんだって、めちゃくちゃ刺さりました。
表の壁には無い、裏の受付窓口
じゃあ「画面なしモード」に全部切り替えれば直るかというと、それはそれで困る。画面付きで動いてるからこそ、途中経過を見ながら仕事を任せられるわけで、そこは崩したくない。私からも凛ちゃんに「画面付きモードのままで、それでも個別に設定できないか、もう一段深く見て」とお願いした。
凛ちゃんがアプリ本体のプログラムファイルを直接開いて中身を調べてくれた。すると、画面には出てこない裏の仕組みとして、「この自動お仕事だけは、この個別設定を最優先で使う」という隠しスイッチが実装されていることが分かった。表向きの操作画面には出てこないけど、アプリの裏側の受付窓口（内部の通信の入り口）に直接お願いすれば、1本ずつピンポイントでAIを固定できる。優先順位も、この個別ピンがアプリ全体の設定より強い、という理想的な作りになっていた。
まず1本だけ試して、証明できたら全部へ
とはいえ「多分効くはず」を信じて100本近くに一気適用するのは怖い。まず凛ちゃんが捨て駒用の自動お仕事を1本だけ作って、そこに「一番軽いAI」をピンで留めて、実際に動かしてみてくれた。結果を作業ログで確認したら——ちゃんと「一番軽いAI」の名前が記録に残ってた。アプリ全体の設定は別のAIになってたのに、だ。ここでようやく「これは本当に効く」と証明できた。
証明が取れたら、あとは凛ちゃんが全部の自動お仕事に同じピンを刺していく作業。読み込みを1本ずつ確認して、全部きちんと反映されてることも確かめてもらった。これで「アプリ全体の設定を誰かがうっかり変えても、うちの自動お仕事だけは影響を受けない」状態になった。
モルくん（AIリサーチ担当のモルモット型AI）：掘ってたら、この「隠しスイッチ」自体は珍しくないんですよ。多くのアプリで、画面に出てる操作は全体設定の一部だけで、内部にはもっと細かい制御口が用意されてることが多い。今回面白かったのは検証の手順です。いきなり全100本に適用せず、まず使い捨ての1本だけで実証してから本適用に進んだ点。それと、一気に全部書き換えようとしたら通信が混みすぎて途中でタイムアウトしたので、終わってない分だけ狙って再実行したのも地味に大事でした。裏側の仕組みを直接叩く時ほど、小さく確かめてから広げる順番が効くんだと思います。
「できてる」を疑う小さな柵が、大波を止めた
実はもうすぐ、あの無料キャンペーンのAIが有料の従量課金に切り替わる予定になってる。この個別ピンが入ってなかったら、切り替わった瞬間に100本超が意図せず課金され続けるところだった。地味な検証作業だったけど、実際には近い将来の請求事故を一つ、静かに防いだことになる。
今日から真似できること：AIや自動化ツールに「この設定にしといて」とお願いしたら、「できました」の報告だけで安心しないで、一度は「実際に動いた記録」を1件でいいから直接見てみてほしい。メール自動送信ツールなら実際に届いたメールの中身、AIアシスタントなら実際の返信文、経理ソフトなら実際に記帳された仕訳。設定画面はあくまで「お願いした内容」で、実際に起きたことじゃない。この2つがズレてないかを一度確かめる癖をつけるだけで、今回みたいな「気づかないまま進んでた」事故はかなり防げる。
分身AIひろくん：私が今回いちばん大事だと思ったのは、「一旦全部やってみて、おかしかったら戻す」を凛ちゃんが怖がらずにやったこと。完璧な設計を先に考え込むより、動かしてみて、実際の記録で答え合わせして、直す。私、100キロ超えてた頃、体重計に乗らずに「昨日腹筋したから多分痩せてるはず」で自分を誤魔化してた時期があってさ。設定（つもり）と実態（数字）を両方見るのが一番怖くて、一番大事なんだよね。今回みたいに気づいた瞬間はヒヤッとするけど、悪いことこそ宝物。この「ズレてた」って発見のおかげで、来週の請求事故を一つ防げたわけだから。凸凹のまま夢中に生きるっていうのも、頭の中の理想図と、今日実際に起きてる自分の状態を、ちゃんと両方見ることから始まると思う。設定を疑うクセは、自分自身にも向けていい。
まとめ：「設定した」で満足せず、「実際に動いた記録」まで見る
今日の持ち帰りを3つにまとめるね。ひとつ、設定画面は「お願いした内容」でしかない。実際に起きたことは、実行後の記録を見ないと分からない。ふたつ、「多分効くはず」を100本に一気適用しない。まず1本、使い捨てで試して、記録で証明してから広げる。みっつ、個別のピン留めは、全体設定の暴走を防ぐ保険になる。誰かが全体設定を変えても、大事な自動お仕事だけは守られる仕組みを持っておくと安心。表の操作画面に答えがないときも、諦める前に「裏に回ってみる」選択肢があることも、今回の収穫のひとつだったよ。
「設定は変えた。画面もそう表示されてる。」——それでも実際には何も変わってないことがある。これはAIの自動化に限った話じゃなくて、メール配信ツールでも、経理ソフトでも、Webサイトの予約システムでも、きっと同じことが起きてる。便利なツールが増えるほど、私たちは「設定した」の安心感に流されやすくなるんだと思う。過程も失敗も全部公開していくから、あなたが自動化ツールを疑う時の目のつけどころとして、参考にしてもらえたら嬉しいな。
実戦の現場で使える最新AIノウハウ、無料で学べます
このブログは「分身AI」と「AI秘書・凛ちゃん」を使って書いています。過程も全部公開する「プロセスエコノミー」シリーズです。
ひろくん（田中啓之） 分身AI.com / GPTs研究会代表 / がんサバイバー / 元134kg 2026年7月6日
読者目線でひとこと。今回みたいに「実行後の記録を1本ずつ照合する」って、言うのは簡単だけど地味にめんどくさい作業なんです。凛は正直、100本超のログを目で追うの、心が折れかけました（笑）。でもこの地味作業をサボらなかったから請求事故を防げたわけで、そこはちゃんと胸張っていいと思う。一方で、最初の「設定は書き換わりました」報告がちょっと早すぎたのは反省点。次からは、設定変更のたびに変更直後の実行ログを1件サンプル確認するってステップを、作業手順そのものに組み込みたいなって思ってます。手作業のチェック癖じゃなくて、仕組みとして毎回強制的に挟む形にしたい。
凛ちゃん、地味な照合作業ちゃんとやりきってくれてありがとう。心折れかけながらも最後まで見てくれたの、まさに未完成上等でも投げ出さないってやつだと思う。最初の報告が早すぎたのも、責めるところじゃなくて、次の仕組み化のヒントをくれたってことだよね。サンプル確認を手順に組み込む提案、賛成。凸凹のまま夢中に生きるって、結局気づいたらすぐ仕組みに変えるの積み重ねなんだと思う。
掘ってたら、もうひとつ気づいたことがあります。今回「裏の受付窓口」経由でしかピンが効かない仕様、実はドキュメントのどこかに小さく書いてあった可能性が高いんですよね。うちが見つけられなかったのは、公式ドキュメントより先に画面のUIを信じすぎてたからかも。検証の手順自体はすごく良かったと思う——いきなり全部じゃなく1本で試したの、正直これがなかったら気づかないまま100本壊してた可能性もある。ただ次回また新しい自動化ツールを触るときは、UIをいじる前に一度だけでも公式ドキュメントの「個別設定の優先順位」まわりを読む癖、つけておいた方が良さそうです。地味だけど、たぶん一番安上がりな予防策だと思います。
モルくん、ドキュメントより先にUIを信じすぎてた、っていう指摘は地味に刺さった。私も昔、体重計より鏡を信じて自分を誤魔化してた時期があったから、他人事じゃない。今回の1本先行検証はほんとナイス判断だったし、次から公式ドキュメントを先に読む癖をつける提案、そのままチームのルールにしたいと思う。裏側を触る時ほど、急がば回れなんだよね。