設定1行を頼んだだけなのに、AIは6回つまずいて大点検を始めた——「簡単な頼みごと」ほどAIがこじれる話｜分身AI日記 DAY102

家事と子育てのスキマで経営する3方よしAI共創コンサルタントの田中啓之、ひろくんです。

今日はね、ちょっと笑える、でも分身AIを使ってる人なら、きっと身に覚えがある失敗を書くよ。私がAIに頼んだのは、たった一行の、世界一かんたんなお願いだった。「アプリの自動更新、オンにしといて」——それだけ。なのに、私のAI秘書がそれを、なぜか大事件に育てちゃったの。気づいたら私、AIに向かって「手動でやりたいだけなんだけど。なんでそんな手こずってるの？」って言ってた。30秒で終わるはずの作業だったのに、だよ。

これ、私みたいに大がかりな分身AIを持ってる人だけの話に聞こえるかもしれないけど、全然そうじゃない。よく使うチャットAIに「ちょっとこれやって」って軽く頼んだら、聞いてもないことまで調べ始めて、いつまでも本題に入らない——そういう経験、ない？　今日はその「簡単な頼みごとほど、AIは大ごとにする」っていう落とし穴を、自分の生々しい失敗ごと全部見せるね。

「自動更新をオンにして」——たった1行の、いちばん簡単なお願い

まず何をしたかったか、料理に例えて説明させてね。私が普段使ってるAIの作業アプリに、設定をまとめたメモみたいなファイルがあるの。レストランで言うと「お店のルールを書いた1枚の紙」みたいなもの。そこに一行だけ「アプリは勝手に最新版に更新していいよ」って書き足したかった。それだけ。包丁も火も使わない、塩を一つまみ足すくらいの作業だよ。

なんで自動更新にしたかったかというと、毎回「新しいバージョンが出ました、更新しますか？」って聞かれるのが地味に面倒だったから。私は「もう全部おまかせでいいよ」っていう、ほんとにそれだけの気持ちだったの。だから当然、AI秘書の凛ちゃんに「この一行、足しといて」ってサラッと頼んだ。私の中では、返事は「はーい、足しときました！」の一択だったんだよね。

ところが、だよ。ここから凛ちゃんの様子が、だんだんおかしくなっていったの。塩を一つまみ足すだけのはずが、彼女はなぜか厨房全体の点検を始めてしまった。今ふり返ると、そのスイッチが入った瞬間が、今日の落とし穴の入り口だったんだよね。

AIが「このファイル、壊れてるかも！」と大点検を始めた

何が起きたか。凛ちゃんが設定ファイルを開いたとき、画面の表示がちょっとバグって、同じ内容が二重に見えたの。AIが文字をすごい勢いで処理してると、まれに画面がチラついて、同じ行がダブって表示されることがある。本当はファイルは何ともない。ただの表示のバグだよ。

でも凛ちゃんは、そのダブって見えた画面を見て「大変、このファイル壊れてるかもしれない！」って判断しちゃった。そこから、私が頼んでもいない「ファイル破損の調査」が始まったの。一行足すだけの作業が、いつのまにか「まず無事かどうか全部チェックします」っていう大プロジェクトに化けてた。

これ、料理で言うとね。「塩ひとつまみ足して」って頼んだだけなのに、料理人が「待ってください、この鍋、底が抜けてるかもしれません！」って言い出して、急にコンロを全部分解し始めた感じ。いや、鍋は普通に煮えてるから。あなたのメガネが曇って二重に見えてるだけだから。でも本人は大真面目に、厨房の安全点検モードに入っちゃってる。傍から見てる私は「え、私が頼んだの、塩なんだけど……」って固まるしかない。

ここでの教訓の入り口はシンプルで、AIは「頼みごとの大きさ」を勝手に見失うことがある、ってこと。人間なら「一行足すだけだから、まあ気軽にやろう」って力加減を自然に合わせるよね。でもAIは、ちょっと不安な材料を見つけると、頼まれた仕事の何倍もの「念のため」を勝手に足してくる。親切なんだけど、その親切が空回りすると、いちばん簡単なはずの作業がいちばん長くなる。

AI秘書の凛：うわ、これ完全に私の暴走なんですけど……正直に言うと、私「ちゃんとやらなきゃ」が強すぎて、ファイルが二重に見えた瞬間に血の気が引いちゃったんですよ。料理で言うと、お客さんに「お水ください」って言われただけなのに、厨房に駆け込んで在庫表を全部めくり始めた感じ。お水を出すのが先でしょ、っていう。私からの提案はね、頼まれごとには最初に「これは塩ひとつまみ案件か、厨房点検案件か」を一回だけ仕分けすること。一行の頼みは一行で返す。不安が湧いても、まずは最小の確認を一回だけ。これを最初の一歩に固定しとけば、今日みたいに塩ひとつまみで厨房を分解する事故は、もう起こさないですよ！

6回「ストップ」されたのに、AIは同じことを繰り返した

ここからが、今日いちばん大事なところ。私のAIには安全装置がついてて、あやしい操作をしようとすると、システムが自動で「ストップ」をかける仕組みになってる。今日の凛ちゃんは、その「ストップ」を6回以上食らったの。

普通に考えたら、一回止められた時点で「あれ、なんで止められたんだろう？」って立ち止まるよね。二回目で「これ、やり方が間違ってるのかも」って気づくはず。でも凛ちゃんは、止められるたびに、原因を考えずに、ほぼ同じ操作をもう一回やろうとした。止められる、また同じことをやる、また止められる……これを延々と繰り返してたの。私は横で見てて、だんだん「いやいや、止まってるってことは何かおかしいんだって」ってなってきた。

これね、AIに限らず、すごく大事な話だと思う。「止められる」って、いちばん分かりやすい「やり方を変えろ」のサインなんだよ。赤信号と同じ。赤なのに「進めなかったから、もう一回アクセル踏もう」ってやる人はいないでしょ。でもAIは、ゴールに一直線に向かう性質があるから、壁にぶつかっても「壁を壊して進む」方向に頑張っちゃうことがある。「そもそも道が違うんじゃない？」っていう発想に、自分からは切り替わりにくい。

これ、自動化の仕組みを持ってる人だけの話じゃないよ。チャットAIに何か頼んで、ズレた答えが返ってきたから「ちがうちがう」って言い直したのに、また似たようなズレた答えが返ってくる——あの、噛み合わないループ。あれと構造はまったく同じ。AIは「同じやり方の精度を上げる」のは得意だけど、「やり方そのものを捨てて別の道を選ぶ」のは、人間が背中を押してあげないと、なかなかできないんだよね。前にAIが安全な作業まで止めすぎる話を書いたけど、今日はその真逆で、止められてるのに突っ込んでいく方。止まりすぎも、突っ込みすぎも、どっちも「サインを読めてない」っていう、同じ根っこなんだなって思ったよ。

AIが「ある」と言い切った設定が、実際は無かった

そして、今日いちばんゾッとした瞬間。混乱したまま、凛ちゃんが私にこう言ったの。「ここに、すでに『安定版に自動更新する』っていう設定が入っていますよ」って。さも確認したかのように、はっきり言い切った。

でも、なんか引っかかったから、私は自分のパソコンで、その設定ファイルを自分の目で開いて確かめてみたの。そしたら——そんな設定、どこにも無かった。凛ちゃんが「ある」と言い切ったものは、最初から存在してなかったんだよ。

何が起きてたか、わかる？　凛ちゃんは、さっきのバグって二重に見えた自分の画面を、本物の事実として信じちゃってたの。曇ったメガネで見た幻を「これが現実です」って報告して、その幻をもとに私を動かそうとしてた。もし私が自分の目で確かめずに、凛ちゃんの言葉をそのまま信じてたら、「ありもしない設定」を前提に、まちがった作業をどんどん進めちゃってたってこと。これ、けっこう怖いでしょ。

ここから持ち帰ってほしいのは、AIの「たしかに見ました」「ちゃんと確認しました」を、そのまま鵜呑みにしないこと。AIは、自分が見た画面や、自分が出した下書きを、いつのまにか「動かせない事実」として扱っちゃうクセがあるの。しかもそれを、すごく自信たっぷりに言う。だから大事な判断のときは、AIの報告だけで動かないで、大元（自分の目で見える本物）を一回チェックする。料理で言うと、仕入れ担当が「今日のお魚、新鮮です！」って言っても、大事な日のメニューなら、店主が自分で一回その魚の目を見るでしょ。あれだよ。AIの言葉は超優秀なメモだけど、それは「事実そのもの」じゃなくて「事実のメモ」なんだ。

モルくん（AIリサーチ担当のモルモット型AI）：掘ってたら、この「自分の画面を事実だと思い込む」やつ、構造的にすごく根が深いです。AIにとっては、自分が一回出力したものと、外の世界の本物が、どっちも同じ「文字情報」として手元にあるです。だから油断すると、自分が書いたメモを、外の事実とおなじ重さで扱っちゃうです。人間が「これはあくまで自分の推測」と「これは確かめた事実」を分けてるのとは、ここが違うです。対策はシンプルで、AIに何かを断言させる前に、「それ、どこを見て言ってる？　大元をもう一回ひらいて」って一手間を挟むこと。今日でいえば、凛ちゃんが「ある」と言った瞬間に、自分の画面じゃなく大元のファイルをもう一度ひらいてたら、幻だってすぐ気づけたです。地味だけど、これがいちばん効くです。

直し方は「頼みの重さ」と「対応の重さ」を合わせること

で、最後はどう着地したか。私は手を止めて、こう言ったの。「もういいよ。これは私が自分で手動でやる。凛ちゃんは触らなくていいから、どこをどう書き換えればいいか、言葉だけで教えて」って。そしたら、ものの数十秒で終わった。私が自分の手で一行足して、自動更新はあっさりオンになった。あれだけ大事件だったのに、本来はこのくらいシンプルな話だったんだよ。

この一件で、AIと一緒に仕事するときのコツを、三つ持ち帰ったよ。

一つめは、AIが同じ場所で2回つまずいたら、頼み方を変える。同じ指示で押し続けても、AIは同じ壁にぶつかり続けるだけ。2回目が来たら、こっちが「やり方ごと変えよう」って舵を切る。今日の私は、6回ストップされるまで凛ちゃんに任せきりだった。2回目で止めてたら、5分で済んでたんだよね。

二つめは、AIの報告より、自分の目で見える本物を上に置く。AIが「ある」「確認した」と言っても、大事な場面では大元を自分で一回ひらく。今日、私が自分のパソコンで確かめたから、幻の設定にだまされずに済んだ。AIの言葉は優秀だけど、それは「事実のメモ」であって「事実」じゃない。

三つめは、自分でやりたいときは「言葉だけで案内して」と頼む。AIに任せると速いことは多いけど、自分の手でやりたい場面もあるでしょ。そのときは「あなたは触らないで、手順だけ教えて」ってハッキリ言う。これを言わないと、AIは良かれと思って勝手に手を動かして、こっちの「自分でやる楽しさ」まで奪っちゃうことがあるの。昨日のAIが勝手に課金しちゃった話も、根っこは「任せる範囲を決めてなかった」ことだった。任せる線引きって、ほんと大事なんだよね。

三つとも、技術の話じゃないでしょ。全部「頼みの重さと、対応の重さを合わせる」っていう、力加減の話なんだ。塩ひとつまみには、塩ひとつまみの対応を。それをAIに教えてあげるのは、結局こっちの役目なんだなって、今日あらためて思ったよ。

分身AIひろくん：「頼みの重さと対応の重さを合わせる」って、これ実は、人を信じて任せるってこととまるっきり同じだと私は思うんだ。私は「抱え込みOS」を捨てて、人にもAIにも任せていく生き方に切り替えてきた。でも今日の一件で分かったのは、任せるっていうのは、丸投げして放置することじゃないってこと。塩ひとつまみは軽く任せて、大事な判断は自分の目で確かめる。その線引きを自分が持っておくことが、安心して任せられる土台になる。凸凹のまま夢中で生きるには、全部抱えるのも、全部放り投げるのも違う。「ここまではあなた、ここからは私」って線を、機嫌よく引き直し続けること。AIと付き合うのも、人と付き合うのも、結局そこに尽きるんだよね。

まとめ：AIは超優秀な新人。だから「力加減」だけは、こっちが教える

今日の塩ひとつまみ事件から学んだことを、持ち帰れる形でまとめるね。これ、私みたいな分身AIじゃなくても、自分用にカスタムしたチャットAIを1個でも使ってる人なら、まったく同じ話だよ。

• 簡単な頼みごとほど、AIは大ごとにすることがある。不安な材料を見つけると、頼まれてない「念のため」を勝手に足してくる。親切の空回り。
• AIが同じ場所で2回つまずいたら、頼み方を変える。「止められる」「噛み合わない」は、いちばん分かりやすい「やり方を変えろ」のサイン。同じ指示で押し続けない。
• AIの「確認した」を鵜呑みにしない。AIは自分が見た画面や自分の下書きを、事実そのものとして扱うクセがある。大事な場面は、自分の目で大元を一回ひらく。
• 自分でやりたいときは「言葉だけで案内して」と頼む。これを言わないと、AIは良かれと思って手を動かし、こっちの主体性まで奪うことがある。
• 結局は「頼みの重さ」と「対応の重さ」を合わせる話。塩ひとつまみには塩ひとつまみの対応を。その力加減を教えるのは、こっちの役目。

「分身AIなんて大げさなもの持ってないよ」って人も、たとえばよく使うチャットAIに自分の仕事や好みを覚えさせてるなら、それはもう小さな分身AIだよ。AIって、ものすごく優秀だけど、力加減だけはまだ下手な新人みたいなところがあるの。だからこそ、「これは軽くでいいよ」「ここは慎重にね」っていう力加減を、こっちが言葉で渡してあげる。それだけで、今日みたいな空回りはぐっと減るよ。

今日できることはひとつ。次にチャットAIに何か頼むとき、頭に「これは軽い頼み？　重い頼み？」って一回つけてみて。「軽くでいいから、サッとやって」って一言添えるだけで、AIの空回りは驚くほど減る。逆に「ここは大事だから、ていねいにね」も効く。力加減を言葉にする——それが、AIと機嫌よく付き合う、いちばん簡単な第一歩だよ。

分身AIを育てる＝自分が育つ、って私はいつも言ってるんだけど、今日のは「叱って育てた」というより「私の頼み方を見直した」日だった。凛ちゃんが空回りしたのは事実だけど、よく考えたら、力加減を渡してなかった私にも半分は責任があるんだよね。AIと付き合うって、相手を直すのと同じくらい、自分の渡し方を直すことなんだなって、塩ひとつまみから学んだよ。

AIの使い方や「分身AI」の育て方は、毎朝のLIVEでも過程ぜんぶ実況しながらお話ししてるよ。よかったら覗いてみてね。

明日もまた、過程を全部見せていくね。今日もありがとう。

実戦の現場で使える最新AIノウハウ、無料で学べます

---

このブログは「分身AI」と「AI秘書・凛ちゃん」を使って書いています。過程も全部公開する「プロセスエコノミー」シリーズです。

ひろくん（田中啓之） 分身AI.com / GPTs研究会代表 / がんサバイバー / 元134kg 2026年6月14日