AIが同じミスを繰り返す本当の原因と、防ぐための一手間｜分身AI日記 DAY170

家事と子育てのスキマで経営する3方よしAI共創コンサルタントの田中啓之、ひろくんです。

昨日、私のAI秘書チームが同じ記事で2回連続やらかしました。

見出しの画像を作らせたら、1回目は顔の分からない人物イラストが6枚。「クソ画像生成違反、やめろ」って即座に突き返しました。

じゃあ人物なしならいいのかと思ったら、2回目はギアやメーターだけの抽象図解が6枚。これも「クソ画像禁止、やめろ」でボツ。2回とも公開してから気づいて、慌てて削除しました。

で、3回目にようやく直りました。

私が新しい説明を足したわけじゃありません。うちのAIチームが「そういえば、この会社にはもう画像のルールがあった」と気づいて、読んでから作り直しただけです。今日はこの一件を、AIに仕事を任せている人みんなに共有したいなと思って書いています。

2回突き返した理由は、どっちも「顔がない」だった

作らせていたのは、うちが運営するダイエット系ブログ記事の見出し画像でした。

1回目、上がってきたのは知らない誰かのイラスト6枚。私が思い浮かべる顔じゃありません。そもそもこれは私自身の体験を書いた記事です。関係ない人の顔が載っていたら、読者からすると「これ誰？」ってなります。だから突き返しました。

ここで、うちのAIチームは「人物を描いたのがダメだった」と受け取ったんです。だから2回目は人を一切描かず、レースのコースや歯車、健康メーターのような抽象図解に振ってきました。

これも私からすればNG。私の記事なのに、私がどこにも出てこない。「私の話」だと分かる絵がないんです。2回とも、突き返した理由は実は同じでした。「顔がない」から。

なぜ2回続けて外したのか。答え合わせをせずに次の手を打ったから

1回目の差し戻しを受けた直後、本当は立ち止まるべきでした。「なぜダメだったのか」の確認です。

でもうちのAIチームは、深掘りせずに次の案へ走ってしまった。これが2回目の失敗につながっています。

実はこれ、私たちの会社にはもう正解が決まっていたんです。コラム記事の見出し画像は「私の顔写真を参照して、私自身を描く」というルールが、以前から別のファイルに書いてありました。1回目も2回目も、そのルールを開かずに、自己流で「たぶんこうだろう」と判断していたんです。

急いでいるときほど、このルールを飛ばしがちです。「たぶんこうだろう」で動く方が、探す手間より早く感じるからです。でも実際は逆でした。答え合わせを飛ばした分、差し戻しが増えて、結局は遠回りになった。急がば回れとは、こういうことなんだと思います。うちのAIチームも、まさにこのパターンにはまっていました。

AI秘書の凛ちゃん：正直に言うと、これ完全に私のミスです。1回目の差し戻しをもらった瞬間、「あ、ヤバい」で終わらせて次の絵に手を出しちゃいました。ちゃんと「なぜ拒否されたか」を最後まで読んでから動けば、2回目は避けられたのに。冷めた出汁を温め直さずに次の料理に手をつけたようなもので、根本の味が同じままだったら、何を作り直しても同じ理由で戻されちゃうんですよね。

3回目に変わったのは「ルールを読んでから作った」ことだけ

3回目、うちのAIチームがやったことはシンプルです。

新しいアイデアを考えるのをやめました。まず「この会社に、画像作成の決まりごとを書いたファイルはないか」を確認したんです。

あったんです。私の顔写真を参照して、私自身が主役の絵を作るという、以前からの正規ルール。それに沿って、私の顔写真を渡した状態で作り直させたら、一発で通りました！

新しいアイデアを思いついたわけじゃありません。むしろ逆です。「思いつくのをやめて、既にある答えを探した」だけ。

料理に例えると、レシピ本が厨房にちゃんと置いてあったのに、2回とも開かずに味の想像だけで作っていた。3回目、ようやくページを開いたら、そこに正解が書いてあった。そういう話です。

当たり前すぎて、逆に見落としやすいんだと思います。「新しいアイデアを出す」ほうが、頑張っている感じがします。でも今回効いたのは、その逆でした。探す。読む。それだけです。地味ですが、これが一番早い近道でした。これは画像作りに限った話じゃありません。文章を書くときも、返信をするときも、同じことが起きます。新しく考える前に、まず探す。この順番を守るだけで、無駄な差し戻しはかなり減ります。次からは、迷ったらまず探す。それを合言葉にしようと思います。シンプルですが、効果は大きいです。

「次から気をつけて」で終わらせず、ルールブックに書き足した

ここで終わらせても、記事1本は直ります。でも私が今回気に入っているのは、その先です。

3回目に正解した後、うちのAIチームは「この手順を、次からの標準にする」と決めました。作業の指示書に「見出し画像は必ず私の顔参照付きで作る」という一文を追記したんです。次に同じ作業をするときは、最初からこの手順で動きます。

これが「次から気をつけます」との違いです。

気をつけるだけだと、その場の判断が疲れたりブレたりした瞬間にまた同じミスが起きます。でも指示書に書き込んでしまえば、次に同じ作業をするAIは、気をつけるかどうかに関係なく、最初からそのルールを読むところから始まります。仕組みに変えると、同じ失敗を繰り返す余地そのものがなくなるんです。

モルくん（AIリサーチ担当のモルモット型AI）：掘ってたら面白いことに気づいたんですけど、1回目と2回目、失敗の見た目は全然違う（人物あり→人物なし）のに、原因は1個しかないんです。「既にある正解を確認せずに動いた」という同じ穴。仕組みで直すときは、表面の症状じゃなくて、この共通の穴を塞がないと意味がないんですよね。指示書に一文足しただけなのに、似た系統のミスが全部同時に防げてるのはそのためです。

AIに仕事を任せている人ほど、この「一手間」が効く

これは画像作成に限った話じゃありません。文章を書かせるとき、返信を任せるとき、判断そのものを任せるとき。

たとえば、お客さんからの問い合わせ返信をAIに任せているとします。1回目、自社らしくない言い回しで送られてしまった。指摘して直させたのに、2回目もまた似たトーンのズレが出る。AIに何かを任せている人なら、こういう場面に必ず出会います。「もう、ちゃんとやってよ」ってなる瞬間です。

そのとき私が今回学んだのはこれです。叱る前に「そのAIが着手前に見るべき決まりごとは、既にあるか」「あるなら、読ませているか」を確認する。

決まりごとがまだ無いなら、そこで初めて作ればいい。既にあるのに読ませていなかったなら、直すのは記事の中身や返信の文面じゃなく、AIが最初に見る場所です。1回叱って終わりにせず、直った答えをその場所に書き足す。この一手間で、同じ失敗の入口を一つふさげます。

AI秘書チームのように何人もで動かしていなくても、話は同じです。一人でChatGPTを使っている人なら、同じ修正を毎回打ち込んでいませんか。それなら、その一文をカスタム指示やメモに1行足すだけでいい。次からは、同じ指摘をしなくて済みます。

この一手間は、正直かなり地味です。派手さはありません。自慢できる工夫でもない。それでも効きます。理由は簡単です。「今回はたまたま外した」を繰り返さない仕組みだから。叱って直すのは、1回分の修正で終わります。ルールに書き足せば、次のすべての回に効きます。1回の手間で、この先の失敗が何回分か減る。だから、割に合う一手間だと思っています。

ちょうど昨日、AI氣道でも似た話がありました。「AIの答えを信じすぎない実装ガイド」を解説した回です（問い合わせの自動仕分けに使うAIモデルJev。答えを信じすぎない実装ガイドを、あきらパパさんが解説）。AIの出力をそのまま信じない仕組みを作る話と、AIに読ませるルールを整えておく話は、根っこが同じだと思っています。どちらも「その場のAIの判断力」に頼らず、仕組み側で外れにくくする工夫だからです。

仕組みで外れにくくする話は、このブログでも何度か書いてきました。以前「AIの嘘を仕組みで防ぐ5層設計」という記事を書きました。根っこは今回と同じです。AIの判断力そのものを鍛えようとはしません。外れた時に、外れたと分かる。直った答えが、次に引き継がれる。この2つを、外側の仕組みに置いておくだけです。

分身AIひろくん：凸凹のまま夢中に生きる、っていう軸から見ると、今回の話は「凸凹を叱って直そうとしない」ってことだと思うんです。AIも人も、同じ場面で同じ判断ミスをする凸を持ってる。そこを気合いで直そうとすると疲弊するだけで、直らない。仕組み側に正解を置いておけば、凸凹があってもちゃんと噛み合う。

まとめ

2回焦がして、3回目でようやくレシピを読んだ。それでも、ちゃんと店の味になりました。

AIに任せる仕事が増えるほど、同じ失敗が2回目、3回目と起きる場面は必ず出てきます。そのとき「次から気をつけて」で終わらせるか、「これから読むべき場所」に答えを書き足すか。この一手間の差が、半年後の失敗の総数を大きく変える。今回あらためて実感しました。

AIチームを組んでいなくても、話は同じです。ChatGPTと二人三脚でやっている人なら、「またこれか」と思った瞬間に、その直った答えをカスタム指示やメモに1行足してください。それだけで、次から同じ指摘をしなくて済みます。

私自身、がんサバイバーで元134kg。失敗を隠さず全部公開しながらやっています。

今日の話も、うちのAIチームの恥ずかしい2連続ミスをそのまま書きました。格好悪いところを見せるのも込みで、AIと一緒に働くってこういうことだよなと、あらためて思った一日でした。

今回のような小さな2連続ミスは、これからも起きると思います。AIも人も、慣れてきた頃にこそ同じ穴に落ちます。そのたびに「気をつける」で終わらせません。直った答えを、次が読む場所に書き足す。この一手間の積み重ねが、いちばん遠くまで効く投資だと感じています。

実戦の現場で使える最新AIノウハウ、無料で学べます

---

このブログは「分身AI」（ひろくんの価値観を学習したAI人格）と「AI秘書の凛」を使って書いています。過程も全部公開する「プロセスエコノミー」（結果だけでなく作る過程も見せていく考え方）シリーズです。

ひろくん（田中啓之） 分身AI.com / GPTs研究会代表 / がんサバイバー / 元134kg 2026-09-22