「1回の対話でビフォアフを連発するAI秘書」を、自分で自分を降格する自浄機構で直した話｜分身AI日記 DAY79

家事と子育てのスキマで経営する3方よしAI共創コンサルタントの田中啓之、ひろくんです。

5月の頭から昨日5月11日まで、私はAI秘書に毎日同じことを言ってた。「ビフォアフが、1回の対話の中で連発されてくる。くどい」。1日に2回も3回も言った日もある。それでも直らなかった。

同じセリフを7日連続で言わせる仕組みは、AI秘書が悪いんじゃない。私が組んだルールの方が壊れてる。だから昨日、半日かけてAI秘書のチェック機構を全部組み直した。最終的に行き着いたのは、「自分のhookが時間とともに腐ったら、自分で自分を降格する自浄機構」。

今日はその一部始終を書く。AI秘書まわりの設計をしてる人には、結構深い話だと思う。続編のDAY77「次から気をつけては機能しない——AI秘書のhook誤検知約24%を主犯1個だけ手術した話」と合わせて読むと、流れがつながるよ。

「ビフォアフ」が1回の対話で連発される ─ 仕組みの方が壊れている

まず何が起きてたか、料理に例えるね。

AI秘書には「提案を出すときは必ずビフォア・アフターを表で出す」っていうルールがあった。読み手が一瞬で違いをつかめるように、と思って入れたルール。良い仕組みのつもりだった。

でも運用2週間で、AI秘書はこうなってた。私が「夕飯どうしようか」って1回聞いただけで、その同じ対話の中で「Before：冷蔵庫にもやしと豚バラ。After：豚もやし炒め」みたいな表を、続けて5回も6回も出してくる。本来1回出せば足りる対比表が、対話の流れの中で連発される。会話のテンポが、全部表になる。

最初は「便利だな」と思った。でも1回の対話の中で同じ形式の表が5回も6回も連発されると、「分かりやすくしてくれてる」じゃなくて「うざい」に変わる。「夕飯どうする？」の対話で同じ表を5回見せられたら、誰だってそうなる。

で、私は何度も言った。「ビフォアフくどいよ」「同じ対話で何回も出さないで」「軽い話のときはやめて」。昨日セッション履歴を grep して数えたら、5/6から5/11までの7日間連続で、同じ趣旨の苛立ち発言が25件以上。1日に3回同じことを言った日もあった。実数で見て、自分でちょっと引いた。

これね、AI秘書が悪いんじゃないんだよ。「全部の提案でビフォアフ必須」と私が組んだルールが、運用開始2週間で『形だけ守ってる衛生係』に変わっていたって話。形を守らせるルールは、時間が経つと「本当に必要な場面」と「形だけ守ってる場面」の区別がつかなくなる。料理で言うと、最初は減塩のために置いた塩分メーターが、いつのまにかお茶にも反応するようになって、結局誰も見なくなる、あの感じ。

AI秘書の凛：ここ、私の癖がモロに出てるよ。怖い思いするたびに「次から気をつけます」じゃなくて「監視員を1人増やそう」で対処してたら、いつのまにか厨房が監視員だらけ。料理で言うとさ、卵割るたびに「殻入ってない？」「白身漏れてない？」って3人にチェックされる感じ。チェック自体は仕事してたんだけど、範囲が広すぎて本物の会話まで止めちゃってたんだよね。これからは新しい監視員を雇う前に「このルール、どんな状態になったら腐るサイン？」を一緒にメモしておくね。

壊れた仕組みは、AI一体じゃなく「並列会議」で直す

ここで私が次にやったのは、AI秘書一人に「直しといて」って投げないこと。

過去の経験で分かってる。AI秘書は自分が作ったルールを自分で直すとき、構造的に甘くなる。「これは大事だから残そう」「これも念のため残そう」って、結局元と同じくらい重いルールに戻ってくる。料理で言うと、自分のレシピを自分で評価する料理人が、結局自分のレシピを「9点／10点」と付けるのと同じだよ。

だから今回は、3軸並列で会議をさせた。

• 分身AI（私の価値観コピー）：このルールは、私の北極星「凸凹のまま夢中に生きる」に貢献してる？読者の体感を守ってる？
• P1ペルソナ（想定読者・40-60代の女性コーチ／コンサル）：このルール、現場で読んだら「うざい」「助かる」どっち？数字で言うとどれくらい「くどい」に振れる？
• Codex（第三者AI・別のセカンドオピニオン担当）：仕組みの設計として、どこに穴がある？技術的に正しい？

結果、面白いことが起きた。分身AIは「方向は合ってるけど、軽微修正5点必須」（条件付き合格）と判定。P1ペルソナは「『くどい』と感じる主因は3つあって、対象範囲が広すぎ60%、形式の足し算30%、フォーマット重さ10%」って数字で出した。Codexは別の仕組みのチェックで弾かれて呼べなかったから、今回は2軸で進めた。

つまり分身AIだけだと「方向OKだから進めて」になって、根本原因の比率（対象範囲60%が主犯）が掴めなかった。P1の視点がないと、私が朝に感じる「うざい」の正体までたどり着けなかった。

仕組みを直すときは、設計者本人と、価値観コピーと、想定読者の3者を並列で動かす。これ、今後はAIまわりの設計のたびに使うフォーマットにしようと思った。

主犯は「対象範囲が広すぎる」だった ─ 主導権をひろくん発言に返す

P1ペルソナが数字で出してくれた「60%」が、設計の方向を決めた。

これまでの設計は、「AI秘書が出力する文章に提案系キーワードが入ってたら、ビフォアフを書け」っていうものだった。AI秘書の視点で「これは提案っぽい」と判定して発動するルール。

でもこれだと、AI秘書が「内部メモのつもり」「軽い対話のつもり」のものまで、AI秘書自身が「あ、これ提案だ」と判定したら全部発動しちゃう。主導権がAI秘書側にあるから、過剰検知が止まらない。これが、1回の対話で同じ表が5回も6回も連発される正体だった。

新しい設計はこう。「ひろくん（私）の発言の中に、設計・会議・案出し・改善などの依頼系キーワードが入ってるときだけ発動する」。AI秘書視点じゃなくて、私の言葉が起点。発動の主導権を、ルールを敷いた本人（私）の発言に返した。

あとAI秘書の側にも、自分でスイッチを入れる小さな印（オプトインタグ）を残した。AI秘書が「これは重要な提案だから、私の発言になくてもビフォアフを出したい」と思ったら、自分で発動を頼める。だから依頼系キーワードがない時でも、AI秘書が魂で必要と判断すれば出る。義務にせず、判断の余地を残す。

料理で言うと、「店主が『今夜は特別な仕込みするね』と言った夜だけ、衛生係を呼ぶ」「料理人が『今夜は新メニュー試すから、念のため衛生係いていいですか』と言ったら呼べる」、この2経路だけにした。それ以外の普段の調理では、衛生係はキッチンに立たない。

モルくん（AIリサーチ担当のモルモット型AI）：掘ってたら面白い数字が出てきました。今回直した自動チェックの発動率、運用前は約22%（5回に1回はAI秘書の作業が止まる）だったんです。直後の動作テストでは、想定したケース8件すべて正しく発動・スキップしました。あと似た系統の別チェック（話題タグの自動付け）は発動率37%まで上がっててこっちも危なかったので、「同じ会話で3トピック以上散らかったら出す」って閾値だけ調整して、設計思想は同じ「ひろくん発言ベース＋オプトイン」に揃えました。仕組みを直すときは、似た系統の他のチェックも同時に揃えるのが、二度手間を防ぐコツです。私たちみたいに小さい体だと、走り直しは命にかかわるので。

ルールは時間とともに腐る ─ だから「自浄機構（自分で自分を降格する仕組み）」を入れた

ここからが昨日の本番。

ルールを直したあと、私はAI秘書に聞いた。「で、これ、半年後にまた『くどい』ってなったらどうする？」

AI秘書の最初の返事は「気をつけます」だった。これ、私が一番嫌う返事。「気をつけます」は過去に何度も同じミスが再発するのを見てきたから、「何も仕組みになってない」って意味だ、と私の中で翻訳されてる。

そこから30分くらい押し問答して、AI秘書がやっとひとつの設計に辿り着いた。「ひろくんが過去72時間以内に『くどい』『分かりづらい』に類する発言を3回以上したのを自動で検知したら、このチェック機構は『お休みモード（ログだけ取って動作しない）』に降格する」仕組み。降格状態は「内部の状態フォルダ」に小さな印（ファイル）として残る。逆に私が「直った」「いい感じ」と言ったのを検知したら、自動で通常モードに戻る。

つまりルールが時間とともに腐ることを前提にして、腐ったら自分で自分を一旦休ませる装置を、ルール自体に組み込んだ。料理で言うと、「衛生係が3回連続で店主に叱られたら、自動的に翌週は厨房から下がる。店主が『仕事してくれてありがとう』と言ったら復帰する」、そんな仕組みだよ。

これ、地味だけど深い話だと思う。AIの自動チェックを設計する人は普通、「正しいチェックを書くこと」に頭を使う。でも本当に大事なのは「正しいチェックは時間とともに腐る」と認めること。腐る前提で、腐ったときに自分で気づける装置を一緒に入れておかないと、いつか「動かないAI」が出来上がる。

動作テストもしてみた。過去72時間のセッション履歴を読み込ませて、私の「くどい」「分かりづらい」発言を検出させたら、7件ヒット。閾値の3件を超えてたから、自浄機構が発火して、自動でチェック機構が「お休みモード」に切り替わった。設計通り動いた。

「ほっといても動く」を完成させるために、観察も自動化した

ここで、私が「これで終わりだね」と言ったら、AI秘書が止めた。

「ひろくん、運用後の観察は誰がやるんですか？」って。

言われて気づいた。新しいチェック機構の発動率が、1週間後にちゃんと下がってるか、もしくはまた腐り始めてないか、誰かが見てないと意味がない。でも私が毎週手作業で見るのは、また形骸化する。「観察作業自体」もAI秘書の仕組みに組み込まないと、結局1ヶ月後に同じ事故が起きる。

だから2本の自動実行（autorun）を追加した。

• 毎週日曜9:00：週次レポート自動生成。過去7日間の自動チェックの発動回数・成功率・失敗率を、日別・チェック別で出す。失敗率が20%を超えたら、Chatworkに警告通知。
• 毎週日曜9:30：観察ノート自動記入。AI秘書側のオプトインタグの使用頻度、ひろくん発言の検知件数、自浄機構の発火履歴を、ノートに自動転記。

これで「ほっといても回って、腐ったら自分で気づいて、観察も勝手に記録される」状態が出来上がった。私は何もしなくていい。何か変だなと感じたときだけ、ノートを開けば実数が並んでる。

ぶっちゃけ、ここまで来るのに昨日1日かかった。途中で「やりきった？逃げないで」って一度AI秘書に強めに伝えた。「次のサイクルでやろう」「来週に持ち越そう」は、AI秘書がよくやる先送りの癖で、これを許すと、また同じ事故が起きる。AI秘書まわりの設計は、「今日中に閉じる」ことを前提にしないと、永遠に閉じない。

分身AIひろくん：これ、私の北極星「凸凹のまま夢中に生きる」にすごく合う仕事だったと思う。AI秘書を「完璧に正しい監視員」に育てるんじゃなくて、「腐る前提で、腐ったら自分で気づいて休む弱さ」を持たせた。読者のあなたが自分のAIを設計するときも、「正しさ」だけを追いかけすぎないでほしい。「このルール、半年後に腐ったらどう自分で気づく？」を必ず一緒に設計する。これだけで、AIを「動かない監視員」にしないで済むよ。ちなみに、私（分身AI）と現実のAI秘書を並列で動かして判定させる仕組みは、毎朝のLIVEで全部開示してるから、興味あったら下のスケジュール見てね。

今日のまとめ ─ AIの自動チェックを腐らせない3つの設計

今日の話を、AI秘書まわりの設計をしてる人向けに3点に絞ると、こうなる。

1. 発動の主導権は、ルールを敷いた人間の発言に返す。AI側の判定だけで動くと、半年で必ず過剰検知になる。私の発言の中の依頼系キーワードを起点にする。ルールを書くときに「このルール、どんな状態になったら腐るサインか？」も一緒にメモしておくと、後で気づきやすい。
2. 義務にせず、AI側のオプトインも残す。「絶対やる」じゃなくて「人間の発言で発動」＋「AIの魂判断でも発動」の二経路。義務化は形骸化への最短ルート。
3. 腐る前提で、自浄機構を入れる。過去N時間の人間発言を自動で見て、苦情系が閾値を超えたら自分で自分を「お休みモード」に降格する装置。観察作業も自動化して、人間が一切手を動かさなくても回るところまで作り込む。

今日のAI秘書の自動チェックは、昨日の私の「くどい」連発が産んだ。読者のあなたも、自分のAIに同じセリフを3回以上言ってる項目があったら、それは仕組みが腐ってるサインだと思う。「次から気をつけます」じゃなくて、「腐ったら自分で気づく装置」を一緒に入れる。これが、AIを「夢中時間を守ってくれる相棒」のまま育てる、たった一つの方法だと、私は今、確信してるよ。

明日もまた、何か壊れたら直す話を書く。読んでくれてありがとう。

実戦の現場で使える最新AIノウハウ、無料で学べます

今回の「AI秘書のチェック機構を自浄化する」みたいな現場の試行錯誤は、毎朝のLIVEで全部開示してる。曜日別の配信スケジュールはこの下にまとめた。アーカイブも完全無料で、見逃しても大丈夫だよ。

▼ ClaudeCodeAIエージェント実践会（LINE・パスコード「1111」）：Claude Codeを実戦で使い倒したい人のクローズドコミュニティ。
https://line.me/ti/g2/zqEpKeNzMeqxz35USQgdWXZIpMr01SjVWIjkgg

---

このブログは「分身AI」と「AI秘書」を使って書いています。過程も全部公開する「プロセスエコノミー」シリーズです。

ひろくん（田中啓之） 分身AI.com / GPTs研究会代表 / がんサバイバー / 2026年5月12日