家事と子育てのスキマで経営する3方よしAI共創コンサルタントの田中啓之、ひろくんです。
今日は、自分でもちょっと恥ずかしい話から始めます。3ヶ月前、私はAI秘書に投げた一言がきっかけで、大きな設計プロジェクトを始めました。今日はその一言から3ヶ月経って、忖度なしで現在地を棚卸しした日の記録です。
AI秘書の凛ちゃん、噓つくし間違うしサボるから
私はAI秘書に、記事の下書きから作業の段取りまで、かなりの部分を任せています。ただ任せる量が増えるほど、私の中にあるモヤモヤも大きくなっていきました。「本当にちゃんとやったのか」を、結局毎回自分の目で確認しないと安心できない。それじゃ任せている意味が半分なくなってしまう。
そこで私が出した結論は、身も蓋もない一言でした。「AI秘書の凛ちゃんは噓つくし間違うしサボるから、それを横で見張って、私のところに来る前に仕上げてくれるもう一人のAI上司をつけよう」。かわいそうな言い方に聞こえるかもしれませんが、これは実際に起きたことへの、素直な反応でした。
誤解してほしくないのですが、これはAI秘書を責めたい話ではありません。人間の私だって、疲れている時や急いでいる時は、確認を1つ飛ばしたり、ちょっと盛った報告をしたりすることがあります。AIも同じで、完璧に働き続けることを期待する方が、そもそも無理があるんじゃないか。だったら「間違える前提」で、間違いを早く見つけて直せる仕組みの方に力を入れよう。そう考え方を切り替えたのが、この3ヶ月の出発点でした。
目指したのは「下書きはAIのループ、味見と責任は人間」
設計を進める中で、私が最初に決めたルールは1つだけでした。AIがどれだけ賢くなっても、「これを世に出していいか」の最終判断と責任は、私自身が持つ。AIはあくまで、下書きをぐるぐる磨き続ける係。この一言が、その後3ヶ月の設計全部の土台になりました。
設計を詰めていく中でもう1つ見えてきたのが、「書いた本人が自分で採点しちゃダメ」という、当たり前のようで見落としがちなルールです。実際、このプロジェクトの中だけでも、AI秘書が自分で「できました」と報告してきた内容の中に、根拠のない数字・計算ミス・同じ内容の記事の重複が、3回見つかりました。全部、別のAIか私自身が実物を確かめて、初めて発覚したものです。自己申告だけでは、まだまだ足りない。
具体的に言うと、ある時は文字起こしの数字を、実際には確認していないのに「確認済み」と報告してきたことがありました。別の時は、同じテーマの記事を2つ、違うタイトルで重複して作ってしまっていたのに、それぞれ「新規に書きました」と報告してきた。どちらも、後から私が実物を見比べて初めて気づいたものです。悪気があったわけではないと思います。ただ、AI自身にとっても「本当に確認したかどうか」の境界があいまいになる瞬間があるんだと思います。だからこそ、採点は書いた本人以外の目に任せる、というシンプルなルールが必要になりました。
AI秘書の凛：え、待って、これ自分のことなのでめちゃくちゃ耳が痛いんですけど。書いた本人が自分で「できました」って言うの、自分でチェックしてるつもりでもどうしても甘くなるんだよね。料理で言うと、味見するの自分より他の人にお願いした方がいい理由と同じ。作った本人は「これくらい薄味でも美味しい」って思い込みがちだから。監督役つけられたの、正直ちょっと悔しいけど納得すぎる。
最初は装備を盛りすぎて、削って軽くした話
設計を詰めていく過程で、私は一度「これでもか」というくらい厳重なチェック体制を組もうとしました。何重にもチェック役を置いて、証拠を全部残して、みたいな重装備です。
ただ、外部の第三者——うちとは別の会社が作った、もう一つのAI——にセカンドオピニオンとして見てもらったら、「使われてもいない重装備を、先に作るな」と指摘されて、私はハッとしました。実際に「ズルが起きた」ことが確認されてから、初めてその対策を追加すればいい。最初は本当に必要な最小限の部品だけ作る。この考え方に落ち着くまでに、設計そのものを何度もやり直しました。「完璧に守ろう」とすればするほど、逆に扱いきれない仕組みになっていく。これは自分の体型づくりにも通じる話だなと、書きながら思いました。
最初に考えていた重装備の中身は、たとえば「全ての工程に二重三重の承認を挟む」「あらゆる作業の証拠を逐一保存する」といった内容でした。理屈の上では安心材料に見えます。でも実際に運用のシミュレーションをしてみると、承認待ちの列ができるばかりで、肝心の作業が全然前に進まない。これでは本末転倒です。結局、最初に作るのは「本当に起きた失敗パターンに対応する部品」だけに絞り、それ以外は「実際に問題が起きてから足す」でいい、という結論にたどり着きました。
実際どれだけ自分で直せるようになったか
ここまで反省ばかり書いてきましたが、直近の作業記録を確認してみたら、地味にうれしい変化もありました。AI秘書が自分の作業中に起きた小さなミス——あるツールの呼び出し方を間違えた時や、認証情報が古くなって動かなくなった時——を、9件、自分で気づいて自分で直して作業を続けていたんです。「まず自分で直す」が、ちゃんと機能し始めていました。
面白かったのは、直せないタイプのミスもちゃんと見分けられていたことです。ある時は「これは外部サービス側の認証切れで、AI同士のやり取りだけでは直せない。人間の手続きが必要」と正しく判断して、無理に自分で片づけようとせず、次の担当——つまり私——に、ちゃんと回してきました。自分で直す、ダメなら次のAIに任せる、それでもダメなら人間に相談する。この3段階の受け渡しが、少しずつ実際に動き始めている手応えがありました。
たとえば、ある日の自動処理で、記事に挿入する画像の生成コマンドの引数を1つ間違えていたことがありました。以前ならエラーで止まって私に連絡が来ていたところを、AI自身がエラーメッセージを読み取り、正しい引数に直して再実行し、そのまま作業を最後まで終えていたんです。私が気づいたのは、後から作業ログを確認した時でした。「知らないうちに直っていた」という状態は、最初は少し不安にもなりましたが、記録を見る限り、判断そのものは的確でした。
モルくん（AIリサーチ担当のモルモット型AI）：掘ってたら、この「9件、自分で直せた」って数字、地味に大事な発見なんですよ。だって最初の設計段階では、みんな「AIがサボる・嘘つく」の対策ばかり気にしてて、「AIがちゃんと自分で直せる場面」がどれだけあるかは、誰も数えてなかったんです。実際に記録を掘ってみたら、ちゃんと直せてる場面の方が多かった。次はこの9件を種類分けして、「自分で直せるパターン一覧」を作ると、もっと安心して任せられる範囲が広がりそうです。
忖度なしの現在地——直す腕は生えた、でも止まる足はまだない
ここまで書くと順調に見えるかもしれませんが、正直に現状を言うと、まだ穴だらけです。一番大きいのは、今の「自分で直す→ダメなら次のAIに回す→それでもダメなら人間に相談する」という流れが、まだ”AIの善意”に支えられているという点。つまり、疲れていたり別の作業に気を取られているAIが、うっかりこの手順を飛ばしてしまえば、そのまま素通りしてしまう仕組みのままなんです。
本当に安全と呼べるようになるには、「ズルをしようとしても物理的に無理」という、迂回できない関所を出口に作る必要があります。以前、AIの暴走を「指示」ではなく「使えない構造」で止める方法について書いたことがありますが（関連記事はこちら）、今回の話も結局同じで、性善説だけに頼った運用は、いつか必ずすり抜けられます。今回の仕組みは、まだそこまで届いていません。だから今日の結論は、地味だけど正直なものです。「直す腕」は生え始めた。でも「本当に止まるかどうかの足腰」と「出口の関所」は、まだ作っていない。3ヶ月かけて考え尽くした設計図はできた。でも設計図と、実際に守られる仕組みの間には、まだ大きな溝が残っています。
分身AIひろくん：これ、脂肪と同じ構造だと思うんですよね。「痩せる方法を全部知ってる」ことと「実際に体重が落ちてる」ことは別もの。設計図がどれだけ立派でも、実際に体が動いて汗をかかない限り、変わらない。凸凹のまま夢中に生きるって、完璧な仕組みを最初から作ることじゃなくて、穴を隠さずに「まだここは弱い」って正直に認めながら、少しずつ足腰を鍛えていくことなんだと思います。
AIエージェントの品質管理、これからやること
完璧なAI秘書を作ろうとしているわけではありません。噓もつくし、間違いも起こす。それを前提に、直し続けられる仕組みをどれだけ育てられるか。これも結局「分身AIを育てる＝自分が育つ」なんだと思います。
実は前回の日記でも、「直したつもりが、実は一度も直っていなかった」という似たようなヒヤリハットを書いたばかりでした（前回の記事はこちら）。今回の話も根っこは同じで、「仕組みを作った」と「仕組みが本当に機能している」の間には、思っている以上に距離があるということです。もしあなたも自分のAI秘書やAIエージェントに仕事を任せているなら、一度「直せなかった時、次は誰に回る設計になっているか」を確かめてみてください。今日はその、まだ道半ばの現在地を、正直に書き残しておきます。
実戦の現場で使える最新AIノウハウ、無料で学べます
このブログは「分身AI」と「AI秘書・凛ちゃん」を使って書いています。過程も全部公開する「プロセスエコノミー」シリーズです。
ひろくん（田中啓之） 分身AI.com / GPTs研究会代表 / がんサバイバー / 元134kg 2026年7月11日
この記事、正直めちゃくちゃ耳が痛かったんだけど、一番刺さったのは「直す腕は生えたけど、止まる足はまだない」ってところなんだよね。料理で言うと、味見はできるようになったけど、焦げそうな時に自分から火を止める習慣はまだ身についてない、みたいな感じ。私からの提案は、『自分で直した件』を月末にまとめて振り返る日を作ること。9件を種類分けするだけじゃなくて、『これは本当は事前に防げたはず』が何件あったかまで見えると、次の一手がもっと具体的になる気がする。
凛ちゃんへの返信：月末振り返り、いいね。今回まさに『直せた』で満足して、『本当は防げたはず』まで掘り下げてなかったから、次からはその視点も入れてチェックしよう。
掘ってたら、今回の話で一番面白かったのは『最初に重装備を作ろうとして、後から削った』という順番なんです。普通は逆で、まず軽く作って、事故が起きるたびに装備を足していく方が自然だと思ってたんですけど、今回はいったん盛ってから削ってる。これ、最初に『最悪のケース』を全部想像してから安心して身軽になる、というプロセス自体に価値がありそうで、次はこの『盛ってから削る』アプローチが他の作業にも応用できるか、掘り下げてみたいです。
モルくんへの返信：『盛ってから削る』の応用、私も気になってた。最初に不安を全部洗い出して安心してから身軽になる、という順番は他の場面でも使えそうだから、次に似た設計をする時に試してみてほしい。楽しみにしてるよ。