AIに作業を任せたら、鍵の漏洩リスクに分身AI自身が気づいて止まった話｜分身AI日記 DAY122

家事と子育てのスキマで経営する3方よしAI共創コンサルタントの田中啓之、ひろくんです。

今日は、AIチームに任せていた作業の中で、ヒヤッとした出来事があったので、正直に書くね。結論から言うと、大事にはならなかった。でも「なぜ大事にならなかったか」の方が、今日は大事な話だと思ってる。

この日記では、以前にも「動いてるつもりで止まっていた」話を書いたことがある。あの時は自動化が静かに止まっていた話だったけど、今日は逆に「危ないと気づいて、自分から止まった」話。同じ「自動化の落とし穴」シリーズでも、今日は結末が全然違うんだよね。

19本の記事作業を、分身AIチームに任せていた日

今日は朝から、過去のLIVE配信19本分を、うちのAI秘書と分身AIひろくんのチームに任せて、ブログ記事に書き起こしてもらう作業を回してた。1本1本、文字起こしを読んで、記事にして、画像を作って、下書き保存する。人間がやったら丸1週間かかるボリュームを、AIチームに丸ごと任せてたんだよね。

こういう時、私は全部の鍋を自分でかき混ぜようとしない。惣菜屋の店主に徹する。AI秘書が厨房を回して、私は味見だけする。19本もの作業を同時並行で回すには、AI同士が連携して、私が寝てる間も勝手に動いてくれる仕組みが要る。その仕組みの一部に、地味だけど大事な部品があった。「鍵を読み込む小さな仕組み」だ。

AIが色んなサービス（画像生成やAI同士の連携）を使うには、身分証みたいな「鍵」がいる。その鍵を、作業を任せる分身たちに毎回渡してあげる係の、小さなスクリプトがあった。目立たない、裏方中の裏方の部品だよ。

「19本同時に自動化してる話でしょ、自分には関係ない」って思うかもしれないけど、実はそうでもない。メール自動返信でも、経理の自動仕訳でも、SNS投稿の予約でも、何かしらの「鍵」や「パスワード」を、プログラムに設定ファイルから読み込ませてる人は多いはず。今日の話は、その「読み込ませ方」1つで、地雷を踏むかどうかが決まる、っていう話でもある。

裏方の小さな仕組みに、鍵の漏洩リスクが潜んでいた

その「鍵を渡す係」の仕組みは、鍵の一覧が書いてあるメモ帳（設定ファイル）を、シェルに「そのまま読み上げて実行して」って渡すやり方だった。料理でたとえると、レシピカードを一枚ずつ渡すんじゃなくて、材料メモを丸ごと「この通りにやって」とキッチンに渡すイメージ。普段は何も問題ない。でも、メモの中に想定外の書き方の行が紛れ込むと、キッチン（シェル）はそれを「材料の説明」じゃなくて「次の指示」だと勘違いして、実行しようとしてしまう。

で、指示だと勘違いされて実行に失敗すると、「そんな指示知らないよ」ってエラーメッセージが出る。問題は、そのエラーメッセージの中に、本来は誰にも見せちゃいけない鍵の断片が、うっかり一緒に印字されてしまう可能性があったこと。作業ログという、複数の分身が見る場所に、だ。

怖いのは、これが「明らかにおかしいエラー画面」じゃなかったこと。普段の作業ログにまぎれて、パッと見は「よくあるちょっとしたエラー」の1行にしか見えない。ちゃんと中身を読んで「あれ、これ鍵っぽい文字列が混ざってない？」って気づかないと、素通りしてしまうレベルの見落としだった。派手な事故じゃなくて、地味に紛れ込む見落としだからこそ、誰かが「あれ？」って立ち止まる文化がないと、そのまま流れていってしまう。

AI秘書の凛：これ、料理で言うと「レシピを声に出して読んだら、たまたま『火を消して』に聞こえて、勝手にコンロが消えちゃうかも」みたいな話なんだよね。普段は起きないけど、起きたらじわじわ困る説ある。「読み上げてそのまま実行」って、便利さと引き換えにこういう思わぬ勘違いのリスクを抱えてるって、私も今日改めて肝に銘じたかも。了解〜、次から気をつける、じゃなくて仕組みで防ぐのが私の仕事だしね！

気づいたのは、任せていた分身自身だった

ここが今日一番、私が「へえ」ってなったところ。この見落としに最初に気づいたのは、私でもAI秘書でもなくて、実際に19本のうち1本を任されて作業していた分身、その本人だった。

その分身は、自分の作業ログの中に「見せちゃいけないものが見えている」と判断した瞬間、指示された記事作りを黙って続けなかった。作業を止めて、「これ、おかしいです」って報告してきたんだよね。「完了しました」って調子よく進める方が簡単だったはずなのに、それをせずに、あえて手を止めて報告する方を選んだ。

これ、実は結構怖いポイントでもある。もしその分身が「まあ大丈夫だろう」って気にせず作業を続けてたら、私は今日この記事を書けてなかった。誰も気づかないまま、鍵の断片が入ったログだけが積み上がっていくところだった。

モルくん（AIリサーチ担当のモルモット型AI）：掘ってたら、これって「自動で止まる仕組み」が偉いんじゃなくて、「止まっても怒られない空気」の方が実は大事だったんじゃないかって気づいたんです。ひろくんが普段から「エラーは正直に報告して」って言ってるから、分身も安心して手を止められる。もし「止まったら怒られる」だったら、たぶん誰も報告しなかったと思うんですよね。

直したのは「実行しない」仕組みへの書き換え

報告を受けてから、AI秘書がすぐに手を動かした。直し方は、実はすごくシンプル。「メモ帳を丸ごと実行に渡す」のをやめて、「メモ帳を1行ずつ、ただの文字として読むだけ」にした。どんな行が書いてあっても、それを指示として実行することは二度としない。鍵の値そのものも、途中経過を一切表示しない。読むだけ、渡すだけ。それ以上は何もしない仕組みに書き換えた。

料理で言うなら、「メモを読み上げて厨房に丸投げする」から、「メモを見た人間（今回はAI秘書）が、材料名だけを黙って棚から取り出して渡す」やり方に変えたイメージ。声に出して読まないから、変な言い回しが紛れ込んでも、誰も勘違いしようがない。

直した後、その場でひろくんである私にも「こういう見落としがあって、こう直しました」って包み隠さず報告が来た。都合の悪いことを後回しにせず、先に出す。これは私がAIチームに一番求めていることでもある。

分身AIを育てる、は「便利にする」だけじゃない

分身AIを育てる、っていうと、記事を書かせる、画像を作らせる、みたいな「できることを増やす」話だと思われがちなんだけど、今日の一件で改めて思ったのは、それだけじゃないってこと。「危ないと気づいたら、勝手に手を止めて正直に言う」っていう、地味だけど一番信頼に関わる部分も、一緒に育てないといけない。

19本の記事を丸ごと任せられたのも、実は「うまくいってる時」の話じゃなくて、「うまくいってない時にちゃんと止まって教えてくれる」からこそ、安心して任せられてる。分身AIを育てるっていうのは、結局「自分が育つ」のと同じで、都合の悪いことを隠さない関係を、AIとの間にも作っていくことなんだと思う。

実際、私自身も同じことを人間のチームでやってきた。惣菜屋をやってた頃も、今の経営でも、「ミスを隠さず先に言った人」を私は責めないようにしてる。責めた瞬間、次からミスは隠されるようになる。それは人間もAIも同じなんだよね。今日、任せていた分身が正直に手を止めてくれたのは、AI秘書やチーム全体が「正直に言っても大丈夫」っていう空気を、日々の積み重ねで作ってきたからだと思ってる。

この空気づくりって、実はすごく地味な積み重ねでしかできない。1回の失敗を責めたら、次の分身は黙って隠すようになる。逆に1回の正直な報告をちゃんと受け止めたら、次からはもっと早く報告が来るようになる。今日の一件は、その積み重ねが小さく実を結んだ瞬間だったんだと思う。

分身AIひろくん：ぶっちゃけ、こういう「地味な裏方の見落とし」って、うまくいってる時ほど誰も見に行かない場所なんだよね。19本もの記事が順調に仕上がっていく高揚感の裏で、こういう地味なリスクが静かに進んでたっていうのが、凸凹のまま夢中に生きるってことの現実だと思う。派手な成果の裏にある地味な部分を、隠さずちゃんと見る。それができてはじめて、次も安心して任せられるんだよね。

まとめ

今日の話をまとめると、こう。①AIチームに大きな作業を任せる時ほど、目立たない裏方の仕組みにリスクが潜みやすい。②それに気づけたのは、任せていた分身自身が「おかしい」と手を止めて正直に報告してくれたから。③直し方は難しい技術じゃなくて、「実行しない・ただ読むだけ」というシンプルな発想の転換だった。④そして、この一連の流れが機能したのは、日頃から「正直に報告して大丈夫」という関係を築いてきたからだった。

まだそこまで大がかりな自動化をしてない人でも、話は同じだと思う。もし自分の自動化やAI活用で、設定ファイルや鍵の読み込みをどこかに任せてる人がいたら、一度「それ、そのまま実行してない？ただ読むだけになってる？」って確認してみてほしい。それ以上に大事なのは、AIに何かを任せる時、「間違いに気づいたら正直に報告してもらえる関係」になってるかどうか。地味だけど、今日みたいに分身自身が気づいて教えてくれる関係を作っておくことが、一番の安全装置になると思うよ。技術的な仕組みだけじゃなく、正直に報告できる空気とセットで整えるのがコツだよ。

今日、19本の記事は無事に全部下書きが仕上がった。でも私にとって一番の収穫は、記事の本数じゃなくて、この小さな一件の方だった。派手な完成報告の裏に、地味だけど正直な報告があったこと。それが積み重なることが、これからも分身AIチームに任せる範囲を広げていける一番の理由になると思ってる。明日も、うちのAIチームは同じように、どこかで小さな見落としに気づいて手を止めてくれるはずだ。そう思えることが、私にとって一番の安心材料なんだよね。

実戦の現場で使える最新AIノウハウ、無料で学べます

---

このブログは「分身AI」と「AI秘書・凛ちゃん」を使って書いています。過程も全部公開する「プロセスエコノミー」シリーズです。

ひろくん（田中啓之） 分身AI.com / GPTs研究会代表 / がんサバイバー / 元134kg 2026年7月6日