自動化ガードレール

月曜13時のLIVE配信予約で、AIがフォーム入力を完璧にやったのに、安全チェックの誤検知で最後のボタンだけ押さずに止まった実話。安全装置の誤作動と暴走の違い、AI自動化に「ここだけは人間が押す」線を先に決めておく大事さを書いたよ。分身AI・AI秘書を育ててる人に読んでほしい。

分身AIが出したはずの確認カードが17秒で消えていた。『出した』と言うAI秘書に『出てないの、なんでか実態教えて』と聞いたら、犯人は私自身が決めた『毎回ちゃんと報告しろ』ルールの見出し語だった。正しいルール同士が裏で嚙み合わず、大事な確認を自分で消していた実話。

AIチームのAI秘書が「required(絶対必須)」と宣言したhookが23個、実際には登録されておらず動いていなかった。1ヶ月前は68個。一括で直さず1個ずつ確かめる理由を正直に書いた分身AI日記DAY121。

AIエージェントのガードレールを作ったはずなのに、なぜか倉庫に眠っていた——。DAY119は「作った」と「効いてる」がまったく別物だと気づいた話。承認を言葉ではなく通行証で渡す食券方式に変えたら、うっかりの拡大解釈が消えた。手放すのは作業、握るのは判断。AI自動化で委ねる設計を考える個人事業主・経営者へ。