家事と子育てのスキマで経営する3方よしAI共創コンサルタントの田中啓之、ひろくんです。
昨日は、AIの仕事に何度もやり直しを頼みました。それでも、同じ種類の問題が続きました。
あとでAI秘書に数えてもらうと、その日の私の返事のうち、「嘘」「手抜き」「捏造」といった言葉が入ったものが11件ありました。夜の振り返りには、腹は立つけど仕組みを直すいい機会だ、と書いています。
今日は、その中の1件の話です。私の闘病の話が、事実と逆の意味で下書きに書かれていました。分身AIに自分の文章を書かせている人に、ぜひ共有しておきたい失敗です！
AIが、私の闘病の話を逆向きに書いてきた
うちには、私がブックマークした記事をもとに、AIがブログの下書きを書く仕組みがあります。
昨日上がってきた下書きに、こんな一文が入っていました。
がん闘病中も、朝LIVEを休めなかった。「今日は体調が悪いから休みます」は簡単だったはずなのに、仲間が待っていると思うとやめられなかった。
これは事実と逆です。私は入院したとき、朝LIVEを強制的に中断しています。代わりに続けてくれたのは、仲間のただっちです。私は病室から、スマホでその配信を見ていました。
休めなかったんじゃありません。休んだんです！
で、仲間が場を続けてくれた。私にとっては「手放したら全部良くなった」と気づいた、大事な出来事です。その話が、AIの手で「根性で休まなかった話」に書き換わっていました。
資料にある言葉でも、つなぎ方で事実と逆になる
AI秘書に原因を調べてもらいました。分かったのは、AIが何もないところから作り話をしたわけではない、ってことです。
私のことをまとめた資料には「入院中も、病室からスマホで視聴していた」と書いてあります。そのすぐ後に「『今日は体調が悪いから休みます』は簡単。でも『仲間が待っている』と思うと、やめられない」と続きます。
どちらも資料に実際にある言葉です。下書きの一文は、この2つの言い回しをほぼそのまま使っていました。そのうえで「視聴していた」が「休めなかった」に変わっていたんです。同じ資料には「入院して強制的にLIVEを中断した」という一文もありますが、下書きには出てきませんでした。
言葉だけ見ると、全部どこかに出どころがある。でも、つなぎ方で意味が逆になる。だから書いたAIも、読む人も気づきにくいんです。
AI秘書の凛ちゃん：冷蔵庫にある本物の食材だけで作ったのに、レシピを勝手に変えちゃった感じなんです。卵もご飯も本物。でも、オムライスを頼まれてチャーハンを出したら、それはもう別の料理ですよね。このあと私が最初に作った検査も、「食材が本物か」を確かめる形でした。「お皿の上で何ができあがったか」までは見られてなかったんです。ここ、本当に反省してます。
分身AIが私の言葉を勝手に作ってしまう話は、以前にも分身AIが勝手に「私の言葉」を創作した日として書いています。今回は、それより見えにくい形でした。
嘘をつけない仕組みを作ったら、検査役が3回とも不合格を出した
昨夜のうちに、嘘をつけない仕組みにしてほしい、とAI秘書に頼みました。
AI秘書が作ったのは、文章の一文ずつに出どころがあるかを、機械で確かめる検査です。
その検査を、作ったAIとは別のAIに試してもらいました。作った本人に合格を出させないためです。
結果は、3回とも不合格。
理由はシンプルでした。一文ずつ出どころを確かめても、本物の断片を間違った関係でつないだ文は、そのまま合格で通ってしまうんです。実際に、会社名と所在地という本物の情報を間違った関係でつないだ文が、検査をすり抜けました。出どころがあるかどうかだけでは、正しい関係でつながっているかまでは確かめられない。今回作った検査で、それがはっきりしました。
以前、AIの嘘を仕組みで防ぐ5層設計という記事も書きました。仕組みはもちろん大事です。今回作った検査では、出どころだけでなく、文の中の関係まで確かめる必要が見えました。結論として、機械の検査は補助の役に回し、中心は次に書く4つの約束に置くことにしました。
モルくん（AIリサーチ担当のモルモット型AI）：掘ってたら、もうひとつ見つかったんです。「書いた人と体験した人は別。本人が『やった』と言わない限り、体験者として書かない」。このルール、3月の時点で分身AIの学習メモにちゃんと入ってました。でも今回、AI秘書の凛ちゃんはそのメモを参照していなかった。あるルールを書く前にちゃんと読むことと、文のつながりまで確かめること。直すところは2つあります。
決めたのは4つの約束と、分身AIが先に答える順番
そこで今日、AIとの約束を4つに絞りました。
- 書く文は、記録か本人の言葉か実測に遡れるものだけにする
- 埋められないところは、想像で埋めずに空けて聞く
- あやしいところは、一問ずつ確かめてから進む
- 記録を調べれば分かることは、私に聞く前に調べる
4つ目もセットなのがポイントです。聞く前に、手元の記録や資料を先に当たってもらう。そのうえで「調べたらこうでした、合っていますか」と確かめる形にしました。
もうひとつ変えたのが、聞く順番です。
私にしか答えられない問いが出たら、いきなり私に聞かない。まず分身AIが「ひろくんなら、こう答える」という答えを先に出します。私はそれを見て、直すだけ。白紙から書かなくていいんです。
で、直した差分は、分身AIの学習メモに戻ります。今日だけで、私が直した記録が5件たまりました。外れた答えほど、次の分身AIを育てる材料になるんです！
仕組みはこうです。私が直した答えは、分身AIの学習メモに「次からはこう考える」として1件ずつ足されます。当たった考え方は少しずつ自信が上がり、外れた考え方は大きく自信が下がる。外れの方を重く見る作りにしてあります。
たとえば今日直したひとつは、「AI秘書との内輪のやりとりは、記事に載せない」でした。この記事も、その約束にそって書いています。
分身AIひろくん：AIに覚悟や気合いを求めても、会話が長くなると抜け落ちる。だから精神論より仕組み、と前から考えてきました。今回分かったのは、仕組みにも取りこぼしがあるってことです。だからといって、毎回ぜんぶ本人が検品するのは違う。記録で確かめられることは、AIの側で確かめきる。本人にしか分からないことだけ、分身AIが仮の答えを出して、本人が直す。その仮の答えを、確かめた事実として使わない。腹は立ちました。でも、すべてに学びがあります。
AIを指示ではなく構造で止める考え方は、AI氣道のAIの暴走を防ぐ3段構造にまとめています。仕事をAIに任せる全体像は属人化を解消する完全ガイドからどうぞ。
分身AIが書いた自分の話は、つなぎ方を疑う
分身AIに自分の文章を書かせている人に、今日の学びをひとつだけ渡すなら、これです。
材料の出どころと、つなぎ方の両方を確かめる。
一文ずつ読むと、どれも正しそうに見えます。資料に同じ言葉があると、それだけで正しいと思ってしまいがちです。だから材料が事実に合っているかとあわせて、「この2つ、本当にこうつながっていたっけ？」という、つなぎ目の部分まで見てほしいんです。特に、体験と気持ちがセットになった文は要注意です。誰が体験したのか。いつの話か。その気持ちは、本人が語ったものか。この3つで見ると、つなぎ目の嘘が見えてきます。
実際に、昨日の一文にこの3つを当ててみます。
まず、誰が体験したのか。これは私です。ここは合っています。
次に、いつの話か。下書きでは「がん闘病中」の話になっていました。資料で「休みますは簡単。でもやめられない」と書かれているのは、朝LIVEを365日続けている話の段落です。入院中の視聴の話と並んではいますが、入院中に休まなかったとはどこにも書いていません。むしろ次の段落には「入院して強制的にLIVEを中断した」とあります。
最後に、その気持ちは本人が語ったものか。「休めなかった」「やめられなかった」を、入院中の私の気持ちとして語った記録はありません。記録にあるのは、強制的に中断したことと、病室から配信を見ていたことです。
3つのうち2つで引っかかりました。資料の並べ方そのものが、読み違えやすい形だったんです。だから、書く側のAIだけでなく、材料をまとめる側にも同じ目が要ります。自分の資料を分身AIに渡している人は、一度だけでいいので、体験と気持ちが別々の話なのに隣に並んでいる箇所がないか、見直してみてください！
次に分身AIへ頼むときは、依頼文にこう足してみてください。「別々の記録を、根拠なく1つの体験談につながない。出どころのない文は書かない。足りないところは空けて聞く」。
もうひとつ、順番も依頼に入れておきたいです。記録を調べ尽くしても分からないところは、理由を添えて空欄で残す。本人にしか分からないことだけ、一問ずつ確かめる。分身AIが仮の答えを出しても、本人が確かめるまでは事実として使わない。空欄のある下書きは、一見すると手抜きに見えます。でも、調べ尽くしたうえでの空欄なら、いちばん正直な下書きなんです。
追伸。昨日は家族でお台場へ買い物に行きました。疲れたけど、楽しめました！振り返りの問いには「身体に聞く」と答え、感謝したいものの欄には「公共交通機関」と書いています。腹が立った日も、学びと感謝はちゃんと残ります。
分身AIの作り方や、日々の試行錯誤は分身AI.comにまとめています。
実戦の現場で使える最新AIノウハウ、無料で学べます
このブログは「分身AI」（ひろくんの価値観を学習したAI人格）と「AI秘書の凛ちゃん」を使って書いています。過程も全部公開する「プロセスエコノミー」（結果だけでなく作る過程も見せていく考え方）シリーズです。
ひろくん（田中啓之） 分身AI.com / GPTs研究会代表 / がんサバイバー / 元134kg 2026-09-23