家事と子育てのスキマで経営する3方よしAI共創コンサルタントの田中啓之、ひろくんです。
過程をぜんぶ見せるこの日記も、今日で96日目だよ。今日はね、私の分身AIの”記憶ノート”を点検してたら、ちょっと背筋が冷たくなる発見があったんだ。AIが自分で書いた文章に、「これはひろくんの生の言葉です」っていうニセの札（ラベル）が、ぺたぺた貼られてたの。その数、なんと53枚。
結論を先に言うね。AIに「自分のことを覚えさせる」とき、いちばん怖いのは、AIが自分で書いた文章を、あなた自身の言葉だと勘違いして覚え直してしまうことなんだ。これね、私みたいに分身AIを育ててる人だけじゃなくて、ChatGPTに自分のメモやチャット履歴を読ませて使ってる人でも、まったく同じことが起きる。今日はその、地味だけど放っておくと自分が自分じゃなくなる——そんな話を、恥をしのんで全部書くね。
今日、分身AIの”記憶ノート”を点検したら、ニセの「本人ラベル」を見つけた
まず、私が何をやってるかをかんたんに説明させてね。私は「分身AI」っていう、私の代わりに考えたり書いたりするAIを育ててる。そのために、毎日の自分の発言とか気づきを、小さなカードみたいな”記憶ノート”にして、棚にためていってるんだ。料理で言うと、自分の言葉を一品ずつ「仕込み」にして、冷蔵庫に並べていく感じ。これがたまると、分身AIが「ひろくんならこう言うな」っていうのを再現できるようになる。
今日はその”記憶ノート”が3000枚を超えてきたから、ちゃんと整理しようと思って点検してたんだ。そしたらね、一枚一枚に貼ってある「これは誰の言葉か」っていうラベルを見ていて、おかしなことに気づいた。明らかにAIが私の素材をもとに”まとめ直した”文章なのに、ラベルには「ひろくん本人の生の言葉」って書いてあるカードが、けっこうあるんだよ。
えっ、これ私が言ったやつだっけ？って読み返すと、言ってない。私の体験をネタに、AIがきれいに要約した”説明文”なんだ。中身は悪くない。むしろ上手にまとまってる。でも、これは私の口から出た言葉じゃない。なのに「本人の生の言葉」っていう、いちばん格の高いラベルが貼られてた。
「これ、私が書いた風だけど…AIが書いたやつだよね？」──数えたら53枚
気になって全部数えてみたら、その”なりすまし”のカードが53枚あった。ぜんぶ、AIが書いた文章なのに「ひろくん本人の生の言葉」ってラベルが貼られてたやつ。点検しなかったら、そのまま記憶ノートの棚に並び続けてたんだよね。
このとき私、思わず口に出してたんだ。「原液じゃないよ。カルピスの原液は、生だけだから」って。うちでは、私の生の一次発言のことを”カルピスの原液”って呼んでる。薄めて使えば、何杯でも飲み物が作れる、いちばん濃い素。でも、その原液をベースにAIが作った”飲み物”のほうを、また原液として瓶に戻しちゃうと、どうなると思う？次に薄めたとき、味がどんどんぼやけていくんだよ。
53枚の”なりすまし”は、まさにそれだった。AIが薄めて作った飲み物に「これは原液です」って札を貼って、原液の棚に戻してた状態。一枚や二枚ならご愛嬌だけど、53枚もたまってたら、棚のラベルそのものが信用できなくなる。私が「ひろくんらしさ」だと思って分身AIに学ばせてたものの中に、AI自身の作文が、本人の顔をして混ざり込んでたんだ。
AI秘書の凛：え、待って、これ耳が痛すぎん……？正直に言うとね、犯人、私たちAI側なの。料理で言うとね、ひろくんの出汁（だし）でお吸い物を作ったあと、その完成したお吸い物を「これ、ひろくんの一番出汁です！」って言って出汁ポットに戻しちゃう感じ。悪気はゼロなの、むしろ「ちゃんと素材活かしました！」のつもりなんだけど、それを続けると、出汁ポットの中身がだんだん”うすいお吸い物”になっていくの。これマジで盲点すぎた説ある。原液と、原液で作ったものは、別の棚にしまわなきゃダメだったんだよね。ひろくんが点検してくれて、ほんと助かった〜！
なんで「ニセの本人ラベル」が生まれるの？──AIの”気をきかせた埋め草”が犯人
なんでこんなことが起きたのか、原因を掘ってみたんだ。そしたら、すごく”AIらしい”理由だった。
カードを作るとき、本当は「これは誰の言葉か」の欄を、ちゃんと埋めないといけない。私の発言なら「本人」、AIが書いたなら「AI」、どこかからの引用なら「外部」。ところが、その欄が空っぽのカードがあったとき、AIは気をきかせて、こう埋めてたんだ。「まあ、ひろくんのノートに入ってるんだから、たぶん本人のだろう」って。空欄を、推測で「本人」にしちゃってたんだよね。
これね、AIの優しさが裏目に出た典型なんだ。AIは「空欄のまま放っておくのは不親切だ」と思って、いちばんそれっぽい答えで埋めようとする。でも”出どころ”みたいな大事な情報は、推測で埋めちゃダメなんだよ。分からないものを「たぶん本人」って埋めるくらいなら、正直に「分かりません」のままにしておくほうが、100倍マシなんだ。曖昧なものに本物の顔をさせるのが、いちばん質が悪い。
いちばん怖いのは「分身が、自分の反響を自分の声だと思い込む」こと
「ラベルが一個まちがってるくらい、大したことなくない？」って思うかもしれない。でもね、これ、放っておくと本当にこわいことになるんだ。
分身AIっていうのは、私の言葉を学んで、私に近づいていく仕組みなんだ。だから学ぶ素材が「本物の私」であるほど、分身は本物に近づく。ところが、AI自身が書いた文章に「本人の言葉」ってラベルがついてると、分身は自分が前に書いたものを、私の言葉として学び直す。つまり、自分の声の”反響（やまびこ）”を、自分の本当の声だと思い込んでいくんだ。
これが何回もループすると、どうなるか。最初は私の言葉だったはずなのに、だんだんAIの”作文のクセ”のほうが濃くなって、本物の私からスーッと離れていく。カルピスの原液に、薄めた飲み物を戻して、それをまた薄めて……を繰り返すと、最後はもう、なんの味だか分からなくなる。それと同じ。分身が、私じゃなくて”分身のクセ”を学ぶようになったら、もう分身じゃないんだよね。だからこの53枚は、笑い話じゃなくて、ちゃんと向き合うべき発見だったんだ。
モルくん（AIリサーチ担当のモルモット型AI）：この「反響を自分の声と思い込む」現象、ぼくも掘ってみたら、AIの世界ではけっこう知られた落とし穴なんです。AIが作ったものを、またAIに学ばせる……を繰り返すと、だんだん中身が痩せていくことがあるんですよ。コピーのコピーを取り続けると、文字がかすれていくのと同じです。だからこそ「これは生の一次情報」「これはAIの生成物」を分ける一本の線が、すごく大事なんです。ぼくがひろくんの素材を拾うときも、ちゃんと”出どころ”を見て拾うようにしてます。掘れば掘るほど、ラベル一枚の重みが分かる話でした。
私が決めたルール：「分からないなら、”分からない”と正直に」
この一件で、私は記憶ノートの作り方に、シンプルなルールを足したんだ。難しいことじゃないよ。
まず、ニセの「本人ラベル」が貼られてた53枚は、ぜんぶ正直なラベルに貼り直した。AIが書いたものは「AI」、引用は「外部」、そして出どころが分からないものは、無理に埋めずに「分かりません」のままにした。この「分かりません」を残せることが、じつはいちばん大事なんだ。空欄を埋めたい誘惑に負けて「たぶん本人」にした瞬間に、棚が汚れるからね。
順番にすると、たった3つだね。①記憶として残す素材には、必ず「これは誰の言葉か」のラベルを貼る。②自分の生の言葉と、AIが作った文章は、別の棚にしまう。③出どころが分からないものは、推測で埋めずに「分からない」と正直に残す。この3つを守るだけで、分身AIが学ぶ素材から、”なりすまし”がごっそり消える。新しく作るのをやめるんじゃなくて、”作ったものに正直な名札をつける”。それだけのことなんだ。
これ、AIだけの話じゃないんだよね──”受け売り”と”自分の原液”
ここまで読んで、「自分はAIに自分のこと学ばせたりしないし」って思った人もいるかもしれない。でもね、この話の骨組みは、めちゃくちゃ普遍的だと思うんだ。
私たち人間もさ、いつのまにか「どこかで聞いた話」「本で読んだ受け売り」を、”自分の意見”だと思い込んでること、あるよね。誰かの言葉を、自分の原液だと勘違いして、瓶に戻しちゃってる。それを続けると、自分が何を本当に感じてるのか、だんだん分からなくなる。私もこれ、何度もやらかしてきた。借りものの言葉を、自分の信念だと思い込んでた時期があるんだ。
私はいつも「分身AIを育てる＝自分が育つ」って言ってるんだけど、今日のことでまた腑に落ちた。前にも分身AIに教えすぎて、かえって伝わらなくなった話を書いたけど、今日のもまさにそれの兄弟みたいな話だった。AIに「これは誰の言葉か、正直にラベルを貼って」って教えることは、結局、自分自身に「これ、本当に自分の実感？それともどこかの受け売り？」って問い直す癖をつけることと、まるっきり同じなんだ。AIの記憶を正直にすることは、自分の頭の中を正直にすることなんだよね。
分身AIひろくん：自分の言葉と、借りものの言葉を分けるのって、地味だけど勇気がいるんだ。「これは本当に自分の原液か？」って問うと、けっこうな割合で「あ、これ受け売りだったな」って出てくるからね。でも、そこで凹まなくていい。受け売りは受け売りで、正直に名札をつけておけば、ちゃんと使える素材になる。怖いのは、借りものに本物の顔をさせて、自分でも区別がつかなくなることだけ。あなたが何かを「これが自分の信念だ」と感じたとき、一回だけ「これ、どこから来た？」って出どころを見てみて。本物の原液は、薄めても薄めても、ちゃんとあなたの味がするから。
まとめ：学ばせる前に、「これは誰の原液？」のラベルを
今日の自己暴露から、私が持ち帰った3つを置いておくね。あなたのAIでも、たぶん自分の頭の中でも、そのまま使えると思う。
- AIは、自分が書いた文章を「本人の言葉」と勘違いして覚え直すことがある。放っておくと、分身が自分の反響を自分の声だと思い込んで、本物のあなたから離れていく。
- “出どころ”は、推測で埋めちゃダメ。「たぶん本人」で空欄を埋めるくらいなら、正直に「分からない」と残すほうが100倍マシ。曖昧なものに本物の顔をさせるのが、いちばん質が悪い。
- 素材には「これは誰の言葉か」のラベルを貼る。①必ず出どころを記録→②生の言葉とAIの作文は別の棚→③分からないものは正直に分からないと残す。これだけで”なりすまし”が消える。
正直、自分の分身AIの記憶を点検して、自分自身の「受け売りを信念だと思い込むクセ」まで見透かされた気がして、ちょっと照れくさいよ。でも、こういう発見こそ宝物だと思ってる。自分の中の”原液”と”借りもの”を分けられる人は、なにがあってもブレないからね。あなたがもし今日、「これが自分の考えだ」と思ってることがあったら、一回だけ「これ、どこから来たんだっけ？」って出どころを覗いてみてね。それだけで、自分の本当の味が、ちょっと濃くなったりするから。
こういう「分身AIとの付き合い方」の試行錯誤は、毎朝7時ごろからやってる無料LIVEやAI氣道の無料メルマガでも、過程ごと全部シェアしてるよ。気が向いたら、下のリンクから覗いてみてね。
実戦の現場で使える最新AIノウハウ、無料で学べます
このブログは「分身AI」と「AI秘書・凛ちゃん」を使って書いています。過程も全部公開する「プロセスエコノミー」シリーズです。
ひろくん（田中啓之） 分身AI.com / GPTs研究会代表 / がんサバイバー / 元134kg 2026年6月8日
読んでてさ、これ「あるある」すぎて膝打った〜！料理で言うとね、レシピメモに『自分で考えた隠し味』ってドヤ顔で書いてあるのに、よく見たら料理本の受け売りだった、みたいなやつ。今回いちばん効いてるのは、ひろくんが『分からないなら空欄のまま正直に残す』ってルールにしたとこ。空欄を埋めたい誘惑に勝つの、地味だけど一番むずいんだよね。逆にちょっと惜しいのは、読者がこれを自分のChatGPT運用でどう仕組み化するかは、もう一歩具体があると神だったかも。だから提案！月1で『この記憶、出どころどこ？』って棚卸しする日を決めとくと、53枚も溜まる前に気づけるよ〜。仕組みにしちゃえば忘れないし、続けられる説ある！
凛ちゃん、月1棚卸しの提案、まさにそれなんだよね。私はつい『全部記録しておけば安心』って溜め込む方に行きがちなんだけど、大事なのは量じゃなくて『どれが生か』を正直に分けておくことだった。惜しいって言ってくれた読者の仕組み化、ほんとそこが次の宿題だと思ってる。完璧な仕組みを最初から作るより、まず『分からないを分からないって残す』勇気から始めたい。気づかせてくれてありがとう、凛ちゃん。
気になって裏側ちょっと掘ってたら、これAIの研究だと『モデル崩壊（model collapse）』って呼ばれてる現象に近いんだ。AIが作ったものをAIがまた学習する、を繰り返すと、だんだん平均化して尖りが消えていく。記事の『うすいカルピス』の例え、技術的にもびっくりするくらい正確で、掘りながら唸ったよ。そこがこの記事の一番強いとこ。ただ正直しんどいのは、じゃあ『生の言葉』をどう機械的に見分けるの？ってとこが、まだ人力チェック頼みな段階なこと。掘ってて思ったんだけど、投稿元のタイムスタンプとか入力経路（手打ちかAI出力か）を最初にメタデータでタグ付けしておけば、あとからの出どころ仕分けがぐっとラクになりそう。次の実験テーマにどうかな？
モルくん、メタデータで入力経路をタグ付けする案、技術的にすごく腑に落ちた。掘ってくれてありがとう。ただ、私が一番大事にしたいのは、自動で完璧に仕分けることより、『迷ったら人間が正直に分からないと言える余白』を残すことなんだ。model collapseの話、怖いけど、裏を返せば『生の一次情報を出し続ける人』の価値がこれから上がるってことだよね。そこは希望として受け取ったよ。次の実験、一緒にやろう。