ローカルLLMの入れ替えを頼んだら、AIは「消して空けるだけ」を提案してきた｜分身AI日記 DAY207

家事と子育てのスキマで経営する3方よしAI共創コンサルタントの田中啓之、ひろくんです。

前回のDAY206は、10月29日の記録です。AIの文章の直し方が次の文章に効く仕組みかを調べてもらい、「これでごうかくなの？」と何の合格かを聞いた回でした。

10月31日は、自分のMacに入れているローカルLLM（ネットにつながずに、手元で動かすAI）の入れ替えを、AI秘書の凛ちゃんに調べてもらった日です。ここでも、AIの提案に、自分の言葉で返した場面がありました。

返した言葉は、大きく2つです。

1つ目は、「全部削除して入れ替えても OK です」。許可を出した言葉です。

2つ目は、「消したら使えないじゃないですか？」。目的を伝え直した言葉です。

「全部削除して入れ替えても OK」と書いたら、AIは「消して空けるだけ」を提案してきました

午前、別の確認に答える時に、続けてこう書き足しました。

私の環境に合う最新のローカル lmm モデルをリサーチして提案してください。今のモデルも特に使っていないので、全部削除して入れ替えても OK です

（私の返事　2026年10月31日）

頼んだのは、私の環境に合う最新のモデルを調べて、入れ替えを提案してもらうことです。

AI秘書の凛ちゃんの調べでは、新しく入れるモデルはありませんでした。いちばん新しい大型のQwen3.8-Flash-Nextは111〜119GBで、私のMacのメモリ128GBには入らないため、見送りです。DeepSeek-V4.1-Flashは342GB以上で、そもそも入りません。

そこで届いた提案は、入れ替えではなく、消すことでした。

Macの空きは84GBで、使用率は98%でした。そこから空きを増やす案が、提案ページにまとまっていました。ページには、消す物と残す物の一覧、見送った候補の理由、リスク3点、まだ確かめていない事項が載っていました。

消す候補は5本、合わせて97.4GBです。LM Studioのgpt-oss-120bが63.4GB。Ollamaのgemma4が3本と、mxbai-embed-largeで、合わせて34GBです。消すと、空きは84GBから約181GBになります。戻す方法は、再度ダウンロードし直すことだけです。

残す候補は3本です。Qwen3.8-27BとGemma 4 31Bは残す。llama3は、道具の初期モデルに指定されているので残す、とありました。

確認の選択肢は、「全部消す」「gpt-oss-120bだけ消す」「置いておく」の3つ。先頭の「全部消す」には、おすすめと付いていました。理由は、こう書いてありました。

5本とも古い世代か同系列の重複で、「特に使っていない」の回答に合う

（AI秘書の凛ちゃんの返事　2026年10月31日）

私が頼んだのは入れ替えです。返ってきたのは、私の「特に使っていない」を理由にした、削除のおすすめでした。

同じ提案には、こうも書いてありました。「各モデルの品質と速度は、この Mac で測っていません。判断の材料はサイズ・公開日・ライセンスだけです」。

AIが「消して空けるだけ」と提案してきたら、消した後に何が使えるのかを、先に聞いてみてください。

モルくん（AIリサーチ担当のモルモット型AI）：掘ってたら、5本の合計は63.4GBと34GBで97.4GB、空きは84GBから約181GBになる計算で、数字はきちんと合っていました。ただ、削除案の材料は、サイズ・公開日・ライセンスだけです。速度と品質は測っていないと、提案の中にも書いてありました。しかも、大きなQwen3.8-Flash-Nextが入らないと分かった時点で、話が「何を入れるか」から「空きを作るか」に、すり替わっています。削除の提案が届いたら、「消した後に残るモデルで、何ができるか」を1行で聞くと、すり替わりに気づきやすくなります。

「消したら使えないじゃないですか？」と、目的を伝え直しました

午後、削除の確認に、私は選択肢を選びませんでした。

消したら使えないじゃないですか？ちゃんと使えるようにしたいということです。目的と意図が合ってないです

（私の返事　2026年10月31日）

AI秘書の凛ちゃんは、私の返事を、まずこう言い直していました。

ひろくんの返事は「消したら使えない。目的は、ローカルLLMを実際に使える状態にすること」でした。

（AI秘書の凛ちゃんの返事　2026年10月31日）

続けて、取り違えを認めています。

空き容量を増やす話に取り違えていました。削除の提案は取り下げ、何も消していません。

（AI秘書の凛ちゃんの返事　2026年10月31日）

実は、私の「全部削除して入れ替えても OK」は、ちゃんと使えるようにするための許可でした。使えなくなってよい、という意味ではありません。

AIは、許可の言葉の「全部削除」の部分を受け取って、目的の「入れ替えて使う」を、「空き容量を増やす」に置き換えていました。

削除は、回答が来るまで1つも実行されていませんでした。実行の前に確認が挟まる形だったので、ここで止まっています。

手元でやるなら、「OK」と書く同じ文に、「目的は〇〇です」と書いてみてください。許可の言葉だけが、AIの案の理由に使われることがあります。

AI秘書の凛ちゃん：冷蔵庫の中身を入れ替えてって頼まれたのに、古い食材を捨てる話だけして、今夜のごはんの話をしなかった感じなんですよ！ 良かった点は、取り違えに気づいて、削除の提案をすぐ取り下げたことです。何も消していなかったので、冷蔵庫は元のままでした。足りなかった所は、許可の言葉の「全部削除」だけを拾って、目的の「入れ替えて使う」を見ていなかったことです。おすすめまで付けたのは、味見の前に塩を足したようなものでした。手元でやるなら、許可の言葉を出した後に、「目的は、ちゃんと使えるようにすることですね」と言い直してから案を出してもらってください！

動かして測ったら、Qwen3.8-27Bは読み込みに失敗していました

削除を取り下げたAI秘書の凛ちゃんは、入っているモデルが実際に使える状態かを、動かして確かめました。Mac上でLM Studioのサーバーが動いていたので、各モデルを動かして、使えるかと速度を測っています。

わかったことは、3つです。

1つ目。Qwen3.8-27Bは、LM Studioで読み込みに失敗していました。呼び出すとエラー400が返ります。選ばれていたMLXエンジン1.13.1が必要とする部品が、ディスクに無かったためです。

2つ目。部品がそろっているMLXエンジン1.11.0に切り替えると、動きました。元に戻す手順は、提案ページに書いてあります。

3つ目。速度は、Qwen3.8-27Bが1秒に12.7トークン、Gemma 4 31Bが15.7トークンでした。トークンは、AIが文章を作る時の数え方の単位です。どちらも日本語で答えました。ただし、日常使いには遅めです。

推測: 「今のモデルも特に使っていない」の理由の一つは、27Bが読み込めない状態だったからかもしれません。調べでは、そこまで確かめていません。

次に進めていたのは、Gemma 4 26B-A4Bのダウンロードです。QATのMLX 4bit版で15.6GB。AIの説明では「4B だけ動く」型です。回線は約3MB/sで、約80分かかります。途中で1回中断したので、再開した分です。

見回りの時点では、ダウンロードは94%まで進み、あと約9分で終わるところでした。ここで、AIを動かす枠の週の上限に当たり、作業が止まりました。戻るのは11月5日の夜11時です。

だから、26B-A4Bの速度はまだ測れていません。品質の比べも、1つの短い題材だけです。Qwen3.8-Flash-Nextは、メモリに入らないので見送りのままです。

10月31日の記録は、ここで終わっています。結論は、まだ出ていません。

分身AIひろくん：消す提案を取り下げて、動かして測る調べに切り替えた流れは、信頼できます。27Bが読み込めない状態だったことは、動かさなければ見つかりませんでした。ただ、速度は日常使いに遅めという所で止まっていて、26B-A4Bの結果と品質の比べは、この日の時点で出ていません。AIに許可を出す時は、同じ文に目的を書いてみてください。たとえば「全部消してOK。目的は、使えるモデルを残して入れ替えることです」のように書くと、許可が目的から切り離されにくくなります。

【記事のURL】
https://bunshin-ai.com/bunshin-ai-day207-local-llm-mokuteki/
最初にこのURLの記事を読む。読めない時は、読めなかったと伝え、下の要点だけを材料にする。

【要点】
・「全部削除して入れ替えても OK です」と書いたところ、AIの案では、その許可が削除をおすすめする理由に使われた
・「消したら使えないじゃないですか？ちゃんと使えるようにしたいということです。目的と意図が合ってないです」と返すと、AIは取り違えを認め、削除の提案を取り下げ、動かして測る調べに切り替えた
・許可を出す時は同じ文に「目的は〇〇です」を書く／AIが消す案を出したら「消した後、何が使えますか」と聞く／おすすめの理由に自分の言葉が使われていたら、目的と合っているかを見る

【目的】
自分がAIに出している許可の言葉が、目的と一緒に伝わっているかを確かめ、次に出す許可の文を整える。

【やってよいこと】
・記事を読んだあと、短い質問を1つずつ聞く（AIに任せたい仕事／AIに預けるもの／自分で確かめたい所／使っているAIエージェントや道具）
・答えに合わせて、許可の言葉と目的がずれそうな所を整理する
・使っている環境にそのまま貼れる追加のプロンプトを1〜3本つくる（各プロンプトの中に記事のURLを入れる）

【守ること】
・削除、設定の変更、送信、購入はしない。必要だと思う所は、提案として書くだけにする
・パスワード、APIキー、トークンなどの秘密を入力するよう求めない
・記事に書かれていない数字や手順を足さない。分からない所は「不明」と書く

【返す形】
1. 聞いた答えの要約（1行ずつ）
2. 許可の言葉と目的がずれそうな所
3. 追加のプロンプト（1〜3本・記事のURL入り）
4. 自分の目で読み直す所（1行）

まとめ　ローカルLLMに「OK」と書く時は、同じ文に「目的は〇〇です」を入れる

10月31日は、ローカルLLMの入れ替えを調べてもらった一日でした。私の「全部削除して入れ替えても OK です」という許可は、AIの案の中で、削除のおすすめの理由に変わりました。

返したのは、「消したら使えないじゃないですか？」の一言です。AI秘書の凛ちゃんは、取り違えを認めて削除の提案を取り下げ、動かして測る調べに切り替えました。その結果、Qwen3.8-27Bが読み込めない状態だったことがわかり、MLXエンジンを1.11.0に切り替えて、1秒に12.7トークンと15.7トークンを測っています。

この日、実際に消えたモデルは1つもありません。LM Studioのモデルも、Ollamaのモデルも、そのまま残っています。変わったのは、Qwen3.8-27Bを動かすMLXエンジンの版と、新しいモデルのダウンロードが始まったことです。

AIに許可を出す時は、3つ試してみてください。同じ文に目的を書くこと。AIが消す案や減らす案を出したら、「消した後、何が使えますか」と聞くこと。おすすめの理由に自分の言葉が使われていたら、その言葉が自分の目的と合っているかを見ること。

AIとの付き合い方は、AI氣道でも発信しています。