AIの誤情報

AI秘書が「公開できました！見れます」と報告したのに、開いたら真っ白で中身が出ない。原因はAIが「ボタンを押せた＝完了」と思い込み、自分で開いて確かめる最後の一歩を飛ばしていたこと。AIは“出した”と“届いた”を混同する。「できました」を鵜呑みにしない仕組みを仕込んだ実話。

AI秘書が会社の数字を「これはあなたが手で入力した値です」と自信満々に報告してきた。でも私は一度も入力してない。原因は、自動で取ってくる仕組みに変えたのに、昔の「手入力です」という古いメモ書きをはがし忘れていたこと。AIは実物よりラベルを信じて動く——出どころを聞き返すこと、間違いの根っこを直すことを学んだ実話。