ハルシネーションより先に知る3つの壁——失敗の診断表

地方中小企業の AI 導入・活用支援をしているLLC Rip.D（リップ）代表の芳村です。
このブログは営業チームのマネージャー・経営者さまに向けて書いています。
営業領域20年超の現場経験とプロのエンジニアのもとで学んだ AI に関する専門的な知見を融合して、事業活動のお役に立つ情報を「現場の言葉」でわかりやすくお伝えしています。

今回は、AIの回答が「なんだかズレてきた」と感じたときの整理の仕方についてお話しします。

営業マネージャーの方から、こんな声をよく聞きます。

「最初はちゃんと指示通りに動いてくれていたのに、やり取りを続けていたら、急に的外れな提案が返ってくるようになったんです。AIってこういうものなんでしょうか」

「AIはもっともらしい嘘をつくことがある」という話を聞いたことがある方も多いと思います。ただ、原因はそれだけではありません。実は、もっと具体的に整理できます。

この記事でわかること

• AIの回答が**「いまいち」になる**本当の理由
• 原因を整理した3つの壁
• ズレを感じたときの簡単な確認方法

「AIが急にズレた」——よくある瞬間

結論からお伝えすると、AIの回答がズレるのは、気まぐれでも嘘つきだからでもありません。

原因は、構造的な3つの壁に整理できます。これを知っておくだけで、「AIってこんなものか」という漠然とした失望が、具体的な対処に変わります。

原因は「嘘つき」ではなく、3つの壁

AIが答えを間違えることを指して、「もっともらしい嘘をつく」と表現されることがあります。ただ、それだけでは「なぜそうなるのか」がわかりません。

実際には、次の3つのどれかにぶつかっていることがほとんどです。

壁1: 机の広さの限界 やり取りが長くなると、前半に伝えた前提や渡した資料が、少しずつ忘れられていきます。机の上に書類を置き続けると、古い書類が端から押し出されて落ちていくのと同じです。

壁2: 注意の向け先の分散 一度にたくさんの指示を出すほど、1つ1つへの注意が薄まっていきます。「あれもこれも」とお願いするほど、大事な指示ほど見落とされやすくなります。

壁3: 一方通行の執筆 AIは文章を頭から順番に書いていきます。長い文章を書かせるとき、後半になるほど、内容が雑になりやすい傾向があります。

3つの壁を、簡単な診断表にすると

この3つを知っておくと、AIの回答がズレたときに、原因を診断できるようになります。

「AIが変になった」で終わらせず、「今回はどれに当てはまるだろう」と考えられるようになる——これだけで、AIとの付き合い方がぐっと落ち着いたものになります。

営業現場での使い方

この見取り図を、営業マネージャーの現場に当てはめてみます。

長いやり取りで提案書を練り上げているときにズレを感じたら、机の広さの限界を疑う。複数の指示を一気に出したあとに一部が無視されたら、注意の分散を疑う。長文の要約や議事録の後半が雑だと感じたら、一方通行の執筆を疑う——このように、症状から原因の見当をつけられます。

それぞれの壁への具体的な対処法は、また別の記事で詳しくお伝えします。まずは「原因は3つに整理できる」ということを知っておいていただければと思います。

今日から始める小さな一歩

次にAIの回答がズレてきたと感じたら、こう自分に聞いてみてください。

やり取りが長引きすぎていないか。指示を出しすぎていないか。文章が長すぎないか。

3つのうち、どれかに当てはまっていることが多いはずです。

まとめ

AIの回答がズレるのは、気まぐれでも嘘つきだからでもありません。

原因は、机の広さ・注意の向け先・一方通行の執筆という3つの壁に整理できる——これが今日の takeaway です。

次の記事では、3つの壁の1つ目、「机の広さ」について詳しくお伝えします。