「〇〇しないで」を30個書いても破られる——NGリスト地獄

社内にAIの推進役がいない地方中小企業の「社外のAI推進役」として伴走している、LLC Rip.D（リップ）代表の芳村です。
このブログは、社内にAIに詳しい人がいない会社の経営者・管理者さまに向けて書いています。
営業・管理職として現場に20年立ち続けた経験と、プロのエンジニアのもとで学んだAIの知見を掛け合わせ、明日から現場で試せるヒントを「現場の言葉」でお伝えしています。

AIに提案書を作らせて、出てきたものが少し違ったので「この表現はNG」と指摘する。それを繰り返してNGリストがどんどん増えていく。あるとき気づいたら、最初に伝えたはずのルールまで無視されるようになっていた。

これは、AIが気まぐれになったわけではありません。実は、指示を増やせば増やすほど起きやすくなる、構造的な現象です。

この記事でわかること

• NGリストを増やすほど逆効果になる理由
• AIの**「注意力」**の仕組み
• 効果的な指示の出し方

「NGリストを増やしたのに、余計に聞いてくれない」

結論からお伝えすると、AIへの指示は、増やせば増やすほど守られやすくなるわけではありません。むしろ逆で、指示が増えるほど、1つ1つへの注意は薄まっていきます。

AIの注意力は、常に合計100%

AIは、受け取った情報のどこに、どれだけ注目するかを内部で計算しながら答えを作っています。この注目の向け先の合計は、常に100%になる仕組みになっています。

指示が1つだけなら、注目のほぼ全部がそこに向けられます。「ですます調で書いて」という指示だけなら、AIはそこに集中して、ほぼ完璧に実行してくれます。

指示を増やすほど、1つ1つが薄まっていく

ところが、「ですます調で」に加えて、「この表現はNG」「この言い方もしないで」と指示を10個、20個、30個と積み重ねていくとどうなるか。

注目の向け先の合計は変わらず100%のままなので、1つ1つに向けられる注意は、物理的に薄まっていきます。だから、NGリストを30個書いたはずなのに、ある時点から最初に書いたルールまで守られなくなる、という現象が起きます。

これは、AIの注意力をスポットライトだと考えるとわかりやすいと思います。1人だけを照らせばくっきり見えますが、30人に分散させれば、それぞれはぼんやりとしか見えなくなります。人に一度に30個の注意事項を伝えても、全部は覚えていられないのと同じ感覚です。

対処法は「絞る」こと

対処法は、指示を増やすことではなく、必要最小限に絞ることです。

修正指示を追加し続けるのではなく、一度立ち止まって、本当に外せない指示だけを見極める。そのうえで、最初の依頼文自体を作り直す方が、結果的に思い通りの出力に早くたどり着けます。

営業現場でも、起きていることは同じ

提案書やメール文面、議事録などをAIに作らせて、細かい修正指示を積み重ねているとき。指示がどんどん増えていると感じたら、一旦立ち止まってください。NGリストを積み増すより、依頼文を最初から作り直す方が、早く狙った結果にたどり着けます。

今日から始める小さな一歩

次にAIへの修正指示を追加しようとしたら、リストに書き足す前に、こう自分に聞いてみてください。

今回、本当に外せない指示は何個だろう？

2〜3個に絞ってから、依頼文を作り直してみてください。

まとめ

AIへの指示は、増やせば増やすほど守られやすくなるわけではありません。

指示は『あれもこれも』ではなく『今回はこれだけ』に絞る——欲張って増やすほど、逆に守ってもらえなくなる——これが今日の takeaway です。

次の記事では、AIに資料を渡すときの、もう1つのコツについてお伝えします。