Причина в самом принципе работы LLM - он ничего не знает, ни о чём не думает, а только циклически подбирает слово, вероятно продолжающее предыдущий контекст. При этом берётся не всегда одно и то же продолжение, а одно из наиболее вероятных.
В каком-то из вариантов добавленное слово может изменить контекст настолько, что дальнейшее продолжение будет ложью - LLM галюцинирует.