Я отлично помню тот вечер, когда наша команда впервые выкатила фичу на базе LLM в продакшен. На стейджинге модель вела себя безупречно: отдавала валидный JSON, строго следовала системному промпту, не выдумывала несуществующие факты. Релиз прошел гладко. А через два дня в саппорт прилетел тикет. Бот выдал пользователю простыню откровенного бреда, проигнорировал все hard-лимиты и в конце добавил философскую цитату на латыни.