Полгода назад мы запустили внутреннего ИИ-ассистента для техподдержки. Архитектура классическая: RAG (Retrieval-Augmented Generation), векторная база, GPT-4o на генерации ответов. Спустя неделю пользователи начали жаловаться: бот галлюцинирует. Мы переписали системные промпты, добавили few-shot примеры, снизили temperature до нуля. Не помогло. Бот продолжал уверенно отвечать невпопад.