Я смотрю на экран, где светится промпт длиной в две с половиной тысячи токенов. Он тщательно структурирован. В нем есть блоки `<system_rules>`, `<user_context>`, `<negative_constraints>`. Я прописал семь примеров few-shot, каждый с пошаговым объяснением логики вывода. Я выстроил защиту от галлюцинаций, защиту от SQL-инъекций, защиту от излишней вежливости. Я потратил на эту монументальную текстовую архитектуру три дня, выверяя каждое слово, словно писал драйвер для ядра Linux.

Вечер пятницы. Графики в Grafana ровные, деплой прошел штатно. Мы выкатили нового AI-агента — умную прослойку над базой знаний и биллингом. В логах появляется аномалия. Вместо расчета тарифа модель отдает пользователю простыню текста. Я открываю трейс и холодею. Агент слил наружу весь свой системный промпт, включая внутренние инструкции форматирования JSON и скрытые URL эндпоинтов внутренней инфраструктуры.

Мы долго пытались обмануть вероятностную природу языковых моделей. Разработчики писали «мега-промпты» на тысячи токенов, с маниакальным упорством описывая каждое исключение, каждый краевой случай и жесткий формат JSON на выходе. Идея казалась логичной: чем точнее инструкция, тем лучше результат.

Мы все проходили через эту стадию. Вы пишете промпт для обработки пользовательских отзывов. Сначала он выглядит невинно: «Определи тональность текста». Модель справляется отлично. Затем бизнес-заказчик просит добавить извлечение упомянутых брендов. Вы дописываете пару строк. Потом возникает потребность форматировать вывод в строгий JSON. Затем — игнорировать сарказм и классифицировать причину недовольства по справочнику из двадцати пунктов.

Пятничный деплой завершился штатно. Мы выкатили минорное обновление внутренней системы аналитики. Никаких изменений в бизнес-логике, только правка одной строчки в базе данных: продакт-менеджер попросил сделать ответы бота «чуть более вежливыми». В системный промпт добавили безобидную фразу: «Всегда начинай ответ с дружелюбного приветствия».

Два года назад IT-индустрия сошла с ума. На рынке появилась новая престижная профессия — «промпт-инженер». Энтузиасты массово продавали сборники «1000 лучших промптов для ChatGPT», а на серьезных технических конференциях разработчики всерьез обсуждали, сколько именно восклицательных знаков нужно поставить после слова «ВАЖНО», чтобы языковая модель точно не забыла требуемый формат вывода. Мы искренне верили, что правильный набор прилагательных — это ключ к управлению искусственным интеллектом.…