Запуск поиска по каталогу товаров часто упирается в одну и ту же инфраструктурную проблему — внедрение ElasticSearch. Инженеры поднимают кластер, пишут маппинги, настраивают стеммеры и заливают словари синонимов. Настройка лексического поиска требует постоянного ручного тюнинга весов и правил. Пользователь пишет «ноут для кодинга», а поисковый движок выдает пустую страницу, так как в базе лежит только «Ноутбук Apple MacBook Pro 14». Поддержка такого решения обходится дорого. Для каталогов…

Каждый разработчик, интегрирующий большие языковые модели в продакшен, рано или поздно упирается в глухую стену. Обычно это происходит по одному из трех сценариев: вы исчерпали жесткие лимиты на количество токенов в минуту (TPM), руководство требует снизить космические счета за API, или вам срочно понадобилась модель от другого вендора — например, Claude 3.5 Sonnet для сложных задач по написанию кода.

Обычное утро инженера первой линии поддержки начинается с разгребания завалов. Особенно если накануне, в пятницу вечером, продуктовая команда выкатила крупный релиз. В очереди Zendesk висят сотни новых тикетов. Среди них — запросы на сброс пароля, откровенный спам от ботов, вопросы по API от разработчиков клиентов и пара критических багов, из-за которых у крупного B2B-заказчика легла интеграция.

Когда пользователь видит в интерфейсе дословный перевод сленга, иллюзия качественного продукта рассыпается мгновенно. Английское «That's fire!» превращается в «Это огонь!» (что еще терпимо), а «That's cap» становится абсурдной «Это кепка». Кнопка «Based» гордо сообщает «Основано». Пользовательский опыт разбивается о прямолинейность классических алгоритмов.

Любой инженер, собиравший данные с внешних ресурсов, знает эту фантомную боль. Вы тратите два дня на реверс-инжиниринг сайта-донора. Распаковываете обфусцированный JavaScript, подбираете каскад XPath-выражений, настраиваете прокси и обход Cloudflare. Скрипт элегантно собирает цены, пакует их в базу. Выкатываете в прод.

Мы все знаем этот паттерн. Пулл-реквест на 800 строк кода висит в трекере. Ревьюер открывает вкладку изменений, скроллит вниз со скоростью чтения пользовательского соглашения и нажимает Approve. Комментарий: LGTM (Looks Good To Me). Иллюзия контроля соблюдена, галочка в Jira поставлена, потенциальный баг отправляется в продакшен.

Моя первая попытка проанализировать тональность 100 000 клиентских отзывов закончилась провалом. Я написал примитивный синхронный цикл, вставил внутрь вызов `requests.post` к языковой модели и ушел за кофе. Вернувшись, я смотрел на красный стек трейс: скрипт упал на 5432-м запросе с ошибкой `HTTP 429 Too Many Requests`. Все промежуточные данные пропали в оперативной памяти.

Коллега молча удалил блок кода. Copilot снова предложил использовать `axios.get` для запроса к биллингу, проигнорировав наш внутренний `CoreNetworkClient`, обязательную подпись HMAC и еще десяток корпоративных стандартов. В этот момент рушится главная иллюзия современной разработки: вера в то, что универсальный AI-ассистент от техногиганта нельзя превзойти в принципе.

Создание Telegram-бота кажется тривиальной задачей. Разработчик регистрирует токен у BotFather, настраивает вебхук и пишет первый `if ($text === '/start')`. Через два часа бот бодро отвечает на десяток жестко заданных команд. Создается иллюзия продуктивности.

В классической программной инженерии правит детерминизм. Функция сортировки либо возвращает отсортированный массив, либо нет. Мы пишем `assert result == expected`, запускаем CI/CD пайплайн и спокойно идем пить кофе. В разработке продуктов на базе Large Language Models (LLM) этот уютный подход рушится на первом же коммите.

Каждый стартап начинает интеграцию AI по одному сценарию. Вы устанавливаете пакет `openai`, пишете десять строк кода для вызова эндпоинта `/v1/chat/completions`, и в приложении появляется умный ассистент. Фича быстро улетает в продакшен, метрики растут. Через пару месяцев приходят продакт-менеджеры: «Говорят, Claude 3.5 Sonnet пишет код лучше, давай переключим генерацию компонентов на него. А для парсинга гигантских логов нам нужен Gemini 1.5 Pro с его окном в два миллиона токенов. Еще Llama 3…