Вторую неделю перерабатываем AI-агента-помощника для одной из производственных ролей в командах. Перерабатываем потому, что он хорошо работал и хорошо прошёл пилот, а вот для более широкого тиража (масштабирования на многие команды) уже не подходит.
Что не так? Почему в пилоте показал себя хорошо, а в тираже — никак?
Архитектура!
Аналогия прямая: дачный или загородный дом-коробочку можно построить и самому. Лёгкий фундамент, четыре стены, крыша, окна вырезал — и мебель расставляй. С крупными многоэтажными зданиями так не работает: без архитектуры и кучи исследований и проектирования их не построишь. А если и построишь, то долго это не простоит.
Так и с инструментом, разработанным в tool-driven подходе. Классный инструмент, который включает в себя всё нужное, и работа с которым строится вокруг него самого. Удобно для 1–2 человек, неудобно для 100. Почему?
Tool-driven подход — это разработка AI-агента вокруг набора инструментов, а не только вокруг промпта. LLM анализирует задачу, выбирает нужный инструмент, передаёт ему структурированные аргументы, получает результат и продолжает выполнение или формирует ответ. Ответ уже человеком переносится туда, где он нужен, или передаётся в работу следующему в производственном конвейере.
Небольшая нагрузка на 1–2 человек — большая потеря времени для 100.
Пришлось пересматривать архитектуру и переходить на context-driven разработку.
Context-driven подход — это разработка AI-агента вокруг управления контекстом: система определяет, какую информацию, в каком виде и в какой момент передать модели для принятия следующего решения. Это шире обычного prompt engineering: контекст включает инструкции, историю диалога, память, документы RAG, результаты tools, состояние задачи и доступные инструменты.
В этом варианте пользователь может работать с разными проектами, но использовать один и тот же инструмент, передавая в него соответствующий контекст. Открыл папку проекта, добавил данные и материалы, с помощью агента обработал их и привёл к нужному виду. Ответы и результаты работы агента уже лежат в нужном месте и доступны остальной команде. Такой подход более полно отвечает задачам серийной разработки.
Правило Парето работает: за 20% усилий разработали инструмент, а за 80% усилий доработали его так, чтобы инструмент стал производственным станком.