Создание ИИ-агента: из чего он собран и четыре решения до кода

Вы решили собрать ИИ-агента под свою задачу - отвечать на заявки, разносить документы, готовить утреннюю сводку. И упёрлись в туман: из чего эта штука вообще состоит, что нужно на входе и с чего начинать - самому, через конструктор или с подрядчиком. Отвечу коротко, а дальше разберу по частям. ИИ-агент - это не одна нейросеть. Это языковая модель, которой дали инструменты, память и понятное задание, и которая работает в цикле: сделала шаг, посмотрела на результат, решила следующий - и так до условия остановки. Создание такого исполнителя - это в первую очередь не программирование, а четыре решения, которые принимаете вы как владелец. Какую одну задачу он закрывает, какие инструменты ему дать, как проверять результат и когда он обязан остановиться и позвать человека.

Я собираю таких агентов под конкретные дыры в бизнесе, и почти всё, что решает исход, случается до первой строки кода. Эта статья - про то, что вы держите в руках на старте, а не про библиотеки и синтаксис. Если после неё вы поймёте, из чего собран агент и какие решения за вами, вы уже не купите красивую демонстрацию вместо рабочей вещи.

Из чего собран ИИ-агент

Начнём с устройства, потому что без него не понять, что именно вы создаёте. У инженеров Anthropic базовый кирпич описан так. Цитата: «The basic building block of agentic systems is an LLM enhanced with augmentations such as retrieval, tools, and memory». По-русски: основной строительный блок агентской системы это языковая модель, усиленная поиском, инструментами и памятью. Разложу эти части на бытовой язык.

• Языковая модель - «мозг», который читает задачу и решает, что делать дальше. Сам по себе он только пишет текст: без остального это чат-бот, а не агент.
• Инструменты - руки. Это доступ к инструменту: отправить письмо, записать строку в таблицу, дёрнуть ваш сайт или CRM. Без инструментов модель может рассуждать, но ничего не меняет в мире.
• Память и поиск - куда модель складывает нужные данные и откуда достаёт их обратно. У модели есть окно памяти - предел того, сколько она держит в голове за раз; всё, что не влезло, надо подавать поиском по вашим документам.
• Задание - что и как делать, с какими границами. Это задание модели: не «будь полезным», а точные правила вашей задачи.

Из этих четырёх частей и собирается ИИ-агент. Отличие агента от простого чат-бота Anthropic описывает так. Цитата: «Agents, on the other hand, are systems where LLMs dynamically direct their own processes and tool usage, maintaining control over how they accomplish tasks». По-русски: агент сам ведёт свою работу и сам решает, какими инструментами пользоваться, сохраняя контроль над тем, как выполняет задачу. Чат-бот ждёт вашей реплики и отвечает текстом; агент получает цель и сам идёт к ней шагами, пока не упрётся в результат или в стоп.

Как агент работает: цикл до условия остановки

Слово «сам ведёт работу» звучит страшно, но механика простая. Anthropic формулирует её почти буднично: «They are typically just LLMs using tools based on environmental feedback in a loop». По-русски: обычно это просто модели, которые используют инструменты по обратной связи из среды, в цикле. То есть агент крутит один и тот же круг: подумал - выбрал инструмент - применил - посмотрел на результат - подумал снова.

Ключевое здесь - откуда агент узнаёт, что дело идёт как надо. Не из своей уверенности, а из реального ответа среды. В той же статье это прямо названо: агент получает «ground truth» из среды на каждом шаге. Эталон - это результат вызова инструмента или запуск кода, по нему агент и оценивает, идёт ли дело как надо. Проще говоря: не «модель считает, что письмо отправлено», а «сервер почты подтвердил отправку». Это и есть разница между рабочим агентом и говорящей игрушкой.

И последнее в цикле - тормоз. Круг не должен вертеться бесконечно. Anthropic советует: «it's also common to include stopping conditions (such as a maximum number of iterations) to maintain control». По-русски: принято задавать условия остановки, например предельное число шагов, чтобы сохранить контроль. У живого агента всегда есть точка, где он либо закончил, либо остановился и позвал человека. Без неё он в трудном случае будет жечь ваши деньги на кругах, ничего не решив.

Четыре решения до всякого кода

Теперь главное. Когда меня зовут «создать агента», я не открываю редактор кода. Я сажусь с владельцем и мы принимаем четыре решения. От них зависит, будет агент работать или нет; код потом просто оформляет эти решения.

Решение первое - одна задача. Не «автоматизируй мне всё», а один процесс, где каждый месяц утекают деньги или время. На своей странице услуг я это описываю прямо: «Дальше берём одну дыру, самую дорогую, и закрываем её. Комплекс не продаю: он дороже, дольше и почти всегда заканчивается ничем». Агент под одну ясную задачу собирается, проверяется и чинится. Агент «на все случаи» не собирается никогда.

Решение второе - набор инструментов. Какие руки дать модели: только читать ваши заявки или ещё и отвечать на них; только смотреть в таблицу или ещё и писать в неё. Здесь легко недооценить работу. Anthropic предупреждает: «It is therefore crucial to design toolsets and their documentation clearly and thoughtfully». По-русски: набор инструментов и их описание надо продумывать так же тщательно, как само задание. Плохо описанный инструмент - и модель дёргает не ту кнопку с полной уверенностью.

Решение третье - приёмка. Как вы проверяете результат до того, как он станет фактом. Для отчёта эталон - сверка с исходными цифрами; для ответа клиенту - человек, который видит черновик перед отправкой в спорном случае. Где у результата нет эталона и приёмки, там и начинается пустая цифра, к ней вернёмся ниже.

Решение четвёртое - условие остановки. Когда агент обязан прекратить и передать человеку: не уверен, сумма выше порога, клиент злится, третий круг без прогресса. Это тот самый тормоз из предыдущего раздела, только записанный вашими словами под вашу задачу.

Заметьте: во всех четырёх решениях нет ни строчки про язык программирования. Это решения про ваш бизнес, и принимать их вам. Тот же порядок я держу и когда прихожу к владельцу. Сначала час вопросов про устройство дня, потом карта, где деньги утекают, и только потом сборка.

С чего начать: сначала самое простое

Соблазн при создании агента - сразу собрать самостоятельного исполнителя, который «всё делает сам». Одни из тех, кто собрал таких агентов больше всех, советуют обратное. Anthropic: «we recommend finding the simplest solution possible, and only increasing complexity when needed. This might mean not building agentic systems at all». По-русски: берите самое простое решение и наращивайте сложность только по необходимости, а это иногда означает не строить агентскую систему вовсе.

Почему так. Самостоятельный агент - самая дорогая и капризная форма. Часто задача решается без него: «For many applications, however, optimizing single LLM calls with retrieval and in-context examples is usually enough». По-русски: для многих задач достаточно улучшить один вызов модели поиском и примерами прямо в запросе. То есть иногда вам нужен не агент, который сам ходит по инструментам, а один аккуратный запрос к модели с приложенными данными. Так дешевле и надёжнее, а чинится за минуту.

Практический порядок для владельца такой:

1. Опишите задачу в одном абзаце: что на входе, что на выходе, где взять данные.
2. Проверьте, решается ли она одним запросом к модели с нужными документами. Решается - остановитесь здесь, агент не нужен.
3. Не решается за один запрос - добавьте инструменты и цикл, то есть соберите агента, но всё ещё под эту одну задачу.
4. Нужно связать несколько задач - усложняйте только тогда, когда простое перестало справляться.

Это правило бережёт не абстрактную «сложность», а ваши деньги: чем самостоятельнее агент, тем дороже каждый его запуск и тем больше мест, где он может ошибиться. О том, как это устроено на дистанции - что видно у агента после второй недели работы, - я разбираю отдельно в статье «Как работает ИИ-агент».

Что нужно на входе: данные, доступы, задание

Допустим, вы решили, что агент всё-таки нужен. Что физически придётся собрать, кроме модели. Три вещи, и все три - ваши, а не подрядчика.

Данные. То, на что агент смотрит, принимая решения: база заявок, прайс, регламенты ответов, примеры «как правильно». Если у вас это лежит в голове менеджера, а не в файле, агент этого не увидит. Первый шаг создания часто не про ИИ вообще, а про то, чтобы собрать разрозненное в одно место.

Доступы. Инструменты, которыми агент действует: почта, CRM, таблицы, ваш сайт. На каждый нужен ключ или подключение. Важное правило безопасности: давайте ровно те доступы, что нужны под одну задачу, и ни одним больше. Агент, которому «на всякий случай» открыли всё, - это риск, а не удобство.

Задание. Правила вашей задачи словами: что делать, чего не делать, когда звать человека. Здесь чаще всего и решается качество. Anthropic отдельно подчёркивает, что описание инструментов агента заслуживает столько же внимания, сколько само задание, - потому что модель понимает мир через эти описания.

Разложу это на схеме - что владелец готовит на входе и как эти части встают в цикл агента.

Ни одна из трёх частей не требует от вас кода. Требует порядка в делах: собранных данных, аккуратных доступов и ясных правил. Подрядчик или конструктор превратит это в работающего агента; но если вход мутный, никакой инструмент это не спасёт.

Сам, конструктор или подрядчик

Три пути собрать агента. Ни один не даёт рабочей вещи «за 5 минут», что бы ни обещала реклама конструкторов. Разберу честно, кому какой.

Если идёте сами или с разработчиком, есть трезвый совет от Anthropic. Цитата: «We suggest that developers start by using LLM APIs directly: many patterns can be implemented in a few lines of code. If you do use a framework, ensure you understand the underlying code». По-русски: начинайте с прямого обращения к API модели, многие приёмы собираются несколькими строками кода. Берёте фреймворк - понимайте, что у него под капотом. Красивый конструктор, устройство которого вам непонятно, в трудном случае вы не почините.

Как понять, что перед вами хороший подрядчик, а не продавец коробки: он начинает не с демонстрации, а с вопросов про ваш день и деньги. Мой порядок такой же - сначала карта, где утекает, потом одна дыра, и считаем в рублях вашими цифрами, не моими. Что входит в цену такой работы и из чего она складывается, я разбираю в статье «Внедрение ИИ под ключ».

Частые ошибки и почему один показ не равен рабочему агенту

Самая дорогая ошибка при создании агента - поверить в первую удачную демонстрацию. Агент один раз красиво ответил на заявку, и кажется, что готово. Но один показ и повторяемость - разные вещи.

Это видно даже на исследовательских замерах. В работе τ-bench агентов проверяли на разговорных задачах с инструментами. Даже передовые на тот момент агенты с вызовом функций решали меньше половины задач набора и работали непостоянно. Доля задач, где верный результат держался во всех восьми попытках подряд, в рознице падала ниже 25 %. Это конкретный набор задач и модель 2024 года, а не прогноз для вашего бизнеса. Но вывод переносится: важно не «получилось один раз», а «получается стабильно раз за разом».

Отсюда и главное предупреждение про самостоятельность. Anthropic: «The autonomous nature of agents means higher costs, and the potential for compounding errors. We recommend extensive testing in sandboxed environments, along with the appropriate guardrails». По-русски: самостоятельность агента означает более высокие расходы и риск накопления ошибок, поэтому нужны тщательное тестирование в защищённой среде и ограничители. Накопление ошибок - это когда маленькая неточность на первом шаге тянет за собой кривой второй, третий, и на выходе уверенная чушь.

Где эта чушь берётся особенно легко - там, где у результата нет эталона и приёмки. Модель по своей природе может выдать выдумку машины: правдоподобный, гладкий, но не проверенный ответ. Это и есть пустая цифра - красивая и бесполезная. Поэтому третье из четырёх решений, приёмка, не бюрократия, а то, что отделяет рабочего агента от дорогой игрушки.

Короткий чек-лист частых ошибок:

1. Собрали агента «на всё» вместо одной задачи - не чинится, не проверяется.
2. Поверили демонстрации, не прогнав десятки разных случаев - на реальных данных сыплется.
3. Не задали условие остановки - в трудном случае жжёт деньги на кругах.
4. Не продумали приёмку - агент уверенно отдаёт непроверенный результат.
5. Открыли лишние доступы «на всякий случай» - риск вместо удобства.

Чем агент отличается от чат-бота и рабочего процесса

Ещё одна развилка, которая экономит деньги на старте: не всё, что называют агентом, им является, и часто вам нужен не агент. Anthropic делит агентские системы на два вида. Рабочий процесс - это когда модель и инструменты идут по заранее заданным в коде путям: шаг первый, шаг второй, шаг третий, всегда одинаково. Агент - когда модель сама решает, какие шаги делать и в каком порядке, как в определении выше.

Для владельца разница денежная. Допустим, ваша задача всегда идёт по одним шагам: принять заявку, проверить поле, записать в таблицу, ответить шаблоном. Тогда вам нужен рабочий процесс по шагам, а не самостоятельный агент. Он дешевле и почти не ошибается, потому что ему негде свернуть. Самостоятельный агент оправдан там, где шаги заранее не известны: каждая задача приходит своей, и жёсткий сценарий не написать.

А ниже обоих видов есть нулевая ступень - простое правило без языковой модели: если ответ всегда один и тот же по условию, машине незачем думать, хватает обычной автоматизации. На схеме ниже я держу её первой ступенью, чтобы было видно, откуда начинается лестница.

Отсюда практичный вопрос перед сборкой: мои случаи однотипны или каждый свой? Однотипны - стройте процесс по шагам. Каждый свой - тогда агент, но с эталоном, приёмкой и стопом из четырёх решений. Разложу выбор на схеме.

Когда агент не нужен вовсе

Честный итог, который редко услышишь от продавца конструктора: часто лучший результат создания агента - это решение его не создавать. Тот самый совет Anthropic - брать самое простое решение и усложнять только по необходимости, вплоть до того, чтобы не строить агентскую систему вовсе, - написан не для красоты. За ним стоит опыт десятков команд.

Агент не нужен, когда:

• задача решается одним запросом к модели с приложенными данными;
• случаи однотипны и укладываются в жёсткий процесс по шагам;
• у результата нет способа проверки, и ошибка стоит дорого - тогда сначала нужен способ проверки, а не агент;
• нет собранных данных и понятного задания - сначала порядок в делах, потом инструмент.

Создание ИИ-агента - это не гонка за самой умной машиной, а точный выбор: та ли это задача, тот ли путь, есть ли эталон и стоп. Соберите ясный вход, начните с простого, поставьте приёмку и тормоз - и агент станет рабочей вещью, а не строкой в счёте за подписку.

Источники

Хотите не собирать агента вслепую, а сначала понять, где он окупится? Оставьте четыре ответа о вашем деле - в ответ пришлю карту автоматизации: где машина снимет работу, а где даст пустую цифру.