Caseproof

Нейросети в работе Разбор

Чем ИИ-агент отличается от обычного чат-бота

ИИ-агент не отвечает на вопрос, а выполняет задачу: сам планирует шаги, ходит в рабочие системы и меняет записи. Разбираем 4 отличия от чат-бота и порядок безопасного запуска.

Редакционный профиль раздела «Искусственный интеллект»

Чат-бот отвечает на вопрос и останавливается. ИИ-агент получает цель и сам выполняет цепочку шагов: разбивает задачу на части, обращается к рабочим системам, смотрит на результат и делает следующий шаг, пока не дойдёт до итога или не упрётся в ограничение. Разница не в уме модели — внутри может стоять одна и та же нейросеть, — а в правах на действие и в наличии цикла работы.

Для собственника это меняет сам вопрос при выборе. О чат-боте спрашивают, насколько хорош ответ. Об агенте спрашивают, что он имеет право сделать без подтверждения и как быстро станет видно, что он сделал не то. Ниже — 4 признака, по которым отличают агента от бота в презентации подрядчика, критерии выбора задачи и порядок запуска.

Чат-бот отвечает, а агент действует#

Чат-бот работает по схеме «вопрос — ответ»: получает реплику, возвращает текст и на этом заканчивает. Всё остальное делает человек — копирует ответ в CRM, отправляет письмо, сверяет остаток на складе. Польза бота упирается в качество формулировок и в дисциплину сотрудника, который переносит результат в работу.

Агент получает цель, а не реплику, и работает циклом: планирует шаг, выполняет его через доступный инструмент, смотрит на результат, планирует следующий. Инструментом называют выданный доступ к почте, к базе, к учётной системе, к сайту. Цикл повторяется, пока цель не достигнута или пока агент не упрётся в поставленное ему ограничение.

Отсюда критерий, который отделяет одно от другого без маркетинговых описаний: посмотрите, что осталось после работы. Если результат — текст на экране, перед вами чат-бот, каким бы умным он ни выглядел. Если в системе появилась запись, ушло письмо или сменился статус заказа, работал агент.

Второе следствие важнее первого. Ошибку бота видно до того, как что-то произошло, и она стоит времени на перечитывание. Ошибка агента уже записана в базу или отправлена клиенту, поэтому разговор про агента начинается не с возможностей, а с прав доступа.

4 признака, по которым видно настоящего агента#

Первый признак — цель вместо реплики. Агенту ставят задачу с условием завершения: «собери просроченные счета за прошлый месяц и подготовь письма должникам». Если у системы нет понятия «задача выполнена» и она отвечает репликой на реплику, это чат-бот с другим интерфейсом.

Второй — конкретные действия в конкретных системах. Просите у подрядчика не список возможностей, а таблицу «система — действие — право»: прочитать сделку, создать задачу, отправить письмо, изменить статус. Из такой таблицы сразу видно и пользу, и объём риска.

Третий — состояние задачи. Агент удерживает, что уже сделано и что осталось, иначе на длинной цепочке он начнёт повторять шаги или терять ранние указания. Объём одновременно удерживаемой информации ограничен, и на этом ломается большинство сложных сценариев: подробнее про контекстное окно.

Четвёртый — журнал и остановка. Рабочий агент оставляет список выполненных шагов с отметками времени и останавливается сам при заданных условиях: нет данных, превышен лимит, действие выходит за границы прав. Без журнала разбор любого сбоя превращается в гадание.

Где агент окупается, а где только мешает#

Задача подходит агенту при 4 условиях: она повторяется десятки раз в месяц, правила записаны словами, действия обратимы, а результат проверяется по объективному признаку. Уберите любое условие — и внедрение превратится в эксперимент за ваш счёт: экономию не с чем будет сравнить.

Первый признак неподходящей задачи: правила живут в голове одного человека и меняются от случая к случаю. Агент требует их выписать, и почти всегда именно на этом шаге проект останавливается. Здесь честнее сначала описать процесс, а автоматизацию отложить до момента, когда описание перестанет меняться.

Второй признак: цена ошибки несопоставима с экономией. Платёж, отгрузка, письмо клиенту, публикация — действия необратимые. Модель может сослаться на несуществующий счёт или придумать реквизиты, и агент выполнит действие по выдуманным данным: как выглядят такие галлюцинации нейросети, стоит понимать до выдачи прав.

Третий признак: проверка результата дороже самой работы. Если после агента сотрудник всё равно перечитывает каждую строку, вы оплатили лишний этап, а не сократили его. Начинать разумнее с задач, где проверка сводится к сверке итоговой цифры или к взгляду на список.

Порядок запуска: от черновика к автономии#

Шаг 1 — выбрать задачу с обратимыми действиями. Подготовка писем, сбор данных из систем в одну таблицу, черновики ответов, разбор заявок по категориям. Всё, что связано с деньгами и с исходящими сообщениями клиентам, на первом этапе остаётся за пределами прав агента.

Шаг 2 — режим черновика. Агент выполняет цепочку целиком, но последнее действие подтверждает человек одной кнопкой. Так набирается статистика: сколько раз подтвердили без правок, сколько с правками, сколько отменили. Через 2–4 недели по этим цифрам видно, можно ли снимать подтверждение.

Шаг 3 — ограничить права до минимума. Отдельная учётная запись, доступ только к нужным разделам, лимит на количество действий в сутки. Общий администраторский доступ «чтобы работало» — самая частая и самая дорогая ошибка внедрения. Смысл отдельной учётной записи ещё и в разборе: по журналу видно, какие изменения внёс агент, а какие человек.

Шаг 4 — назначить ответственного и определить признак проблемы заранее. Опасный симптом выглядит так: агент отчитался об успехе, а изменений в системе нет либо они не те. Сверка журнала агента с фактическим состоянием системы раз в неделю снимает большую часть таких расхождений.

Вывод: чат-бот, агент и цена ошибки#

Выбор между ботом и агентом сводится к одному вопросу: нужен вам текст или нужно изменение в системе. Если сотруднику не хватает формулировок, черновиков и справок, хватит обычного чат-бота, и внедрение обойдётся в несколько дней. Если рутина состоит из переноса данных между системами по понятным правилам, есть смысл смотреть на агента.

Перед разговором с подрядчиком полезно записать 3 вещи: какую задачу агент закрывает целиком, какие действия ему разрешены, по какому признаку вы поймёте, что он ошибся. Ответы на 3 вопроса отсеивают большинство предложений быстрее любой демонстрации.

И главное правило, которое стоит принять до старта: агент не проверяет свои действия за вас. Он одинаково уверенно выполнит шаг по верным и по выдуманным данным, поэтому контроль остаётся на стороне бизнеса. Права выдаются постепенно, начиная с обратимых действий, и расширяются только после того, как накопилась статистика подтверждений без правок.

Темы ии-агент

Читать ещё

  1. Нейросети в работе

    Как составить регламент работы с ИИ в компании

  2. Нейросети в работе

    Расшифровка звонков нейросетью: что это даёт продажам

  3. Нейросети в работе

    Как проверить текст, написанный нейросетью

  4. Нейросети в работе

    Как посчитать окупаемость нейросети в своём бизнесе