Mixpanel Agent Intelligence: как измерить пользу AI-агента для бизнеса

Олег рассматривает метрики AI-агента через лупу в синем неоновом свете

1 октября 2026 года Mixpanel представила Agent Intelligence для анализа AI-агентов внутри цифровых продуктов. Компания предлагает связывать разговор с агентом с дальнейшими действиями пользователя: открыл ли он нужный раздел, завершил ли задачу, вернулся ли с тем же вопросом. Так продуктовая команда может оценивать агентный сценарий вместе с остальным путём клиента.

Agent Intelligence доступен в early access. Условия доступа и набор данных, которые можно передать сервису, нужно уточнять перед пилотом. Анонс описывает возможности продукта; он не подтверждает рост конверсии или окупаемость для любой компании. Чтобы получить полезный ответ, команде сначала придётся определить события, критерии успеха и правила работы с диалогами.

Что считать успехом AI-агента?

Три решения для честной оценки пилота. Выберите один ответ в каждом вопросе.

Вопрос 1 из 3

Агент ответил на 500 запросов. Что считать результатом для клиента?

Что выпустила Mixpanel

В официальном релизе от 1 октября 2026 года Mixpanel описывает Agent Intelligence как связку технических показателей агента, истории разговора и поведения пользователя в продукте. По заявлению компании, стоимость вызовов, задержка и ошибки доступны как базовые метрики. Команда может открыть диалог по шагам и посмотреть вызовы инструментов вместе с их результатами.

Mixpanel сообщает, что разговоры агента становятся событиями, связанными с идентификатором пользователя. Они могут участвовать в воронках, когортах, отчётах удержания и записях сессий. Например, аналитик сможет посмотреть, что произошло после ответа агента: клиент продолжил оформление заявки, ушёл со страницы или обратился за помощью снова. Для такого анализа нужны корректные идентификаторы и события. Без них система увидит отдельные фрагменты пути.

Компания также заявляет поддержку экспериментов и feature flags для сравнения промптов, моделей и конфигураций инструментов. Mixpanel пишет, что использует продукт для оценки собственного Mixpanel Agent. В релизе есть слова клиента о пользе общего просмотра разговора и действий пользователя, но нет независимых чисел, по которым можно прогнозировать результат другой компании. Пилот придётся оценивать на своём процессе.

Статус early access имеет практическое значение. До планирования закупки запросите у поставщика условия подключения, доступные функции, требования к событиям и правила обработки данных. Проверяйте возможности в своём аккаунте: описание релиза не заменяет проверку конкретной конфигурации.

Почему аналитика AI-агента важна для руководителя

Технический журнал отвечает на вопрос, что сделал агент: вызвал инструмент, получил ошибку, составил ответ. Руководителю также нужно знать, завершилась ли задача клиента и сколько усилий потребовалось команде. Для пилота полезны четыре группы показателей.

  1. Результат клиента. Завершённая заявка, найденная функция или решение вопроса. Отдельно учитывайте повторные обращения по той же теме и отменённые действия.
  2. Качество процесса. Передачи сотруднику, остановки сценария, повторный ввод данных и исправления ответа.
  3. Риск и контроль. Вызванные инструменты, ошибки доступа, операции с подтверждением человека и обращения к чувствительным данным.
  4. Экономика. Расходы на модель и инфраструктуру на завершённую задачу, время сотрудника на проверку и стоимость исправлений.

Один показатель может дать неверное впечатление. Дешёвый диалог теряет ценность, если клиент после него снова пишет в поддержку. Высокая доля автоматических ответов требует проверки точности и последующих действий. При оценке ROI AI-агентов учитывайте полный маршрут задачи, включая работу сотрудника и последствия ошибок.

Разделите наблюдение и вывод. Если после разговора с агентом выросла доля заявок, это повод изучить сценарий. На показатель могли повлиять источник трафика, изменение формы, сезонность или предложение. Для оценки эффекта заранее определите сопоставимые группы и правила эксперимента. Аналитика показывает связь событий; причинный вывод требует продуманного сравнения.

Как проверить AI-агента на своём процессе

Начните с одного сценария с ясным завершением. В поддержке это может быть типовой вопрос, после которого клиент больше не обращается по той же теме в согласованный период. В продажах - заявка с обязательными полями, которую менеджер принял в работу. Во внутреннем процессе - документ, который сотрудник утвердил или вернул на доработку. Формулировку результата согласуйте с владельцем процесса до подключения аналитики.

Опишите события и границы задачи

Запишите вход в сценарий, начало разговора, вызов инструмента, ошибку, передачу человеку, подтверждение действия и завершение задачи. Для каждого события укажите источник и ответственного за данные. Событие «агент ответил» фиксирует активность. Для результата понадобится отдельное подтверждение: заявка создана, статус изменён или клиент выполнил нужное действие.

Назначьте единый идентификатор обращения. Он должен связывать диалог, события в продукте и запись в рабочей системе. Проверьте, что происходит при нескольких устройствах, повторном входе пользователя и передаче задачи сотруднику. Если связь теряется, итоговая воронка покажет разрозненные части одной истории.

Не каждое обращение нужно считать успешным или ошибочным. Введите статус «результат неизвестен» для случаев без достаточных данных. Это позволит отдельно разбирать незавершённые сессии и не завышать долю успешных задач за счёт пропущенных событий.

Подготовьте проверочный набор

Соберите примеры типовых и сложных обращений. Включите корректный ответ, передачу сотруднику, ошибку инструмента, повторный вопрос и случай, когда пользователь достиг цели без участия агента. Для каждого примера запишите ожидаемый результат и объяснение. Затем проверьте, совпадает ли он с тем, что показывает отчёт.

Просматривайте отдельные диалоги вместе с последующим действием. Агент может дать вежливый и подробный ответ, после которого человек всё равно не найдёт нужную функцию. Возможна и обратная ситуация: пользователь решит задачу через интерфейс, хотя беседа выглядела незавершённой. Такие случаи помогают исправлять критерии успеха и маршрут агента.

Если вывод зависит от ручной оценки, согласуйте правило между проверяющими. Несколько сотрудников должны одинаково трактовать «задача решена», «потребовалась помощь» и «нужно исправление». Разберите спорные примеры до расчёта итоговой доли. Иначе изменение состава проверяющих будет выглядеть как изменение качества агента.

Проверьте доступ к диалогам и срок хранения

В разговорах могут встречаться персональные данные, сведения о заказах и внутренние документы. Определите, какие поля действительно нужны для анализа. Ограничьте круг сотрудников, которые видят полный текст, а в общие отчёты выводите необходимые показатели. Срок хранения и порядок удаления данных согласуйте до пилота с ответственными за безопасность и правовые требования.

Проверьте также данные, попадающие в записи сессий и результаты вызовов инструментов. Информация может находиться не только в тексте ответа агента. Для каждого источника укажите владельца, цель обработки и способ исключить лишние поля. Доступ аналитика к метрикам и доступ специалиста к полному диалогу можно организовать по разным правилам.

Сравнивайте сопоставимые сценарии

Разделите обращения по задаче, источнику и типу пользователя. Новый клиент, который впервые видит продукт, и постоянный клиент с готовым заказом начинают с разных условий. Сравнение их общей конверсии мало говорит о работе агента. По возможности удерживайте неизменными маршрут, аудиторию и окно наблюдения, когда тестируете новую версию промпта.

Сохраняйте версию модели, промпта и набора доступных инструментов для каждого запуска. Если команда одновременно поменяет три элемента, ей будет трудно объяснить изменение показателей. Эксперимент с одним изменением даст более ясный сигнал. Правила остановки тоже задайте заранее: например, при ошибках в чувствительных действиях поток возвращается на проверку человеком.

Посчитайте полную стоимость пилота

Токены и инфраструктура входят в расчёт вместе со временем сотрудников. Запишите, сколько обращений завершено, сколько передано человеку и сколько потребовало исправления. Для незавершённых задач сохраните причину: ошибка доступа, недостаток данных, неверная маршрутизация или отказ пользователя продолжать.

Отчёт руководителю должен показывать исходную точку и итог пилота на сопоставимых обращениях. Добавьте конкретные примеры ошибок и список правок к следующему циклу. Если данных мало, так и зафиксируйте: ранний результат не даёт основания обещать окупаемость.

Укажите в отчёте объём выборки и период наблюдения. Отдельно покажите обращения, по которым результат пока неизвестен. Если после изменения сценария команда стала иначе размечать завершённые задачи, пересчитайте исходный период по тому же правилу. Иначе сравнение покажет разницу в учёте вместо разницы в работе агента. Сохраните описание расчёта рядом с отчётом, чтобы следующий владелец процесса мог повторить проверку.

Подробный порядок подготовки процесса есть в материале про управляемое внедрение AI в бизнес. Для выбора первой задачи пригодится аудит внедрения AI-агентов. Эти шаги помогут определить, какие события стоит измерять до выбора аналитического инструмента.

Где подходит Agent Intelligence, а где нужен другой контур

Agent Intelligence обращён прежде всего к командам цифровых продуктов, где уже собирают события пользователя. Если агент работает внутри приложения, связь диалога с просмотром страниц и дальнейшими действиями может помочь разбирать путь клиента. При этом нужно проверить доступность продукта в early access и качество существующей схемы событий.

Внутреннему агенту, который готовит документы или распределяет заявки между отделами, нужны другие признаки результата: утверждение сотрудником, время обработки, повторная работа и ошибки доступа. Часть данных может находиться в CRM, документообороте или сервис-деске. До выбора платформы определите, можно ли собрать эти события и связать их с конкретной задачей.

Если процесс включает несколько агентных ролей, можно изучить HERMES. По этой ссылке читатель получает $15 на подписку HERMES. Для пилота заранее запишите результат каждой роли и всей цепочки, права на данные и момент передачи решения сотруднику. Отдельный дашборд по каждому агенту должен помогать разбирать общую задачу, иначе команда потеряет переходы между ролями.

Перед покупкой или подключением аналитики спросите, какое решение команда примет по отчёту через месяц. Она может изменить промпт, убрать лишний инструмент, перестроить передачу человеку или сократить объём собираемых данных. Если пока нет владельца этих решений, начните с процесса и критериев проверки.

Вывод

Релиз Mixpanel от 1 октября 2026 года описывает Agent Intelligence как способ связать технические показатели и диалоги AI-агента с поведением клиента в продукте. Продукт доступен в early access. Его польза для конкретной компании зависит от качества событий, правомерной работы с данными и того, какие изменения команда внесёт после анализа.

Начните с одного сценария. Определите завершённую задачу, свяжите события общим идентификатором, проверьте сложные случаи и сравните результат с исходным процессом. Так руководитель увидит возможности агента, цену ошибок и объём работы, который остаётся у сотрудников.

Если хочешь внедрить ИИ агентов в свой бизнес, но не знаешь с чего начать, пиши мне в телеграм t.me/berdoff, я проведу бесплатную консультацию, поделюсь своим опытом