Heron

Heron

Heron — это пассивный, неинтрузивный инструмент наблюдаемости для AI-агентов, который реконструирует повороты агентов и взаимодействия LLM/инструментов из сетевого трафика (pcap/live/eBPF) со встроенной панелью управления, метриками и экспортом данных SFT — без SDK, без прокси, без изменений кода.
https://github.com/Netis/heron?ref=producthunt&utm_source=aipure
Heron

Информация о продукте

Обновлено:29/06/2026

Что такое Heron

Heron (Netis/heron) позиционирует себя как "Wireshark для AI-агентов": продукт для обеспечения наблюдаемости, который позволяет видеть, что делают AI-агенты, реконструируя их поведение непосредственно из захваченного трафика, а не инструментируя код или маршрутизируя запросы через прокси-сервер. Он фокусируется на рабочих процессах агентов (планировщик → вызовы инструментов → результаты → следующий шаг) и взаимодействиях LLM, предоставляя локальную веб-консоль (http://localhost:3000) для изучения временных шкал, деталей каждого вызова, ошибок и метрик производительности/использования. Он поддерживает воспроизведение захваченных файлов .pcap без привилегий, захват в реальном времени через libpcap (с соответствующими возможностями), опциональный прием ZMQ от удаленного зонда и экспериментальный режим Linux eBPF для наблюдения за TLS-трафиком на границе SSL на хосте.

Ключевые особенности Heron

Heron (Netis/heron) – это пассивный инструмент наблюдаемости для агентов ИИ, позиционируемый как «Wireshark для агентов ИИ», который реконструирует ходы агентов, вызовы инструментов и взаимодействия LLM непосредственно из сетевого трафика (pcap/захват в реальном времени) или границ TLS на уровне хоста, не требуя SDK, прокси или изменений кода, и не находясь на пути запроса. Он анализирует обычный текст HTTP/SSE (или захватывает расшифрованный контент с помощью опциональных eBPF SSL uprobes Linux), идентифицирует общие проводные API LLM (OpenAI/Anthropic/Gemini и OpenAI-совместимые серверы), строит временные шкалы и графы топологии служб, вычисляет метрики задержки/токенов и хранит результаты (DuckDB по умолчанию, ClickHouse опционально) за локальной веб-консолью и REST API, с возможностью экспорта реального трафика в готовые для SFT наборы данных.
Пассивный захват без вторжения: Наблюдает за трафиком LLM/агентов вне сети (воспроизведение pcap или живой интерфейс) или на границе TLS хоста, не требуя инструментария SDK, проксирования и изменений кода клиента – оставаясь вне пути запроса.
Реконструкция ходов агента: Объединяет многовызывные рабочие процессы агента (планировщик → инструмент → результат → следующий шаг) в единые, адресуемые «ходы», с именованными профилями для таких инструментов, как Claude Code и Codex CLI, а также с универсальным режимом.
Обнаружение проводного API и семантическое декодирование: Автоматически обнаруживает и декодирует популярные API LLM (OpenAI Chat Completions/Responses, Anthropic Messages, Gemini) и поддерживает OpenAI-совместимые бэкенды (vLLM, SGLang, Ollama, llama.cpp, LM Studio, LiteLLM), инспектируя байты в сети.
Живая консоль с глубокой детализацией: Встроенный веб-интерфейс (localhost:3000) для временных шкал, проверки запросов/ответов по вызовам, сеансов/ходов агентов, необработанного HTTP, состояния конвейера и панелей мониторинга производительности, использования и ошибок.
Метрики операционного уровня и представления топологии: Вычисляет задержку TTFT/E2E/TPOT, пропускную способность токенов, частоту ошибок, объем вызовов, процентили задержки и визуализирует пути от службы к службе (клиенты → прокси → бэкенды вывода) в виде ориентированного графа.
Экспорт траектории SFT из реального трафика: Экспортирует реконструированные ходы/сеансы в JSONL сообщений в стиле OpenAI (включая вызовы/результаты инструментов и структурированные аргументы) для преобразования захваченных запусков агентов в данные для тонкой настройки.

Варианты использования Heron

Отладка и контроль качества агентов: Разработчики могут диагностировать зависшие вызовы инструментов, циклы планирования, некорректные запросы и неожиданные результаты, просматривая реконструированные ходы и полные тела запросов/ответов – без изменения агента.
Наблюдаемость платформы вывода: Команды платформы ИИ могут сопоставлять реальную топологию служб (клиент → LiteLLM → vLLM/SGLang и т. д.), измерять задержку каждого перехода и обнаруживать скрытые замены моделей/конечных точек на основе наблюдаемого трафика.
FinOps / распределение затрат: Руководители инженерных отделов и FinOps могут распределять использование и производительность по типу агента, модели, конечной точке и сеансу, используя данные из фактического трафика, а не периодические экспорты SDK.
Соответствие требованиям, аудит и реагирование на инциденты: Команды безопасности/соответствия могут поддерживать цепочку доказательств того, что агенты отправляли/получали (где трафик расшифрован), поддерживая аудиты и расследования без влияния на производственные пути.
Генерация наборов данных для обучения моделей: Команды ML могут преобразовывать реальные взаимодействия агентов в наборы данных SFT, экспортируя ходы/сеансы в структурированном формате JSONL, сохраняя структуру вызовов инструментов и форматы провайдеров.

Преимущества

Не требуется SDK/прокси и не находится на пути запроса, что снижает трудности развертывания и позволяет избежать сбоев, вызванных наблюдателем.
Высокоточная видимость: захватывает полные тела запросов/ответов (когда доступен обычный текст) и реконструирует ходы агентов более высокого уровня, а не только журналы по вызовам.
Широкая совместимость с несколькими провайдерами LLM и OpenAI-совместимыми серверами вывода через обнаружение на уровне провода.
Портативное распространение: один бинарный файл со встроенной консолью; поддерживает воспроизведение pcap для автономного анализа/анализа CI.

Недостатки

Требуется видимость обычного текста HTTP; зашифрованный трафик требует размещения за завершением TLS или использования экспериментального захвата eBPF SSL-urobe Linux с дополнительными возможностями.
Пассивный захват может ограничивать сквозную корреляцию по распределенным клиентским кластерам по сравнению с явной трассировкой/тегированием SDK.
Некоторые форматы поддерживаются лишь частично; неподдерживаемые проводные форматы пропускаются/сообщаются, а не декодируются.
Захват живого интерфейса может требовать повышенных привилегий/возможностей (например, CAP_NET_RAW/CAP_NET_ADMIN в Linux).

Как использовать Heron

1) Установите Heron (Linux/macOS, локально для пользователя, без sudo): Запустите однострочный установщик, чтобы разместить бинарный файл `heron` в пользовательском локальном каталоге. Команда: curl -fsSL https://raw.githubusercontent.com/Netis/heron/main/install.sh | INSTALL_DIR="$HOME/.local" sh
2) Проверьте установку: Убедитесь, что бинарный файл запускается и находится в вашем PATH. Команды: heron --version heron --help
3) Запустите "дымовой" тест без привилегий с использованием воспроизведения .pcap: Воспроизведите существующий захват пакетов, содержащий трафик LLM. Это не требует захвата в реальном времени и специальных привилегий. Команда: heron --pcap-file capture.pcap --no-retention Совет: Если у вас нет pcap, используйте фикстуры репозитория в `testdata/pcaps/` и воспроизведите любой из них.
4) Откройте веб-консоль: После запуска Heron откройте встроенную консоль в браузере, чтобы просмотреть повороты агентов, временные шкалы и метрики. URL: http://localhost:3000 Примечание: После завершения воспроизведения pcap, Heron сохраняет доступность API/консоли, чтобы вы могли просматривать. Нажмите Ctrl+C для выхода или передайте `--exit-after-drain` для автоматического выхода после завершения работы конвейера.
5) Проверьте работоспособность и подтвердите реконструкцию трассировок (проверка API): Используйте REST API, чтобы убедиться, что служба работоспособна и что реконструированные трассировки доступны. Команды: curl -s http://localhost:3000/api/health curl -s 'http://localhost:3000/api/traces?limit=5'
6) (Необязательно) Запустите захват в реальном времени с сетевого интерфейса (Linux/macOS): Если у вас есть активный интерфейс и вы хотите захватывать данные в реальном времени, запустите Heron на интерфейсе. Команда: heron -i eth0 Примечание для Linux: для захвата в реальном времени требуются `CAP_NET_RAW` (и связанные возможности). В документации по установке рекомендуется предоставить возможности один раз, чтобы вам не требовался sudo во время выполнения: sudo setcap cap_net_raw,cap_net_admin=eip ~/.local/bin/heron
7) Поймите требование TLS (где развертывать Heron): Heron реконструирует вызовы LLM из обычного HTTP. Установите его там, где трафик уже расшифрован: на хосте вывода, за терминатором TLS или подавайте его из доверенного источника пакетов. Один только захват пакетов не может видеть зашифрованные тела.
8) (Необязательно, экспериментально для Linux) Захват TLS-трафика в виде обычного текста через eBPF SSL uprobes: В Linux Heron имеет экспериментальный источник eBPF, который подключает `SSL_read`/`SSL_write` для чтения TLS-зашифрованных вызовов LLM в виде обычного текста на хосте и атрибуции вызовов процессам (pid/command/executable). Это реализовано за функцией `ebpf` cargo и требует `CAP_BPF` и ядра BTF. Следуйте документации по захвату eBPF в репозитории для настройки.
9) Используйте консоль для анализа поведения агентов и топологии сервисов: В консоли (`http://localhost:3000`) используйте страницы, такие как Обзор/Производительность/Использование/Ошибки, и представления Сервисов, чтобы увидеть направленные графы клиентов → прокси → бэкенды. Heron обнаруживает конечные точки (например, vLLM, SGLang, Ollama, llama.cpp, LiteLLM) по байтам в сети.
10) Просмотрите реконструированные повороты агентов (многовызывные повествования): Перейдите в раздел "Повороты агентов", чтобы увидеть многовызывные взаимодействия, объединенные в единые повороты (планировщик → инструмент → результат → следующий инструмент). Это обеспечивает повествовательный вид, а не необработанные журналы по запросам.
11) Экспортируйте траектории SFT из реального трафика (данные для тонкой настройки): Из детального представления поворота (или пакетного экспорта из списка "Повороты агентов" с фильтрами) экспортируйте JSONL `messages` в стиле OpenAI. Heron сохраняет вызовы/результаты инструментов и восстанавливает аргументы в объекты. Поддерживается сегодня: форматы Anthropic и OpenAI-chat; неподдерживаемые форматы сообщаются и пропускаются.
12) Настройте хранение и срок хранения (DuckDB по умолчанию; ClickHouse необязательно): По умолчанию Heron хранит данные в DuckDB (встроенный однофайловый) с контролем срока хранения для каждой таблицы. Для аналитики больших объемов настройте ClickHouse, установив `storage.backend = "clickhouse"` (согласно документации по настройке).
13) (Необязательно) Правильно соберите из исходного кода (встроенная консоль): При разработке/сборке из исходного кода используйте команды `just` проекта, чтобы веб-консоль была встроена. Репозиторий предупреждает, что обычная `cargo build --release` может дать работающий API, но пустую консоль. Рекомендуется: just build all just quality all just test all При прямом вызове cargo сначала соберите консоль (`bun run build` в `console/`) и скомпилируйте с `--features console`.

Часто задаваемые вопросы о Heron

Heron (Netis/heron) — это пассивный инструмент наблюдаемости для AI-агентов, описываемый как «Wireshark для AI-агентов». Он реконструирует ходы агентов, вызовы инструментов и взаимодействия с LLM из сетевого трафика (без подключения к сети или на границе TLS хоста), не находясь на пути запроса.

Последние ИИ-инструменты, похожие на Heron

Hapticlabs
Hapticlabs
Hapticlabs — это инструмент без кодирования, который позволяет дизайнерам, разработчикам и исследователям легко создавать, прототипировать и развертывать погружные тактильные взаимодействия на устройствах без программирования.
Deployo.ai
Deployo.ai
Deployo.ai — это комплексная платформа для развертывания ИИ, которая обеспечивает бесшовное развертывание, мониторинг и масштабирование моделей с встроенными этическими рамками ИИ и совместимостью с различными облачными провайдерами.
CloudSoul
CloudSoul
CloudSoul — это AI-платформа SaaS, которая позволяет пользователям мгновенно развертывать и управлять облачной инфраструктурой через разговоры на естественном языке, делая управление ресурсами AWS более доступным и эффективным.
Devozy.ai
Devozy.ai
Devozy.ai — это платформа самообслуживания разработчиков с поддержкой AI, которая объединяет управление проектами в Agile, DevSecOps, управление многооблачной инфраструктурой и управление IT-услугами в единое решение для ускорения доставки программного обеспечения.