Foglamp

Foglamp

WebsiteFreemiumAI DevOps Assistant
Foglamp 是一个用于 AI 代理的可观测性平台,它插桩 LLM 调用以跟踪成本、延迟、跟踪、评估、警报以及每个代理的开支,帮助团队及早发现回归和不良输出。
https://www.foglamp.dev/?ref=producthunt&utm_source=aipure
Foglamp

产品信息

更新于:2026年06月22日

什么是 Foglamp

Foglamp 是一款以开发人员为中心的可观测性产品,旨在使 AI 代理和 LLM 应用程序在生产环境中可衡量和可调试。它提供对每次 LLM 调用成本、延迟和质量的可见性,并通过跟踪和运行瀑布流(包括精确的提示和响应)帮助团队理解端到端代理行为。通过一次性通过 SDK 进行插桩,Foglamp 旨在集中监控和分析,以便团队能够自信地发布代理系统,并在用户发现问题之前快速检测问题。

Foglamp 的主要功能

Foglamp 是一个面向 AI 代理的可观测性 SDK 和平台,它允许团队一次性检测 LLM 调用,然后监控整个多代理工作流的成本、延迟、跟踪和输出质量。它提供每个 span 和每个代理的提示/响应可见性、运行瀑布图以及按模型/客户划分的支出,此外还有评估工具(代码检查和 LLM 评判)和针对成本回归、延迟峰值和错误率等阈值的警报——帮助在用户发现之前捕获不良输出和失控支出。
单一 SDK 检测: 一次性检测(例如,generateText/streamText)并自动捕获 LLM 调用和代理运行的端到端遥测数据。
成本和支出分析: 跟踪每次调用的成本,并按模型、代理和客户进行细分,以识别回归并优化使用。
跟踪和运行瀑布图: 可视化完整的调用流程,包括每个代理的 span、延迟和排队步骤,以及每个 span 的确切提示和响应。
生产流量的质量评估: 使用确定性代码检查和 LLM 评判评估对输出进行评分,以监控通过率并检测退化的响应。
警报和阈值规则: 设置成本、延迟和错误率的规则,以主动标记突发事件,例如支出突然增加或速度减慢。
面向隐私的监控: 旨在支持可观测性而不捕获 PII(如产品“无 PII”定位所示)。

Foglamp 的使用场景

SaaS AI 功能成本控制: 监控每个租户和每个功能的 LLM 支出,以防止利润侵蚀,检测 10 倍的成本回归,并强制执行预算护栏。
客户支持代理可靠性: 跟踪多步骤支持代理(检索 → 起草 → 批评)并评估输出质量,以尽早发现有害或不正确的响应。
电子商务购物助手: 跟踪代理工作流(搜索、推荐、结账帮助)中的延迟和错误,并在性能影响转化时发出警报。
金融科技/合规敏感型助手: 使用评估和跟踪来验证响应的正确性和策略合规性,同时保持无 PII 的可观测性态势。
研发和提示/模型实验: 使用成本/延迟/质量指标比较模型和提示版本,以选择最佳的生产配置。

优点

清晰可见每个 LLM 调用和每个代理 span 的成本、延迟和质量。
具有提示/响应上下文的端到端跟踪使调试代理工作流更快。
内置的评估和警报有助于在用户注意到之前捕获回归。

缺点

需要在您的代码库中添加/维护 SDK 检测。
即使采用“无 PII”方法,存储用于可观测性的提示/响应也可能需要仔细的治理。
最佳价值取决于您对 LLM/代理工作流的依赖程度;对于少量使用可能过于繁琐。

如何使用 Foglamp

1) 选择您指的是哪个“Foglamp”(AI 可观测性 vs. FogLAMP IIoT 边缘平台): 来源包括两个名称相似的不同产品:(A) Foglamp.dev(AI 代理的可观测性)和 (B) FogLAMP (IIoT 边缘网关)。请按照与您的目标匹配的以下教程进行操作。
2) Foglamp.dev (AI 代理):安装 SDK: 使用您的 JavaScript/TypeScript 包管理器将 Foglamp SDK 添加到您的应用程序中(网站显示通过 `import { foglamp } from "foglamp"` 使用)。
3) Foglamp.dev (AI 代理):在代码中初始化 Foglamp: 如所示创建 Foglamp 客户端实例:`import { foglamp } from "foglamp"; const fog = foglamp();`。
4) Foglamp.dev (AI 代理):插桩您的 LLM 调用: 插桩您的 `generateText` / `streamText` 调用(网站声明“两行代码即可插桩每个 generateText / streamText 调用”),以便 Foglamp 可以捕获每次调用的跟踪、延迟和成本。
5) Foglamp.dev (AI 代理):检查跟踪和瀑布流: 使用 Foglamp 查看每个代理的跨度、完整的调用流程以及每次运行的瀑布流,包括每个跨度的精确提示和响应。
6) Foglamp.dev (AI 代理):跟踪成本和开支明细: 使用 Foglamp 的成本视图按模型、代理和客户查看开支,并识别回归(例如,成本飙升)。
7) Foglamp.dev (AI 代理):添加质量检查和评估: 使用代码检查和 LLM 评判器对生产流量进行评分,并监控通过率(网站强调生产评分和评估)。
8) Foglamp.dev (AI 代理):配置警报: 设置成本、延迟和错误率的阈值规则,以便在用户发现回归之前捕获它们。
9) FogLAMP (IIoT):安装先决条件(Debian/Ubuntu 示例): 安装来源中提到的常见构建/运行时依赖项(示例包括:`avahi-daemon`、`curl`、`cmake`、`g++`、`make`、`build-essential`、`autoconf`、`automake`、`uuid-dev`、`libtool`、`libboost-dev`、`libpq-dev`、`libssl-dev`、`libz-dev`、`python3-dev`、`python3-pip`、`postgresql`、`sqlite3`、`libsqlite3-dev`)。根据需要使用 `sudo`。
10) FogLAMP (IIoT):避免交互式 Kerberos 提示(可选): 如果安装 `krb5-user`,请设置 `DEBIAN_FRONTEND=noninteractive` 以避免在安装过程中出现交互式 KDC 问题,如来源所示。
11) FogLAMP (IIoT):从源代码构建 FogLAMP: 克隆 FogLAMP 存储库,然后在顶层目录中运行 `make` 进行构建。
12) FogLAMP (IIoT):安装 FogLAMP 并设置 FOGLAMP_ROOT: 运行 `make install`(如果需要,运行 `sudo make install`)。然后将 `FOGLAMP_ROOT` 环境变量设置为安装路径(默认值为 `/usr/local/foglamp`)。
13) FogLAMP (IIoT):从开发树运行(替代方案): 除了安装之外,您还可以通过设置来源中描述的所需环境变量从开发树运行(文档指出根据您的克隆基本目录,只需要一个环境变量)。
14) FogLAMP (IIoT):通过包管理器安装(开发人员工具包选项): 配置 Dianomic Systems 包存储库(如果尚未配置),并使用 `apt` 安装 `foglamp-dev` 等包。来源建议将工具包版本与您运行的 FogLAMP 版本匹配。
15) FogLAMP (IIoT):从 PostgreSQL 开始(可选): 如果您需要 PostgreSQL 存储,请在启动 FogLAMP 之前明确安装 PostgreSQL 包(如来源所述)。
16) FogLAMP (IIoT):开发或安装插件: 使用 South 插件从设备摄取数据,使用 North 插件将数据发送到目的地。插件可以用 Python 或 C/C++ 编写。对于 C/C++ 插件构建,来源指出头文件/库通常在 `/usr/include/foglamp` 和 `/usr/lib/foglamp` 中。
17) FogLAMP GUI (可选):在开发模式下运行 GUI: 在 `foglamp-gui` 目录中,运行 `yarn install && yarn start`(或 `yarn start --host <ip_address>` 从另一台机器访问)。然后打开 `http://localhost:4200/`(或 `http://<ip_address>:4200/`)。
18) FogLAMP GUI (可选):构建和部署 GUI: 运行 `./build --clean-start` 以在 `dist/` 中创建构建工件。通过将 `dist/` 复制到目标机器并通过 nginx 提供服务来部署;来源提到使用提供的 `nginx.conf` 并确保安装了 nginx(或 nginx-light)。

Foglamp 常见问题

Foglamp 是一个用于 AI 代理的可观测性工具,它能让您查看 LLM 调用的成本、延迟和质量,帮助您在用户发现之前捕获不良输出。

与 Foglamp 类似的最新 AI 工具

Hapticlabs
Hapticlabs
Hapticlabs是一个无代码工具包,使设计师、开发者和研究人员能够轻松地在设备上设计、原型设计和部署沉浸式触觉交互,无需编码。
Deployo.ai
Deployo.ai
Deployo.ai 是一个全面的 AI 部署平台,支持无缝模型部署、监控和扩展,并内置了道德 AI 框架和跨云兼容性。
CloudSoul
CloudSoul
CloudSoul 是一个 AI 驱动的 SaaS 平台,通过自然语言对话使用户能够即时部署和管理云基础设施,使 AWS 资源管理更加便捷和高效。
Devozy.ai
Devozy.ai
Devozy.ai是一个AI驱动的开发者自助服务平台,将敏捷项目管理、DevSecOps、多云基础设施管理和IT服务管理结合到一个统一的解决方案中,以加速软件交付。