Foglamp

Foglamp

WebsiteFreemiumAI DevOps Assistant
Foglamp 是一個用於 AI 代理的可觀測性平台,它對 LLM 呼叫進行儀器化,以追蹤成本、延遲、追蹤、評估、警報和每個代理的支出,協助團隊及早發現迴歸和不良輸出。
https://www.foglamp.dev/?ref=producthunt&utm_source=aipure
Foglamp

產品資訊

更新時間:2026年06月22日

什麼是 Foglamp

Foglamp 是一個以開發人員為中心的觀測產品,旨在使 AI 代理和 LLM 應用程式在生產環境中可測量和可偵錯。它提供每個 LLM 呼叫的成本、延遲和品質的可見性,並透過追蹤和執行瀑布(包括確切的提示和回應)協助團隊了解端到端代理行為。透過 SDK 一次性儀器化,Foglamp 旨在集中監控和分析,以便團隊能夠自信地交付代理系統,並在使用者發現問題之前快速偵測到問題。

Foglamp 的主要功能

Foglamp 是一個針對 AI 代理的觀測性 SDK 和平台,讓團隊能夠一次性檢測 LLM 呼叫,然後監控跨多代理工作流程的成本、延遲、追蹤和輸出品質。它提供每個跨度和每個代理的提示/回應可見性、執行瀑布圖以及按模型/客戶的花費,此外還有評估工具(程式碼檢查和 LLM 判斷)和針對成本回歸、延遲峰值和錯誤率等閾值的警報,有助於在用戶發現之前捕捉不良輸出和失控的花費。
單一 SDK 檢測: 一次性檢測(例如,generateText/streamText),並自動捕獲 LLM 呼叫和代理執行的端到端遙測數據。
成本和花費分析: 追蹤每次呼叫的成本,並按模型、代理和客戶進行細分,以識別回歸並優化使用。
追蹤和執行瀑布圖: 透過每個代理的跨度、延遲和排隊步驟,包括每個跨度的確切提示和回應,可視化完整的呼叫流程。
生產流量的品質評估: 使用確定性程式碼檢查和 LLM 判斷評估來評分輸出,以監控通過率並檢測劣化的回應。
警報和閾值規則: 設定成本、延遲和錯誤率的規則,以主動標記突發事件,例如花費突然增加或速度變慢。
隱私導向的監控: 旨在支援不捕獲 PII 的可觀測性(如產品的「無 PII」定位所示)。

Foglamp 的使用案例

SaaS AI 功能成本控制: 監控每個租戶和每個功能的 LLM 花費,以防止利潤侵蝕,檢測 10 倍的成本回歸,並實施預算護欄。
客戶支援代理可靠性: 追蹤多步驟支援代理(檢索 → 起草 → 評論)並評估輸出品質,以提早發現有害或不正確的回應。
電子商務購物助理: 追蹤代理工作流程(搜尋、推薦、結帳協助)中的延遲和錯誤,並在效能影響轉換時發出警報。
金融科技/合規敏感型助理: 使用評估和追蹤來驗證回應的正確性和政策遵守情況,同時保持無 PII 的可觀測性立場。
研發和提示/模型實驗: 使用成本/延遲/品質指標比較模型和提示版本,以選擇最佳的生產配置。

優點

每個 LLM 呼叫和每個代理跨度的成本、延遲和品質都清晰可見。
帶有提示/回應上下文的端到端追蹤使代理工作流程的調試更快。
內建的評估和警報有助於在用戶注意到之前捕捉回歸。

缺點

需要在程式碼庫中添加/維護 SDK 檢測。
即使採用「無 PII」方法,為可觀測性儲存提示/回應也可能需要仔細的治理。
最佳價值取決於您對 LLM/代理工作流程的依賴程度;對於最小使用量來說可能過度。

如何使用 Foglamp

1) 選擇您指的是哪個「Foglamp」(AI 可觀測性 vs. FogLAMP IIoT 邊緣平台): 來源包含兩個名稱相似的不同產品:(A) Foglamp.dev(AI 代理的可觀測性)和 (B) FogLAMP(IIoT 邊緣閘道)。請按照以下符合您目標的教學課程進行操作。
2) Foglamp.dev (AI 代理):安裝 SDK: 使用您的 JavaScript/TypeScript 套件管理器將 Foglamp SDK 添加到您的應用程式中(網站顯示透過 `import { foglamp } from "foglamp"` 使用)。
3) Foglamp.dev (AI 代理):在程式碼中初始化 Foglamp: 如下所示建立一個 Foglamp 客戶端實例:`import { foglamp } from "foglamp"; const fog = foglamp();`。
4) Foglamp.dev (AI 代理):儀器化您的 LLM 呼叫: 儀器化您的 `generateText` / `streamText` 呼叫(網站聲明「兩行程式碼即可儀器化每個 generateText / streamText 呼叫」),以便 Foglamp 可以捕獲每個呼叫的追蹤、延遲和成本。
5) Foglamp.dev (AI 代理):檢查追蹤和瀑布: 使用 Foglamp 查看每個代理的跨度、完整的呼叫流程,以及每個執行的瀑布,包括每個跨度的確切提示和回應。
6) Foglamp.dev (AI 代理):追蹤成本和支出明細: 使用 Foglamp 的成本視圖查看按模型、代理和客戶劃分的支出,並識別迴歸(例如,成本飆升)。
7) Foglamp.dev (AI 代理):添加品質檢查和評估: 使用程式碼檢查和 LLM 判斷器對生產流量進行評分,並監控通過率(網站強調生產評分和評估)。
8) Foglamp.dev (AI 代理):配置警報: 設定成本、延遲和錯誤率的閾值規則,以便在使用者發現之前捕獲迴歸。
9) FogLAMP (IIoT):安裝先決條件 (Debian/Ubuntu 範例): 安裝來源中提到的常見建置/執行時依賴項(範例包括:`avahi-daemon`、`curl`、`cmake`、`g++`、`make`、`build-essential`、`autoconf`、`automake`、`uuid-dev`、`libtool`、`libboost-dev`、`libpq-dev`、`libssl-dev`、`libz-dev`、`python3-dev`、`python3-pip`、`postgresql`、`sqlite3`、`libsqlite3-dev`)。根據需要使用 `sudo`。
10) FogLAMP (IIoT):避免互動式 Kerberos 提示 (可選): 如果安裝 `krb5-user`,請設定 `DEBIAN_FRONTEND=noninteractive` 以避免在安裝過程中出現互動式 KDC 問題,如來源所示。
11) FogLAMP (IIoT):從原始碼建置 FogLAMP: 克隆 FogLAMP 儲存庫,然後在頂層目錄中執行 `make` 進行建置。
12) FogLAMP (IIoT):安裝 FogLAMP 並設定 FOGLAMP_ROOT: 執行 `make install`(如果需要,則為 `sudo make install`)。然後將 `FOGLAMP_ROOT` 環境變數設定為安裝路徑(預設為 `/usr/local/foglamp`)。
13) FogLAMP (IIoT):從開發樹執行 (替代方案): 您可以從開發樹執行,而不是安裝,方法是設定來源中描述的所需環境變數(文件指出需要一個環境變數,基於您的克隆基本目錄)。
14) FogLAMP (IIoT):透過套件管理器安裝 (開發人員工具包選項): 配置 Dianomic Systems 套件儲存庫(如果尚未配置),並使用 `apt` 安裝諸如 `foglamp-dev` 之類的套件。來源建議將工具包版本與您執行的 FogLAMP 版本匹配。
15) FogLAMP (IIoT):使用 PostgreSQL 啟動 (可選): 如果您想要 PostgreSQL 儲存,請在啟動 FogLAMP 之前明確安裝 PostgreSQL 套件(如來源所述)。
16) FogLAMP (IIoT):開發或安裝外掛程式: 使用 South 外掛程式從設備攝取數據,並使用 North 外掛程式將數據發送到目的地。外掛程式可以用 Python 或 C/C++ 編寫。對於 C/C++ 外掛程式建置,來源指出標頭/庫通常位於 `/usr/include/foglamp` 和 `/usr/lib/foglamp`。
17) FogLAMP GUI (可選):在開發模式下執行 GUI: 在 `foglamp-gui` 目錄中,執行 `yarn install && yarn start`(或 `yarn start --host <ip_address>` 從另一台機器訪問)。然後打開 `http://localhost:4200/`(或 `http://<ip_address>:4200/`)。
18) FogLAMP GUI (可選):建置和部署 GUI: 執行 `./build --clean-start` 以在 `dist/` 中建立建置工件。透過將 `dist/` 複製到目標機器並透過 nginx 提供服務來部署;來源提到使用提供的 `nginx.conf` 並確保已安裝 nginx(或 nginx-light)。

Foglamp 常見問題

Foglamp 是一個針對 AI 代理的觀測工具,讓您能夠查看 LLM 呼叫的成本、延遲和品質,幫助您在用戶發現不良輸出之前捕捉它們。

与 Foglamp 类似的最新 AI 工具

Hapticlabs
Hapticlabs
Hapticlabs 是一個無代碼工具包,使設計師、開發者和研究人員能夠輕鬆設計、原型設計和部署跨設備的沉浸式觸覺交互,無需編碼。
Deployo.ai
Deployo.ai
Deployo.ai 是一個全面的 AI 部署平台,支持無縫模型部署、監控和擴展,內置道德 AI 框架和跨雲兼容性。
CloudSoul
CloudSoul
CloudSoul 是一款 AI 驅動的 SaaS 平台,通過自然語言對話使用戶能夠即時部署和管理雲端基礎設施,使 AWS 資源管理更加易用和高效。
Devozy.ai
Devozy.ai
Devozy.ai 是一個由 AI 驅動的開發者自助服務平台,將敏捷項目管理、DevSecOps、多雲基礎設施管理和 IT 服務管理結合為一個統一的解決方案,以加速軟件交付。