
Traccia
Traccia 是一个 OpenTelemetry 原生 SDK 和控制平面,用于 AI 代理,它统一了跟踪、成本/令牌归因、提示注册表和评估、PII 检测、运行时策略执行以及可审计的合规性证据(例如,欧盟人工智能法案)。
https://traccia.ai/?ref=producthunt&utm_source=aipure

产品信息
更新于:2026年08月31日
什么是 Traccia
Traccia 是一个基于 OpenTelemetry 标准构建的代理可观测性、评估、治理和策略执行平台。它为团队提供了一个单一的视图,用于清点和监控跨流行框架(包括 LangChain、CrewAI 和 OpenAI Agents SDK)的 AI 代理,同时跟踪性能、错误和 LLM 支出。除了监控,Traccia 还旨在实现大规模治理:它支持敏感数据控制、提示版本控制和评估工作流,并生成符合欧盟人工智能法案(可选 HIPAA 导向控制)等监管要求的可导出证据包。
Traccia 的主要功能
Traccia 是一个 OpenTelemetry 原生 Python SDK 和控制平面,用于观察、评估、治理和执行 AI 代理和 LLM 应用程序的策略。它提供跨代理工作流(LLM 调用、工具使用、决策)的端到端追踪,以及跨多个框架的统一代理注册表,同时通过 OTEL 指标提供准确的令牌和成本归因,即使在追踪采样时也能保持正确。除了可观察性,它还增加了运行时策略监控/执行(包括硬性阻止)、PII/敏感数据检测(可选编辑)、提示注册和评估/实验,以及符合欧盟 AI 法案条款的内置合规证据导出(可选 HIPAA 相关控制)。
OpenTelemetry 原生端到端追踪: 使用 OTEL 标准捕获 LLM 调用、工具调用和代理决策的完整可见性,从而实现跨代理工作流和服务的分布式追踪。
多框架集成和统一代理注册表: 即插即用支持 LangChain、CrewAI、OpenAI Agents SDK、AutoGen 和 LlamaIndex 等框架,以及具有所有权、环境、版本、健康状况和执行状态的代理的单一库存视图。
准确的成本和令牌归因(采样安全): 本地计算令牌和总成本,并为每次 LLM 调用发出符合 OTEL 的指标,因此即使只导出了一小部分追踪(例如,10% 采样),支出跟踪也能保持 100% 准确。
策略监控和运行时执行: 通过明确的注释、提供商原生信号和启发式方法检测治理违规——并且可以在执行中硬性阻止代理,以防止失控成本、无限循环或受限模型使用。
PII/敏感数据检测和编辑控制: 在追踪中标记敏感数据(例如,凭据、患者/客户标识符)的暴露,并在导出前进行可选的 SDK 端基于模式的掩码处理(init(redact_pii=True))。
提示注册表、评估和合规证据导出: 支持带有生产标签的版本化提示、用于评估的数据集/评分器/实验,以及符合欧盟 AI 法案要求的审计就绪证据包(可选 HIPAA 相关控制)。
Traccia 的使用场景
企业代理操作(单一管理平台): 集中监控跨团队和框架的众多代理,跟踪健康评分、错误、延迟、吞吐量,并快速识别哪个代理或工作流导致了事件。
金融和金融科技成本治理: 将 LLM 支出归因于特定的代理、任务、模型和环境;强制执行支出限制,并在成本升级之前阻止失控循环或过度工具/LLM 使用。
医疗保健和受监管工作流: 通过检测潜在的 PHI/PII 暴露、启用编辑以及导出用于审计的证据包(HIPAA 相关控制是可选的;未指明签署 BAA)来支持面向合规的操作。
客户支持副驾驶和工单自动化: 追踪端到端交互(检索、工具调用、LLM 响应),捕获敏感数据泄露,并强制执行模型/工具限制,同时保持可靠的成本和令牌核算。
AI 产品开发和提示迭代: 使用提示注册表 + 评估/实验,并排比较候选提示/模型,包括延迟/令牌/成本,然后推广附带实验证据的更改。
优点
OpenTelemetry 原生方法实现了互操作性,避免了对单一代理框架的锁定。
即使在激进的追踪采样下,通过为每次 LLM 调用发出的指标,成本和令牌跟踪仍然准确。
超越可观察性,通过运行时策略执行(硬性阻止)来防止问题在投入生产之前发生。
面向合规的功能(符合欧盟 AI 法案的证据、可选的 HIPAA 控制)和 PII 编辑选项支持受监管的部署。
缺点
SOC 2 被声明为“正在进行中”,这可能会成为某些企业采购流程的障碍。
HIPAA 功能被描述为可选控制,具有共同责任指导,未提及签署 BAA。
OpenAI/Anthropic 强调了深度成本/令牌自动化;其他提供商可能更依赖通用 HTTP/OTEL 追踪,覆盖深度各不相同。
如何使用 Traccia
1) 安装 Traccia (Python): 将 Traccia SDK 添加到您的项目环境中(例如,使用 pip)。Traccia 被设计为即插即用和 OpenTelemetry 原生,因此您可以快速开始跟踪,而无需更改您的代理架构。
2) (可选) 创建 traccia.toml 进行配置: 将 traccia.toml 放置在您的项目根目录中以集中管理设置。Traccia 在存在时会自动从 traccia.toml 加载配置,从而实现类型安全的配置管理(Pydantic 验证),而无需在代码中硬编码设置。
3) 在应用程序启动时初始化 Traccia 一次: 在您的应用程序入口点,只调用 init() 一次。这将在您的应用程序中启用跟踪、令牌/成本跟踪和治理功能。示例:`from traccia import init; init()`。
4) 在导出前启用 PII 匿名化(建议用于生产环境): 如果您可能处理敏感数据,请在 SDK 层启用基于模式的掩码,以便在遥测数据离开您的服务之前对敏感字符串进行匿名化。示例:`init(redact_pii=True)`。
5) 使用 @observe 跟踪任意 Python 函数: 使用 `@observe()` 装饰器来检测任何函数(业务逻辑、工具调用、路由等)。示例:`from traccia import observe; @observe() def my_function(x, y): return x + y`。
6) 使用框架集成实现代理级可见性: 如果您使用代理框架(LangChain、CrewAI、OpenAI Agents SDK、AutoGen、LlamaIndex),请启用 Traccia 的集成,以便在链/工具/代理/工作流级别(而不仅仅是原始 HTTP 调用)捕获跟踪。这提供了 LLM 调用、工具使用和代理决策的端到端跟踪。
7) OpenAI Agents SDK:确认自动检测(或选择退出): Traccia 可以为 OpenAI Agents SDK 自动启用跟踪。如果您需要禁用它,可以通过以下方式之一选择退出:`init(openai_agents=False)`、环境变量 `TRACCIA_OPENAI_AGENTS=false`,或在 `traccia.toml` 中 `[instrumentation]` 下设置 `openai_agents = false`。
8) 捕获 OpenAI Responses API spans (Agents SDK 路径): 当使用 OpenAI Responses API(通常由 Agents SDK 使用)时,Traccia 会对其进行检测并发出 `llm.openai.responses` 等 span,捕获模型、截断的输入/输出、令牌使用、计算成本和响应元数据。
9) 配置跟踪采样而不影响成本准确性: 如果您通过采样(例如,sample_rate=0.1)减少跟踪量,请不要单独依赖跟踪来计算总成本。Traccia 会发出符合 OTEL 标准的指标,用于独立于跟踪采样的令牌和成本跟踪,即使只导出一小部分跟踪,也能保持总数准确。
10) 将遥测数据导出到 OpenTelemetry (OTLP) 后端: Traccia 兼容 OTLP,因此您可以将跟踪/指标导出到任何 OpenTelemetry 后端(或 Traccia 自己的控制平面)。使用您的 OpenTelemetry 设置和/或 Traccia 配置来配置您的 OTLP 导出器端点和服务标识(例如,service.name)。
11) 使用统一代理注册表(控制平面): 在 Traccia UI/控制平面中,在一个地方查看所有框架中的所有代理。跟踪代理版本、环境、所有权、执行、健康状况、错误和吞吐量——旨在减少在不同工具和仪表板之间切换的次数。
12) 按代理/任务/模型监控成本和令牌归因: 使用 Traccia 的成本和令牌归因来识别哪些代理和任务产生了支出。Traccia 支持 2,500 多个模型的成本计算,并在 span 结束时本地计算成本,通过指标确保无论采样如何都保持准确性。
13) 开启策略监控和执行(治理): 配置治理规则以检测和响应违规行为(例如,受限模型使用、失控成本、缺少防护措施或敏感数据暴露)。Traccia 支持多层防护措施检测(显式注释、提供商原生信号和启发式方法),并可以在运行时硬性阻止代理执行。
14) 审查 PII 和敏感数据检测结果: 检查跟踪中标记的 PII/敏感数据暴露(例如,患者姓名、凭据、用户数据)。使用注释和强制执行来防止泄露到达日志或下游系统。
15) 使用提示注册表和 Playground 进行受控提示迭代: 创建具有不可变版本和受保护生产标签的命名提示。使用延迟、令牌和成本并排比较提示变体和模型,然后从 SDK 加载实时版本,以便跟踪链接回已发布的内容。
16) 使用数据集、评分器和实验运行评估: 策划测试用例,使用内置检查、LLM-as-judge 或自定义评分器对输出进行评分,并存储不可变的实验报告。比较基线与候选,并推广附带证据的更改。
17) 生成合规性证据包(欧盟人工智能法案/HIPAA 控制): 从治理中心导出可审计的证据包。Traccia 提供文章映射的欧盟人工智能法案证据(例如,第 12 条治理事件 span、第 14 条人工审查、第 50 条披露() 支持)和可选的 HIPAA 导向控制,用于 PHI 兼容的清单和标记导出。
18) 在生产环境中通过安全控制进行操作: 确保不记录秘密,应用可配置的数据截断,在平台中使用 RBAC,并在需要时启用匿名化。Traccia 定位为企业就绪(SOC 2 Type II 正在进行中),并支持大规模治理。
Traccia 常见问题
Traccia 是一个用于代理可观测性、评估、治理和策略执行的平台。它提供了一个统一的仪表板,用于跨框架跟踪和监控 AI 代理,归因成本/代币,检测敏感数据暴露,强制执行策略,运行提示/版本管理和评估,并导出合规性证据包。











