如何使用UsageGuard
注册账户: 前往 accounts.usageguard.com/sign-up 并创建账户。根据您的需求选择标准(免费)或专业计划。
设置配置: 为不同的用例、应用程序或您希望通过平台使用的模型创建单独的配置。
配置策略: 设置请求策略,包括内容过滤、PII 隐去、词汇屏蔽、系统提示、令牌限制和字符限制,以适应您的用例。
设置支出控制: 配置每连接的模型推理的每日/每周/每月支出限制,以控制成本。
管理模型访问: 启用对您想要使用的特定 AI 模型的访问,测试不同模型以评估性能和成本。
更新 API 端点: 更新现有代码,使其指向 UsageGuard 的 API 端点,而不是直接调用 LLM 提供商。
添加身份验证: 在推理请求中包含您的 UsageGuard API 密钥和连接 ID 以进行身份验证。
监控使用情况: 使用平台跟踪带有跟踪 ID、时间戳、最终用户跟踪和连接详细信息的交互,以便调试和审计。
UsageGuard 常见问题解答
UsageGuard 作为您的应用程序和 LLM 之间的中介,处理 API 调用,应用安全策略,并管理数据流,以确保安全高效地使用 AI 语言模型。
查看更多