如何使用 UsageGuard
註冊賬戶: 前往 accounts.usageguard.com/sign-up 並創建賬戶。根據您的需求選擇標準(免費)或專業計劃。
設置配置: 為不同的使用場景、應用程序或您希望通過平台使用的模型創建不同的配置。
配置策略: 設置請求策略,包括內容過濾、PII 隱去、詞彙阻止、系統提示、令牌限制和字符限制,以滿足您的使用場景。
設置花費控制: 為每個連接的模型推理配置每日/每周/每月的花費限制,以控制成本。
管理模型訪問: 啟用您希望使用的特定 AI 模型,測試不同模型以評估性能和成本。
更新 API 端點: 更新您現有的代碼,將其指向 UsageGuard 的 API 端點,而不是直接調用 LLM 供應商。
添加身份驗證: 在推理請求中包含您的 UsageGuard API 密鑰和連接 ID 以進行身份驗證。
監控使用情況: 使用平台跟踪交互,包括追蹤 ID、時間戳、最終用戶跟蹤和連接詳細信息,以便進行調試和審計。
UsageGuard 常見問題
UsageGuard 作為您的應用程式和 LLM 之間的中間件,處理 API 調用、應用安全策略和管理數據流,以確保安全和高效地使用 AI 語言模型。
查看更多