如何使用 Aguru AI
下載 Aguru Safeguard 套件: 在 Aguru 網站上註冊以下載完整套件。早期採用者可以獲得免費訪問權。
安裝軟件: 在本地系統上安裝 Aguru Safeguard 以確保數據隱私和安全。
配置基礎設施: 按照 README.md 的指示配置基礎設施,以將 LLM 流量通過反向代理路由。無需修改應用程序代碼。
訪問界面: 導航到 http://localhost:5000 以訪問 Aguru Safeguard 界面。
監控 LLM 流量: 設置完成後,Aguru Safeguard 將自動開始監控您的 LLM 流量並檢測異常。
設置警報: 配置警報以轉發到您偏好的警報系統(如 Splunk 或 DataDog)以監控潛在異常。
使用 Playground: 在 Playground 中試驗特定的提示,以觀察系統如何檢測異常並使用見解來增強您的 AI 應用。
可選:激活 LLM 路由器: 如果需要,激活 LLM 路由器功能,以自動將提示定向到最具成本效益的模型,同時保持最佳性能。
Aguru AI 常見問題
Aguru Safeguard 是一款本地部署的軟件,用於監控 LLM 的行為、性能和安全性。它通過本地安裝確保數據隱私和安全,同時提供 LLM 運行關鍵方面的可操作見解。
查看更多