如何使用Aguru AI
下载 Aguru Safeguard 包: 在 Aguru 网站上注册以下载完整包。早期采用者可以获得免费访问。
安装软件: 在本地系统上安装 Aguru Safeguard 以确保数据隐私和安全。
配置基础设施: 按照 README.md 的说明配置基础设施,以通过反向代理路由 LLM 流量。无需修改应用程序代码。
访问界面: 导航到 http://localhost:5000 以访问 Aguru Safeguard 界面。
监控 LLM 流量: 设置完成后,Aguru Safeguard 将自动开始监控 LLM 流量并检测异常。
设置警报: 配置警报以转发到您首选的警报系统(如 Splunk 或 DataDog),以监控潜在异常。
使用 Playground: 在 Playground 中测试特定提示,观察系统如何检测异常,并使用这些见解来增强您的 AI 应用程序。
可选:激活 LLM 路由器: 如果需要,激活 LLM 路由器功能,以自动将提示定向到最具成本效益的模型,同时保持最佳性能。
Aguru AI 常见问题解答
Aguru Safeguard 是一款本地部署的软件,用于监控 LLM 的行为、性能和安全性。它通过本地安装确保数据的私密性和安全性,同时提供 LLM 运营关键方面的可操作见解。
查看更多