Arch 常见问题解答

Question 1

什么是 Arch？

Accepted Answer

Arch 是一个智能的第 7 层网关，旨在通过 API 保护、观察和个性化 LLM 应用程序。它基于 Envoy Proxy 构建，并使用专为安全处理、强大的可观测性和与 API 的无缝集成而设计的 LLM 进行工程设计。

Question 2

Arch 的核心功能是什么？

Accepted Answer

Arch 的核心功能包括：1) 基于 Envoy 进行 HTTP 管理和扩展，2) 函数调用以快速构建代理和 RAG 应用，3) 提示防护以防止越狱尝试，4) LLM 调用的流量管理，5) 基于 W3C Trace Context 标准的标准化可观测性。

Question 3

安装 Arch 的前提条件是什么？

Accepted Answer

要安装 Arch，您需要：1) Docker 系统（v24），2) Docker Compose（v2.29），3) Python（v3.10），4) Poetry（v1.8.3），以及如果您使用外部 LLM，则需要 LLM 提供商的 API 密钥。

Question 4

Arch 如何处理安全性？

Accepted Answer

Arch 集中了提示防护措施，以防止越狱尝试，并确保用户交互的安全性，而无需编写代码。它包括 Arch-Guard 集合，该集合在检测越狱尝试方面提供了低延迟和低误报率的最新性能。

Question 5

开发人员如何获得 Arch 的支持？

Accepted Answer

开发人员可以通过加入 Arch 的 Discord 服务器获得支持，团队会积极监控并提供支持。他们还可以参考 docs.archgw.com 上的文档以获取详细指导。

Question 6

Arch 提供了哪些可观测性功能？

Accepted Answer

Arch 使用 W3C Trace Context 标准提供全面的可观测性功能，实现跨应用程序的完整请求跟踪。它提供了监控延迟、令牌使用量和错误率的指标，以帮助优化 AI 应用程序的性能。

Arch 使用方法