Arch Como Fazer
Arch é um gateway inteligente de Camada 7 construído sobre o Envoy Proxy que fornece manuseio seguro, observabilidade robusta e integração perfeita de prompts com APIs para construir agentes de IA rápidos, robustos e personalizados.
Ver MaisComo Usar o Arch
Instalar Pré-requisitos: Certifique-se de que você tem Docker (v24), Docker compose (v2.29), Python (v3.10) e Poetry (v1.8.3) instalados em seu sistema. O Poetry é necessário para o desenvolvimento local.
Criar Ambiente Virtual Python: Crie e ative um novo ambiente virtual Python usando: python -m venv venv && source venv/bin/activate (ou venv\Scripts\activate no Windows)
Instalar Arch CLI: Instale a ferramenta CLI do gateway Arch usando pip: pip install archgw
Criar Arquivo de Configuração: Crie um arquivo de configuração (por exemplo, arch_config.yaml) definindo seus provedores LLM, alvos de prompts, endpoints e outras configurações como prompts do sistema e parâmetros
Configurar Provedores LLM: No arquivo de configuração, configure seus provedores LLM (por exemplo, OpenAI) com as chaves de acesso apropriadas e configurações de modelo
Definir Alvos de Prompt: Configure os alvos de prompt no arquivo de configuração, especificando endpoints, parâmetros e descrições para cada função alvo
Configurar Endpoints: Defina os endpoints da sua aplicação no arquivo de configuração, incluindo configurações de conexão e timeouts
Inicializar Cliente: Crie uma instância de cliente OpenAI apontando para o gateway Arch (por exemplo, base_url='http://127.0.0.1:12000/v1') em seu código de aplicação
Fazer Chamadas API: Use o cliente configurado para fazer chamadas API através do Arch, que lidará com roteamento, segurança e observabilidade
Monitorar Desempenho: Use os recursos de observabilidade integrados do Arch para monitorar métricas, rastros e logs para suas interações LLM
Perguntas Frequentes do Arch
Arch é um gateway inteligente de Camada 7 projetado para proteger, observar e personalizar aplicações LLM com APIs. É construído sobre o Envoy Proxy e projetado com LLMs específicos para manuseio seguro, observabilidade robusta e integração perfeita de prompts com APIs.
Artigos Populares
Modelo S2V-01 da Hailuo AI: Revolucionando a Consistência de Personagens na Criação de Vídeos
Jan 13, 2025
Como Usar o Hypernatural AI para Criar Vídeos Rapidamente | Novo Tutorial 2025
Jan 10, 2025
Novos Códigos de Presente do CrushOn AI NSFW Chatbot em Janeiro de 2025 e Como Resgatar
Jan 9, 2025
Códigos de Cupom Grátis do Merlin AI em Janeiro de 2025 e Como Resgatar | AIPURE
Jan 9, 2025
Ver Mais