Arch Nasıl Kullanılır
Arch, hızlı, sağlam ve kişiselleştirilmiş AI ajanları oluşturmak için API'lerle promptların güvenli işlenmesi, sağlam gözlemlenebilirlik ve sorunsuz entegrasyon sağlayan Envoy Proxy üzerine inşa edilmiş akıllı bir Katman 7 geçididir.
Daha Fazla GösterArch Nasıl Kullanılır
Gereksinimleri Yükleyin: Sisteminizde Docker (v24), Docker compose (v2.29), Python (v3.10) ve Poetry (v1.8.3) yüklü olduğundan emin olun. Yerel geliştirme için Poetry gereklidir.
Python Sanal Ortamı Oluşturun: Yeni bir Python sanal ortamı oluşturun ve etkinleştirin: python -m venv venv && source venv/bin/activate (veya Windows'ta venv\Scripts\activate)
Arch CLI'yi Yükleyin: Arch geçidi CLI aracını pip kullanarak yükleyin: pip install archgw
Yapılandırma Dosyası Oluşturun: LLM sağlayıcılarınızı, prompt hedeflerinizi, uç noktalarınızı ve sistem promptları ve parametreler gibi diğer ayarları tanımlayan bir yapılandırma dosyası oluşturun (örneğin, arch_config.yaml)
LLM Sağlayıcılarını Yapılandırın: Yapılandırma dosyasında, uygun erişim anahtarları ve model ayarları ile LLM sağlayıcılarınızı (örneğin, OpenAI) ayarlayın.
Prompt Hedeflerini Tanımlayın: Yapılandırma dosyasında, her hedef işlev için uç noktaları, parametreleri ve açıklamaları belirterek prompt hedeflerini yapılandırın.
Uç Noktaları Ayarlayın: Yapılandırma dosyasında, bağlantı ayarları ve zaman aşımını içeren uygulama uç noktalarınızı tanımlayın.
İstemciyi Başlatın: Uygulama kodunuzda Arch geçidine işaret eden bir OpenAI istemci örneği oluşturun (örneğin, base_url='http://127.0.0.1:12000/v1')
API Çağrıları Yapın: Yapılandırılmış istemciyi kullanarak Arch aracılığıyla API çağrıları yapın, bu da yönlendirme, güvenlik ve gözlemlenebilirliği yönetecektir.
Performansı İzleyin: LLM etkileşimleriniz için metrikleri, izleri ve günlükleri izlemek üzere Arch'ın yerleşik gözlemlenebilirlik özelliklerini kullanın.
Arch SSS
Arch, API'lerle LLM uygulamalarını korumak, gözlemlemek ve kişiselleştirmek için tasarlanmış akıllı bir Katman 7 geçididir. Envoy Proxy üzerine inşa edilmiştir ve güvenli işlem, sağlam gözlemlenebilirlik ve API'lerle istemlerin sorunsuz entegrasyonu için özel olarak tasarlanmış LLM'lerle mühendislik yapılmıştır.
Popüler Makaleler
Hailuo AI'nin S2V-01 Modeli: Video Oluşturmada Karakter Tutarlılığını Devrimleştiriyor
Jan 13, 2025
Hypernatural AI ile Hızlı Video Nasıl Oluşturulur | 2025 Yeni Eğitim
Jan 10, 2025
CrushOn AI NSFW Sohbet Botu Ocak 2025 Yeni Hediye Kodları ve Nasıl Kullanılır
Jan 9, 2025
Ocak 2025'te Koupon.ai'deki Yeni Amazon Promosyon Kodları ve Nasıl Kullanılır
Jan 9, 2025
Daha Fazla Göster