Arch Nasıl Kullanılır
Arch, hızlı, sağlam ve kişiselleştirilmiş AI ajanları oluşturmak için API'lerle promptların güvenli işlenmesi, sağlam gözlemlenebilirlik ve sorunsuz entegrasyon sağlayan Envoy Proxy üzerine inşa edilmiş akıllı bir Katman 7 geçididir.
Daha Fazla GösterArch Nasıl Kullanılır
Gereksinimleri Yükleyin: Sisteminizde Docker (v24), Docker compose (v2.29), Python (v3.10) ve Poetry (v1.8.3) yüklü olduğundan emin olun. Yerel geliştirme için Poetry gereklidir.
Python Sanal Ortamı Oluşturun: Yeni bir Python sanal ortamı oluşturun ve etkinleştirin: python -m venv venv && source venv/bin/activate (veya Windows'ta venv\Scripts\activate)
Arch CLI'yi Yükleyin: Arch geçidi CLI aracını pip kullanarak yükleyin: pip install archgw
Yapılandırma Dosyası Oluşturun: LLM sağlayıcılarınızı, prompt hedeflerinizi, uç noktalarınızı ve sistem promptları ve parametreler gibi diğer ayarları tanımlayan bir yapılandırma dosyası oluşturun (örneğin, arch_config.yaml)
LLM Sağlayıcılarını Yapılandırın: Yapılandırma dosyasında, uygun erişim anahtarları ve model ayarları ile LLM sağlayıcılarınızı (örneğin, OpenAI) ayarlayın.
Prompt Hedeflerini Tanımlayın: Yapılandırma dosyasında, her hedef işlev için uç noktaları, parametreleri ve açıklamaları belirterek prompt hedeflerini yapılandırın.
Uç Noktaları Ayarlayın: Yapılandırma dosyasında, bağlantı ayarları ve zaman aşımını içeren uygulama uç noktalarınızı tanımlayın.
İstemciyi Başlatın: Uygulama kodunuzda Arch geçidine işaret eden bir OpenAI istemci örneği oluşturun (örneğin, base_url='http://127.0.0.1:12000/v1')
API Çağrıları Yapın: Yapılandırılmış istemciyi kullanarak Arch aracılığıyla API çağrıları yapın, bu da yönlendirme, güvenlik ve gözlemlenebilirliği yönetecektir.
Performansı İzleyin: LLM etkileşimleriniz için metrikleri, izleri ve günlükleri izlemek üzere Arch'ın yerleşik gözlemlenebilirlik özelliklerini kullanın.
Arch SSS
Arch, API'lerle LLM uygulamalarını korumak, gözlemlemek ve kişiselleştirmek için tasarlanmış akıllı bir Katman 7 geçididir. Envoy Proxy üzerine inşa edilmiştir ve güvenli işlem, sağlam gözlemlenebilirlik ve API'lerle istemlerin sorunsuz entegrasyonu için özel olarak tasarlanmış LLM'lerle mühendislik yapılmıştır.
Popüler Makaleler
OpenAI'ın 12 Günü İçerik Güncellemesi 2024
Dec 18, 2024
MidJourney, Patchwork Yayınından Sonra Pinterest Benzeri Mood Boardları Başlattı
Dec 17, 2024
Google Whisk'i Piyasaya Sürdü: Devrim Niteliğinde Yapay Zeka Görüntü Üreteci Üç Görseli Birleştiriyor
Dec 17, 2024
Google Yeni Nesil Yapay Zeka Görsel Üreticisi Imagen 3'ü Tanıttı
Dec 17, 2024
Daha Fazla Göster