LiteLLM Nasıl Kullanılır
LiteLLM, OpenAI formatını kullanarak çeşitli sağlayıcılardan 100'den fazla büyük dil modeli ile etkileşimde bulunmak için birleşik bir API sağlayan açık kaynaklı bir kütüphane ve proxy sunucusudur.
Daha Fazla GösterLiteLLM Nasıl Kullanılır
LiteLLM'yi Kurun: LiteLLM kütüphanesini pip kullanarak kurun: pip install litellm
Ortam değişkenlerini içe aktarın ve ayarlayın: litellm'i içe aktarın ve API anahtarları için ortam değişkenlerini ayarlayın: import litellm, os; os.environ['OPENAI_API_KEY'] = 'your-api-key'
API çağrısı yapın: API çağrısı yapmak için completion() fonksiyonunu kullanın: response = litellm.completion(model='gpt-3.5-turbo', messages=[{'role': 'user', 'content': 'Merhaba'}])
Akış yanıtlarını yönetin: Akış yanıtları için stream=True ayarlayın: response = litellm.completion(model='gpt-3.5-turbo', messages=[{'role': 'user', 'content': 'Merhaba'}], stream=True)
Hata yönetimini ayarlayın: Hataları yönetmek için OpenAIError ile try-except bloklarını kullanın: try: litellm.completion(...) except OpenAIError as e: print(e)
Geri çağırmaları yapılandırın: Günlükleme için geri çağırmaları ayarlayın: litellm.success_callback = ['helicone', 'langfuse']
LiteLLM Proxy'yi dağıtın: LiteLLM proxy sunucusunu dağıtmak için Docker'ı kullanın: docker run -e LITELLM_MASTER_KEY='sk-1234' ghcr.io/berriai/litellm:main
Model yönlendirmesini yapılandırın: Farklı sağlayıcılar için model yönlendirmesini ve API anahtarlarını ayarlamak için bir config.yaml dosyası oluşturun
Proxy sunucusunu kullanın: Dağıtılmış LiteLLM proxy'nize OpenAI SDK veya curl komutları kullanarak API çağrıları yapın
LiteLLM SSS
LiteLLM, geliştiricilerin 100'den fazla farklı LLM sağlayıcısıyla (OpenAI, Azure, Anthropic gibi) standart bir OpenAI uyumlu format kullanarak etkileşimde bulunmalarını sağlayan birleşik bir API ve proxy sunucusudur. Yük dengeleme, harcama takibi ve sağlayıcılar arasında tutarlı hata yönetimi gibi özellikler sunarak LLM entegrasyonunu basitleştirir.
Popüler Makaleler
![MiniMax Video-01(Hailuo AI) vs Kling AI vs Luma AI Dream Machine 1.6: Yapay Zeka Video Karşılaştırması](/_next/image?url=https%3A%2F%2Fstatic-sg.winudf.com%2Fwupload%2Fxy%2Faprojectadmin%2FYGT6PB7j.jpg&w=256&q=75)
MiniMax Video-01(Hailuo AI) vs Kling AI vs Luma AI Dream Machine 1.6: Yapay Zeka Video Karşılaştırması
Sep 10, 2024
![MiniMax Video-01(Hailuo AI): Yapay Zekanın Metin-Video Dönüşümünde Devrim Niteliğinde Atılımı](/_next/image?url=https%3A%2F%2Fstatic-sg.winudf.com%2Fwupload%2Fxy%2Faprojectadmin%2F3r7d37T1.jpg&w=256&q=75)
MiniMax Video-01(Hailuo AI): Yapay Zekanın Metin-Video Dönüşümünde Devrim Niteliğinde Atılımı
Sep 10, 2024
![Venice AI, ChatGPT, Perplexity ve Google Gemini Karşılaştırması: Eylül 2024'te En İyi SEO Optimize Edilmiş Yapay Zeka Savaşı!](/_next/image?url=https%3A%2F%2Fstatic-sg.winudf.com%2Fwupload%2Fxy%2Faprojectadmin%2FMwU65GHm.jpg&w=256&q=75)
Venice AI, ChatGPT, Perplexity ve Google Gemini Karşılaştırması: Eylül 2024'te En İyi SEO Optimize Edilmiş Yapay Zeka Savaşı!
Sep 6, 2024
![OpenAI'nin GPT-Next'i 2025'ten Önce Benzeri Görülmemiş Güç Vaat Ediyor](/_next/image?url=https%3A%2F%2Fstatic-sg.winudf.com%2Fwupload%2Fxy%2Faprojectadmin%2Fo2YatFQc.jpg&w=256&q=75)
OpenAI'nin GPT-Next'i 2025'ten Önce Benzeri Görülmemiş Güç Vaat Ediyor
Sep 5, 2024
Daha Fazla Göster