LLMWare.ai Nasıl Kullanılır
LLMWare.ai, özel küçük dil modelleri ve özel bulut ortamlarında finansal, hukuki ve düzenleyici yoğun endüstriler için özel olarak tasarlanmış RAG yetenekleri ile kurumsal düzeyde LLM uygulamaları oluşturmak için uçtan uca bir çözüm sunan açık kaynaklı bir AI çerçevesidir.
Daha Fazla GösterLLMWare.ai Nasıl Kullanılır
Kurulum: Minimal kurulum için 'pip install llmware' veya yaygın olarak kullanılan kütüphanelerle tam kurulum için 'pip install llmware[full]' komutunu kullanarak LLMWare'yi kurun
Kütüphane Oluştur: Bilgi tabanı konteyneri olarak hizmet vermesi için yeni bir kütüphane oluşturun: lib = Library().create_new_library('my_library')
Belgeleri Ekle: Kütüphaneye belgelerinizi (PDF, PPTX, DOCX, XLSX, TXT, vb.) ekleyin. Kütüphane, bilgi koleksiyonunuzu düzenleyecek ve dizinleyecektir
Modeli Seç: Hugging Face'den BLING, SLIM, DRAGON veya Industry-BERT gibi LLMWare'ın özel modellerinden birini seçin veya kendi modellerinizi getirin. Modeller 1-7B parametre aralığındadır ve CPU kullanımı için optimize edilmiştir
Vektör Veritabanını Ayarla: FAISS, Milvus, MongoDB Atlas, Pinecone, Postgres, Qdrant, Redis, Neo4j, LanceDB veya Chroma gibi desteklenen seçeneklerden tercih ettiğiniz vektör veritabanını seçin ve yapılandırın
RAG Pipeline'ını Oluştur: Sorgu modülünü geri alma için ve model çıkarımı için Prompt sınıfını kullanın. RAG iş akışları için bilgi tabanınızla birleştirin
Ajan İş Akışlarını Yapılandır: Daha karmaşık uygulamalar için, işlev çağrısı ve yapılandırılmış çıktılar için SLIM modellerini kullanarak çoklu model ajan iş akışlarını ayarlayın
Çıkarımı Çalıştır: LLM uygulamanızı doğrudan model çağrılarıyla veya Flask ile LLMWareInferenceServer sınıfını kullanarak bir çıkarım sunucusu kurarak çalıştırın
Örnekleri Keşfet: Daha ileri düzey özellikleri öğrenmek için ayrıştırma, gömme, özel tablolar, model çıkarımı ve ajan iş akışlarını kapsayan GitHub deposundaki kapsamlı örnek dosyalarına göz atın
Destek Al: Ek rehberlik için GitHub Tartışmaları, Discord kanalı aracılığıyla LLMWare topluluğuna katılın veya YouTube kanallarında eğitim videolarını izleyin
LLMWare.ai SSS
LLMWare.ai, özel bulut ortamlarında finans, hukuk, uyum ve düzenleyici yoğun endüstriler için özel olarak tasarlanmış, kurumsal düzeyde LLM tabanlı geliştirme çerçevesi, araçlar ve ince ayar yapılmış modeller sunan açık kaynaklı bir AI platformudur.
Daha Fazla Göster