LLMWare.ai Howto
LLMWare.ai adalah kerangka kerja AI open-source yang menyediakan solusi end-to-end untuk membangun aplikasi LLM tingkat perusahaan, dengan fitur model bahasa kecil khusus dan kemampuan RAG yang dirancang khusus untuk industri yang intensif secara finansial, hukum, dan regulasi di lingkungan cloud pribadi.
Lihat Lebih BanyakCara Menggunakan LLMWare.ai
Instalasi: Instal LLMWare menggunakan pip: 'pip install llmware' untuk instalasi minimal atau 'pip install llmware[full]' untuk instalasi penuh dengan pustaka yang umum digunakan
Buat Perpustakaan: Buat perpustakaan baru untuk berfungsi sebagai wadah basis pengetahuan Anda menggunakan: lib = Library().create_new_library('my_library')
Tambahkan Dokumen: Tambahkan dokumen Anda (PDF, PPTX, DOCX, XLSX, TXT, dll.) ke perpustakaan untuk pemrosesan dan pemecahan teks. Perpustakaan akan mengatur dan mengindeks koleksi pengetahuan Anda
Pilih Model: Pilih dari model khusus LLMWare seperti BLING, SLIM, DRAGON, atau Industry-BERT dari Hugging Face, atau bawa model Anda sendiri. Model berkisar dari 1-7B parameter dan dioptimalkan untuk penggunaan CPU
Siapkan Basis Data Vektor: Pilih dan konfigurasikan basis data vektor pilihan Anda dari opsi yang didukung termasuk FAISS, Milvus, MongoDB Atlas, Pinecone, Postgres, Qdrant, Redis, Neo4j, LanceDB, atau Chroma
Bangun RAG Pipeline: Gunakan modul Query untuk pengambilan dan kelas Prompt untuk inferensi model. Gabungkan dengan basis pengetahuan Anda untuk alur kerja RAG
Konfigurasi Alur Kerja Agen: Untuk aplikasi yang lebih kompleks, siapkan alur kerja agen multi-model menggunakan model SLIM untuk pemanggilan fungsi dan keluaran terstruktur
Jalankan Inferensi: Eksekusi aplikasi LLM Anda baik melalui pemanggilan model langsung atau dengan menyiapkan server inferensi menggunakan kelas LLMWareInferenceServer dengan Flask
Jelajahi Contoh: Periksa file contoh yang luas di repositori GitHub yang mencakup pemrosesan, embedding, tabel kustom, inferensi model, dan alur kerja agen untuk mempelajari lebih lanjut tentang fitur-fitur canggih
Dapatkan Dukungan: Bergabunglah dengan komunitas LLMWare melalui Diskusi GitHub, saluran Discord, atau tonton video tutorial di saluran YouTube mereka untuk panduan tambahan
FAQ LLMWare.ai
LLMWare.ai adalah platform AI sumber terbuka yang menyediakan kerangka pengembangan berbasis LLM kelas perusahaan, alat, dan model yang telah disesuaikan khusus untuk industri yang intensif dalam keuangan, hukum, kepatuhan, dan regulasi di lingkungan cloud pribadi.
Lihat Selengkapnya