Soup CLI
Soup CLI, verilerinizi otomatik olarak düzelten, bir eğitim yöntemi seçen, yapılandırmalar oluşturan, değerlendirmeler türeten, her kontrol noktasını kapayan ve dondurulmuş temel katmanları akışla aktarabilen + NF4-niceleyebilen açık kaynaklı, CLI öncelikli bir eğitim sonrası yığınıdır, böylece 8B ince ayarlar bile yaklaşık 4 GB GPU'larda çalışabilir.
https://trysoup.dev/?ref=producthunt&utm_source=aipure
Ürün Bilgisi
Güncellendi:Aug 11, 2026
Soup CLI Nedir
Soup CLI, LLM eğitim sonrası (SFT ve tercih hizalama) işlemlerini tek, tekrarlanabilir bir iş akışına dönüştüren ücretsiz, Apache-2.0 lisanslı bir komut satırı aracıdır: çalıştırmayı belirle, eğit, değerlendir ve gönder. Sonsuz YAML düğmelerini elle ayarlamanızı sağlamak yerine, Soup "kurallar, arama değil" ilkesine odaklanır, hassas varsayılanları (örn. görev kurulumu, niceleme, öğrenme oranı, dönemler, toplu iş boyutu, optimize edici/zamanlayıcı) otomatik olarak seçer ve eğitimden önce verilerinizi doğrular. Çevrimdışı yetenekli kalırken ve satıcı kilitlenmesini önlerken yaygın ekosistem araçlarıyla (Hugging Face, Unsloth, DeepSpeed, MLX, W&B, vLLM/Ollama/llama.cpp dışa aktarma yolları) entegre olur.
Soup CLI Temel Özellikleri
Soup CLI, LLM ince ayarını ve hizalamasını tek komutluk bir iş akışına dönüştüren açık kaynaklı, CLI öncelikli bir eğitim sonrası araç setidir: veri kümenizi ön kontrol eder ve "düzeltir", uygun bir eğitim yöntemi seçer, kuralları kullanarak otomatik olarak bir yapılandırma yazar (hiperparametre araması değil), kendi verilerinizden değerlendirmeler türetir ve kontrol noktalarını bir sevk et/sevk etme kararıyla sınırlar. Başlıca özelliği, tam katman akışıdır: dondurulmuş temel modeli CPU RAM'inde veya NVMe'de tutabilir ve 4-bit'e (örn. NF4) nicemleme yaparken VRAM'e tek seferde bir katman akıtabilir, böylece çok küçük GPU'larda (bildirilen: 4 GB'lık bir dizüstü bilgisayar GPU'sunda Llama-3.1-8B) LoRA SFT ve tercih yöntemlerini (DPO/ORPO/SimPO/KTO) etkinleştirir. Ayrıca üretim izlerini, değerlendirmeyi, dışa aktarmayı ve sunmayı almak için yaygın ML ekosistem araçlarıyla entegre olur.
Tek komutluk eğitim sonrası iş akışı: Uçtan uca döngüyü (veri kontrolleri → yöntem seçimi → yapılandırma oluşturma → eğitim → değerlendirme → kilitli kaydetmeler) tek bir CLI'dan çalıştırarak araçlar arası manuel bağlantıyı azaltır.
Kural tabanlı otomatik yapılandırma (daha az yapılandırma karmaşası): Parametre aramaları gerektirmek yerine yerleşik kuralları kullanarak eğitim yapılandırmalarını otomatik olarak yazar ve ana varsayılanları (görev, nicemleme, öğrenme oranı, dönemler, toplu iş boyutu/optimize edici/zamanlayıcı/hedef modüller) seçer.
Tam katman akışı + 4-bit nicemleme: Dondurulmuş temel modeli CPU RAM/NVMe'den VRAM'e özel bir CUDA akışı üzerinde katman katman akıtır ve 4-bit'e (örn. NF4) nicemler, en yüksek VRAM'i tek bir katmanla sınırlar ve küçük GPU'larda daha büyük modellerin eğitimini sağlar.
Birden çok eğitim sonrası yöntemi destekler: Süpervizyonlu ince ayar (SFT) ve DPO, ORPO, SimPO ve KTO dahil tercih/hizalama yöntemleri sunar (bu yöntemler için de akış desteği ile).
Verilerinize bağlı değerlendirme ve kaydetme-gating: Kendi veri kümenizden değerlendirmeler türetir ve her kaydetmeyi tek bir "SEVK ET veya SEVK ETME" kararıyla sınırlar, bozulmuş kontrol noktalarını körü körüne kaydetmeyi/yayınlamayı önlemeyi amaçlar.
Geçiş + ekosistem entegrasyonları: Diğer ince ayar yığınlarından (örn. LLaMA-Factory, Axolotl, Unsloth) mevcut yapılandırmaları dönüştürmek için `soup migrate` içerir ve eğitim hızlandırma, izleme, dışa aktarma ve sunma için yaygın araçlarla entegre olur (örn. Unsloth, DeepSpeed, W&B, vLLM, Ollama, llama.cpp, ONNX, TensorRT).
Soup CLI Kullanım Alanları
Uç uygulamalar için cihaz üzerinde ince ayar: Yerel olarak çalışması gereken (gizlilik/çevrimdışı) yardımcılar geliştiren ekipler, akış + 4-bit nicemleme kullanarak kısıtlı donanımda 8B sınıfı bir modeli ince ayarlayabilir, ardından yerel çalışma zamanları aracılığıyla dışa aktarabilir/sunabilir.
Müşteri desteği ve kurumsal bilgi asistanları: Yardım masası veya dahili sohbet araçlarına dağıtımdan önce regresyonları azaltmak için veri ön kontrolü ve kilitli kaydetmeler kullanarak dahili Soru-Cevap ve sohbet transkriptleri üzerinde bir temel modeli ince ayarlayın ve hizalayın.
Üretim izlerinden ürün yinelemesi: Eğitim verileri oluşturmak, SFT veya tercih optimizasyonu çalıştırmak ve tekrarlanabilir bir CLI ardışık düzeninde iyileştirmeleri değerlendirmek için gözlemlenebilirlik ve LLM platformlarından (örn. Langfuse/LangSmith/Helicone/OpenTelemetry dışa aktarımları) günlükleri/izleri alın.
Sınırlı GPU bütçelerine sahip akademik laboratuvarlar ve küçük ekipler: Araştırmacılar, çoklu GPU altyapısına ihtiyaç duymadan, standart değerlendirme akışlarını ve dışa aktarımları kullanmaya devam ederken, mütevazı GPU'larda tekrarlanabilir ince ayar/hizalama deneyleri yapabilirler.
Çevrimdışı iş akışlarına ihtiyaç duyan düzenlenmiş endüstriler: Sağlık/finans/kamu sektörü ekipleri verileri yerel tutabilir, eğitimi ve değerlendirmeyi çevrimdışı çalıştırabilir ve dahili yayın süreçlerini desteklemek için açık sevk et/sevk etme gating'ini kullanabilir.
Çeşitli çalışma zamanları için model dağıtım paketleme: Eğitimden sonra ekipler, aynı proje iş akışından farklı sunum yığınlarını (Ollama ile yerel geliştirme, vLLM/SGLang ile yüksek verim, llama.cpp/GGUF ile uç, veya ONNX/TensorRT aracılığıyla çıkarım yığınları) hedefleyebilir.
Artıları
Tam katman akışı ve 4-bit nicemleme aracılığıyla çok küçük GPU'larda daha büyük LLM'lerin ince ayarını sağlar (örn. 4 GB'ta 8B bildirildi).
CLI öncelikli, kural tabanlı otomasyon, yapılandırma yükünü azaltır ve yinelemeyi hızlandırır (otomatik yapılandırma + yöntem seçimi + ön kontrol).
Uçtan uca iş akışı, değerlendirme ve kilitli kontrol noktası kaydetmeyi içerir, daha güvenli yayınları teşvik eder.
Geniş ekosistem entegrasyonu ve yapılandırma geçişi, diğer araçlardan geçiş maliyetlerini düşürür.
Eksileri
Katman akışı, belirtilen sınırlamalarla (örn. transformers/text/plain LoRA odaklı) açıkça BETA olarak etiketlenmiştir, bu nedenle uç durumlar dikkat gerektirebilir.
Akış ağırlıkları sınırlar ancak tüm bellek sürücülerini değil (örn. logitler/vocab VRAM'e hakim olabilir), bu nedenle bazı iş yükleri hala küçük GPU'lara sığmayabilir.
Tarihsel doğruluk sorunları açıklanmıştır (örn. önceki akışlı adaptör akış yolu dışında işlevsiz; 32B üzeri NF4 gradyan kusuru düzeltme öncesi), bu da kullanıcıların sürümleri sabitlemesini ve sonuçları doğrulamasını önermektedir.
Bazı tercih kayıpları için performans iddiaları sağlanan kaynaklarda tam olarak kıyaslanmamıştır, bu nedenle verim beklentileri yerel ölçüm gerektirebilir.
Soup CLI Nasıl Kullanılır
1) Soup CLI'yi yükleyin (hafif çekirdek): Çekirdek CLI + yapılandırma + veri araçlarını yükleyin (PyTorch yığını yok):
pip install soup-cli
Eğitim bağımlılıkları olmadan yalnızca projeleri başlatmak, yapılandırmaları yönetmek veya veri araçlarını çalıştırmak istiyorsanız bunu kullanın.
2) Eğitim desteğiyle Soup'u yükleyin (ince ayar için önerilir): Soup'u ve eğitim yığınını (torch, transformers, peft, trl, datasets vb.) yükleyin:
pip install "soup-cli[train]"
Bu, SFT ve tercih eğitimi iş akışları için tipik bir kurulumdur.
3) (İsteğe Bağlı) Tam özellik paketini yükleyin: Tek bir kurulumda eğitim + hizmet + UI + veri araçları istiyorsanız:
pip install "soup-cli[all]"
4) (İsteğe Bağlı) GitHub'dan en son geliştirme sürümünü yükleyin: En yeni değişiklikleri istiyorsanız (daha az kararlı olabilir):
pip install git+https://github.com/MakazhanAlpamys/Soup.git
5) Bir şablondan yeni bir proje başlatın: Yerleşik bir şablon kullanarak bir başlangıç projesi/yapılandırması oluşturun (örnek: sohbet):
soup init --template chat
Bu, minimum manuel yapılandırma ile eğitim yapabilmeniz için çalıştırılabilir bir yapı oluşturur.
6) Eğitim verilerinizi hazırlayın (Soup'u veri kümenize yönlendirin): Veri kümenizi yerel olarak yerleştirin (genellikle JSONL). Bir Soup yapılandırmasında, aşağıdaki gibi yollara başvuracaksınız:
train: ./data/train.jsonl
Soup, Alpaca tarzı veriler gibi veri kümesi formatlarını destekler (kaynaklarda gösterildiği gibi).
7) Çalıştırmayı yapılandırın (manuel yapılandırma örneği): Temel modeli, görevi/aşamayı, LoRA ayarlarını, nicelemeyi ve çıktı dizinini belirten bir yapılandırma sağlayabilirsiniz. Kaynaklarda gösterilen örnek alanlar şunları içerir:
- base/model_name_or_path: meta-llama/Llama-3.1-8B (veya -Instruct)
- task/stage: sft
- finetuning_type: lora
- lora_rank (r), lora_alpha, lora_dropout, lora_target
- cutoff_len
- learning_rate, epochs
- quantization_bit: 4
- output_dir
Soup, iş akışına bağlı olarak birçok ayarı (optimize edici, zamanlayıcı, hedef modüller, toplu iş boyutu) otomatik olarak algılayabilir/seçebilir.
8) Tek bir komutla eğitin: Başlatılan projenizden/yapılandırmanızdan eğitimi çalıştırın:
soup train
Kaynaklara göre, Soup veriler üzerinde ön kontrol yapar, kurallar aracılığıyla eğitim ayarlarını seçer/türetir (manuel hiperparametre araması değil), kendi verilerinizden değerlendirmeler türetir ve kaydetmeleri kapılar.
9) Düşük VRAM ince ayarı için 4-bit niceleme kullanın (örnek): VRAM kullanımını azaltmak için 4-bit nicelemeyi yapılandırın (örn. quantization_bit: 4). Kaynaklar, dondurulmuş temel modelin CPU RAM'inden veya NVMe'den katman katman akışını ve 8B bir modelin 4 GB GPU'da ince ayar yapabilmesi için NF4'e nicelemeyi açıklar.
10) Gerektiğinde tercih/hizalama yöntemlerini (DPO/ORPO/SimPO/KTO) çalıştırın: Soup, DPO, ORPO, SimPO ve KTO dahil olmak üzere hizalama yöntemlerini destekler ve kaynaklar, model GPU VRAM'inden daha büyük olduğunda bu yöntemlerin aynı katman akışı yaklaşımıyla da çalışabileceğini belirtir.
11) Başka bir ince ayar aracından geçiş yapın (yapılandırma dönüştürme): Başka araçlardan zaten yapılandırmalarınız varsa, şunu kullanın:
soup migrate
Kaynaklar, bunun mevcut yapılandırmaları (örn. LLaMA-Factory, Axolotl, Unsloth'tan) yeniden yazmadan dönüştürdüğünü ve ardından normal şekilde eğitim yapabileceğinizi belirtir.
12) Çevrimdışı eğitim verileri için üretim izlerini/günlüklerini alın (isteğe bağlı): Mevcut günlüklerden/dışa aktarımlardan veri kümeleri oluşturmak için, kaynaklarda gösterilen alım komut desenini kullanın:
soup ingest --source <vendor> --logs <export.jsonl>
Bahsedilen desteklenen kaynaklar arasında Langfuse, LangSmith, Helicone, OpenPipe, OpenTelemetry ve OpenAI Stored Completions bulunmaktadır.
Soup CLI SSS
Soup CLI, tam döngüyü kapsayan ücretsiz, açık kaynaklı (Apache-2.0) CLI-öncelikli bir eğitim sonrası araç zinciridir: verilerinizi uçuş öncesi doğrular ve "düzeltir", bir eğitim yöntemi seçer, eğitim yapılandırmasını otomatik olarak yazar (görev, niceleme, öğrenme oranı ve hiperparametre araması yerine kurallardan gelen epoch'lar dahil), kendi verilerinizden değerlendirmeler türetir, her kaydı kapar ve sadece durmak yerine çalışma sırasında ödül hack'ini kendi kendine düzeltebilir. Ayrıca yaygın ML araçlarıyla (Hugging Face, Ollama, vLLM, DeepSpeed, Unsloth, ONNX/TensorRT, W&B vb.) entegre olur.
Soup CLI Videosu
Popüler Makaleler
Atoms: Fikirleri Lansmana Hazır Ürünlere Dönüştüren Çoklu Ajan Yapay Zeka Platformu
May 22, 2026
Nano Banana SBTI: Nedir, Nasıl Çalışır ve 2026'da Nasıl Kullanılır
Apr 15, 2026
Atoms İncelemesi — 2026'da Dijital Oluşumu Yeniden Tanımlayan Yapay Zeka Ürün Geliştiricisi
Apr 10, 2026
Kilo Claw: Gerçek Bir "Senin Yerine Yapan" Yapay Zeka Aracısı Nasıl Kurulur ve Kullanılır (2026 Güncellemesi)
Apr 3, 2026
Soup CLI Benzer En Yeni Yapay Zeka Araçları
Gait
Gait, AI destekli kod üretimini sürüm kontrolü ile entegre eden bir işbirliği aracıdır, ekiplerin AI tarafından üretilen kod bağlamını verimli bir şekilde takip etmelerini, anlamalarını ve paylaşmalarını sağlar.
invoices.dev
invoices.dev, geliştiricilerin Git commit'lerinden doğrudan fatura oluşturan otomatik bir faturalama platformudur; GitHub, Slack, Linear ve Google hizmetleri için entegrasyon yetenekleri vardır.
EasyRFP
EasyRFP, RFP (Teklif Talebi) yanıtlarını kolaylaştıran ve derin öğrenme teknolojisi ile gerçek zamanlı alan fenotipleme sağlayan AI destekli bir kenar bilişim araç takımıdır.
Cart.ai
Cart.ai, kodlama, müşteri ilişkileri yönetimi, video düzenleme, e-ticaret kurulumu ve 24/7 destek ile özel AI geliştirme dahil kapsamlı iş otomasyon çözümleri sunan AI destekli bir hizmet platformudur.
Soup CLI Gibi Popüler Yapay Zeka Araçları
GitHub Copilot Chat
GitHub Copilot Chat, desteklenen IDE'ler ve GitHub.com içinde doğal dil etkileşimleri, gerçek zamanlı kod önerileri ve bağlamsal destek sağlayan AI destekli bir kodlama asistanıdır.
CopilotForXcode
CopilotForXcode, Xcode içinde AI destekli kod önerileri, sohbet yardımı ve prompt-to-code işlevselliği sağlamak için GitHub Copilot, Codeium ve ChatGPT'yi entegre eden bir Xcode Kaynak Editörü Uzantısıdır.
BrowserAI
BrowserAI, sunucu altyapısı gerektirmeden gizlilik odaklı yapay zeka yetenekleri sunarak, WebGPU hızlandırmasıyla doğrudan web tarayıcılarında yerel Büyük Dil Modellerini (LLM'ler) çalıştırmayı sağlayan açık kaynaklı bir kitaplıktır.
OpenAI Codex CLI
OpenAI Codex CLI, terminalinizde çalışan, geliştiricilerin doğal dili kod yürütmeye çevirmesini sağlayan, kod çalıştırma, dosyaları manipüle etme ve sürüm kontrolü altında yineleme yeteneği ile ChatGPT düzeyinde akıl yürütme sağlayan hafif, açık kaynaklı bir kodlama aracıdır.