Parallax, yapılandırmalarından ve fiziksel konumlarından bağımsız olarak birden çok cihazda büyük dil modellerini çalıştırmak için dağıtılmış AI kümeleri oluşturmayı sağlayan tamamen merkezi olmayan bir çıkarım motorudur.
https://github.com/GradientHQ/parallax?ref=producthunt&utm_source=aipure
Parallax by Gradient

Ürün Bilgisi

Güncellendi:Oct 31, 2025

Parallax by Gradient Nedir

Gradient tarafından geliştirilen Parallax, model çıkarımını küresel, işbirlikçi bir süreç olarak yeniden tasarlayan yenilikçi bir açık kaynaklı çıkarım motorudur. Büyük dil modellerinin ayrıştırılmasına, yürütülmesine ve dağıtılmış bir makine ağı üzerinden doğrulanmasına izin vererek geleneksel merkezi altyapıdan kurtulur. Sistem, Blackwell, Ampere ve Hopper serileri dahil olmak üzere çeşitli GPU mimarileriyle uyumluluk ile Windows, Linux ve macOS'ta çapraz platform dağıtımını destekler.

Parallax by Gradient Temel Özellikleri

Paralaks, kullanıcılara model çıkarımını yapılandırmalarından veya fiziksel konumlarından bağımsız olarak birden fazla düğüme dağıtarak kendi yapay zeka kümelerini oluşturmalarını sağlayan tamamen merkeziyetsiz bir çıkarım motorudur. Çapraz platform desteği, ardışık düzen paralelliği yoluyla verimli model parçalama ve dinamik kaynak yönetimi yetenekleri sunarak, yüksek performansı korurken kişisel cihazlarda büyük dil modellerini çalıştırmayı mümkün kılar.
Dağıtılmış Model Çıkarımı: Model çıkarımının birden fazla dağıtılmış düğüm arasında bölünmesine ve yürütülmesine olanak tanıyarak, mevcut bilgi işlem kaynaklarının verimli bir şekilde kullanılmasını sağlar
Çapraz Platform Uyumluluğu: Kaynak kodu, Docker veya yerel uygulamalar aracılığıyla esnek kurulum seçenekleriyle Windows, Linux ve macOS dahil olmak üzere birden fazla işletim sistemini destekler
Dinamik Kaynak Yönetimi: Mac için dinamik KV önbellek yönetimi ve sürekli toplu işlem özelliklerinin yanı sıra, optimum performans için akıllı istek zamanlama ve yönlendirme özelliklerine sahiptir
Ardışık Düzen Paralel Mimarisi: Model katmanlarını kümedeki farklı düğümler arasında verimli bir şekilde dağıtmak için ardışık düzen paralel model parçalamayı uygular

Parallax by Gradient Kullanım Alanları

Kişisel Yapay Zeka Altyapısı: Bireyler, birden fazla bilgi işlem kaynağını bir araya getirerek kişisel cihazlarında büyük dil modellerini çalıştırabilirler
Dağıtılmış Araştırma Ortamı: Araştırma kurumları, farklı konumlardaki birden fazla bilgisayarı birbirine bağlayarak işbirlikçi yapay zeka ortamları oluşturabilirler
Kaynak Optimizasyonlu Geliştirme: Geliştiriciler, model iş yüklerini mevcut cihazlara dağıtarak mevcut donanım altyapısından yararlanabilirler

Artıları

Kişisel cihazlarda büyük dil modellerini çalıştırmayı sağlar
Farklı platformlarda esnek dağıtım seçenekleri
Dağıtılmış bilgi işlem yoluyla verimli kaynak kullanımı

Eksileri

Kurulum süreci uzun sürebilir (yaklaşık 30 dakika)
Bazı özellikler platforma özeldir (örneğin, belirli Docker özellikleri Linux+GPU ile sınırlıdır)

Parallax by Gradient Nasıl Kullanılır

Ön Koşul Kontrolü: Python sürüm 3.11.0 ila 3.14.0'ın yüklü olduğundan emin olun. Blackwell GPU'lar için Ubuntu 24.04 gereklidir.
Kurulum: İşletim sisteminize göre kurulum yöntemini seçin: Windows kullanıcıları yükleyiciyi indirebilir, Linux/macOS kullanıcıları kaynaktan yükleyebilir, Linux GPU kullanıcıları Docker kullanabilir. macOS için önce Python sanal ortamı oluşturun.
Zamanlayıcıyı Başlat: Ana düğümünüzde zamanlayıcıyı 'parallax run' komutunu çalıştırarak başlatın. Kurulum arayüzüne http://localhost:3001 adresinden erişin. Ön uç dışı kullanım için 'parallax run -m {model-name} -n {number-of-worker-nodes}' komutunu kullanın.
Küme ve Modeli Yapılandır: Web arayüzü aracılığıyla, desteklenen listeden istediğiniz düğüm yapılandırmasını ve modeli seçin (DeepSeek, MiniMax-M2, GLM-4.6, Kimi-K2, Qwen, gpt-oss, Meta Llama 3 dahil)
Düğümleri Bağla: Bağlamak istediğiniz her düğümde, katılma komutunu çalıştırın: yerel ağ için 'parallax join' veya genel ağ için 'parallax join -s {scheduler-address}'
Kullanmaya Başla: Düğümler bağlandıktan sonra, http://localhost:3001 adresindeki web sohbet arayüzünü kullanabilir veya programatik erişim için http://localhost:3001/v1/chat/completions adresine API çağrıları yapabilirsiniz.
İsteğe Bağlı Uzaktan Erişim: Sohbet arayüzüne zamanlayıcı olmayan bilgisayarlardan erişmek için, yerel ağ için 'parallax chat' veya genel ağ için 'parallax chat -s {scheduler-address}' komutunu çalıştırın, ardından http://localhost:3002 adresini ziyaret edin.
Kaldırma (gerekirse): Pip kurulumu için: 'pip uninstall parallax' komutunu kullanın. Docker için: docker komutlarını kullanarak konteynerleri ve görüntüleri kaldırın. Windows için: Denetim Masası aracılığıyla kaldırın.

Parallax by Gradient SSS

Parallax, Gradient tarafından geliştirilen ve kullanıcıların yapılandırmaları ve fiziksel konumlarından bağımsız olarak dağıtılmış düğümlerde model çıkarımı için kendi yapay zeka kümelerini oluşturmalarına olanak tanıyan tamamen merkeziyetsiz bir çıkarım motorudur.

Parallax by Gradient Benzer En Yeni Yapay Zeka Araçları

Athena AI
Athena AI
Athena AI, belge analizi, quiz oluşturma, flash kartlar ve etkileşimli sohbet yetenekleri gibi özellikler aracılığıyla kişiselleştirilmiş çalışma yardımı, iş çözümleri ve yaşam koçluğu sunan çok yönlü bir AI destekli platformdur.
Aguru AI
Aguru AI
Aguru AI, davranış izleme, anomali tespiti ve performans optimizasyonu gibi özelliklerle LLM tabanlı uygulamalar için kapsamlı izleme, güvenlik ve optimizasyon araçları sağlayan yerel bir yazılım çözümüdür.
GOAT AI
GOAT AI
GOAT AI, haber makaleleri, araştırma makaleleri ve videolar gibi çeşitli içerik türleri için tek tıklama ile özetleme yetenekleri sunan AI destekli bir platformdur ve ayrıca alanına özgü görevler için gelişmiş AI ajan orkestrasyonu sağlar.
GiGOS
GiGOS
GiGOS, kullanıcıların etkileşimde bulunabileceği ve farklı AI modellerini karşılaştırabileceği sezgisel bir arayüzle Gemini, GPT-4, Claude ve Grok gibi birden fazla gelişmiş dil modeline erişim sağlayan bir AI platformudur.