
Unsloth
Unsloth 是一個開源平台,允許用戶通過其 Web UI 和基於代碼的界面在本地運行和訓練 AI 模型,速度提高高達 30 倍,內存使用量減少 90%。
https://unsloth.ai/?ref=producthunt&utm_source=aipure

產品資訊
更新時間:2026年03月20日
什麼是 Unsloth
Unsloth是一家創新的AI初創公司,由Daniel和Michael Han兄弟於2023年創立,致力於使AI更易於所有人訪問。它提供了一個統一的Web界面,稱為Unsloth Studio,用於在本地訓練、運行和導出開放AI模型,支持各種類型,包括文本、音頻、嵌入和視覺模型。該平台可在Windows、Linux、WSL和macOS上運行,提供無代碼Web UI(Unsloth Studio)和基於代碼的版本(Unsloth Core),以滿足不同的用戶需求。
Unsloth 的主要功能
Unsloth 是一個開源平台,提供統一的 Web UI,用於在本地訓練、運行和導出 AI 模型。與傳統方法相比,它在性能上有顯著提升,訓練速度提高 30 倍,內存使用量減少 90%。該平台支持各種模型類型,包括文本、音頻、視覺和嵌入,並兼容 Mistral、Gemma 和 Llama 等流行模型。它具有無代碼 Web 界面 (Unsloth Studio) 和基於代碼的版本 (Unsloth Core),使 Windows、Linux、WSL 和 macOS 上的 AI 模型開發更易於訪問。
統一的 Web 界面: 一體化的本地界面,用於訓練、運行和導出模型,並通過 Unsloth Studio 提供無代碼選項
優化的性能: 通過自定義內核和 GPU 優化,實現 30 倍的訓練速度提升,並減少 90% 的內存使用
模型兼容性: 支持 500 多個模型,包括文本、視覺、音頻和嵌入,以及 GGUF 和 Safetensors 等格式
數據配方系統: 從各種文件格式(PDF、CSV、JSON)自動創建數據集,並提供可自定義的工作流程選項
Unsloth 的使用案例
自定義聊天機器人開發: 微調模型,以實現專業的客戶支持和特定產品的問題處理
研究與開發: 使 AI 研究人員和開發人員能夠以減少的計算資源來試驗模型訓練和優化
企業 AI 部署: 幫助企業創建和部署自定義 AI 模型,從而縮短訓練時間並降低基礎設施成本
優點
在速度和內存使用方面有顯著的性能提升
用戶友好的界面,提供代碼和無代碼選項
全面支持多種模型類型和格式
缺點
在 Unsloth 上構建的工作流程的可移植性有限
Beta 狀態,持續開發且存在潛在的穩定性問題
需要本地硬件資源才能運行
如何使用 Unsloth
安裝 Unsloth: 運行 'pip install --upgrade pip && pip install uv && pip install unsloth --torch-backend=auto'。對於 Windows 用戶,請確保首先安裝 PyTorch。
啟動 Unsloth Studio: 運行 'unsloth studio setup',然後運行 'unsloth studio -H 0.0.0.0 -p 8888' 以啟動 Web UI 界面。或者,使用他們的 Docker 鏡像:unsloth/unsloth。
加載模型: 在 Unsloth Studio 中,您可以從 Hugging Face 或本地文件加載 GGUF 或 Safetensors 模型。該界面適用於 MacOS、Windows、Linux 和 WSL 設置。
比較模型(可選): 使用 Model Arena 功能加載兩個不同的模型(例如,基礎版本和微調版本)以並排比較它們的輸出。
準備訓練數據: 使用 Data Recipes 通過圖形節點工作流程界面將您的文檔(PDF、CSV、JSON)轉換為可用的數據集。
微調模型: 配置訓練參數,例如學習率、LoRA 設置和其他超參數。通過實時損失、梯度範數和 GPU 利用率跟踪來監控訓練進度。
導出模型: 訓練後,將您的微調模型導出為 safetensors 或 GGUF 格式,以便與 llama.cpp、vLLM、Ollama 和其他平台一起使用。
運行推理: 使用經過訓練的模型進行推理,支持工具調用、Web 搜索和 OpenAI 兼容的 API。您可以上傳各種文件類型,包括圖像、音頻、PDF 和代碼以進行交互。
Unsloth 常見問題
Unsloth 是一個開源、無需程式碼的網頁 UI 平台,允許使用者在本地訓練、執行和匯出 AI 模型。它適用於 Windows、Linux、WSL 和 macOS。











