unsloth unslothai

Local UI to run and train LLMs and diffusion models, including Qwen3.8, Kimi K3, MiniMax-H3, Gemma 4, DeepSeek-V4, FLUX and more.

主要语言
Python
Stars
71,084
Forks
6,407

标签

  • 桌面应用
  • 推理优化
  • 本地部署
  • 深度学习
  • RAG
  • 多模态
  • 库/SDK

摘要

Unsloth 提供桌面应用、Web 界面与核心库三种形态，让用户在本地运行、微调（支持 LoRA、QLoRA、RL、GRPO、DPO 等）和部署 LLM 与扩散模型，训练速度提升约 2 倍、显存占用降低 70%。支持 GGUF/FP8 等格式导出、OpenAI 兼容 API、RAG 与本地搜索，并可与 Claude Code、Codex 等 Agent 及 MCP 集成。适用于个人开发者与团队在本地或私有环境完成模型的训练、推理与部署。

README

<h1 align="center" style="margin:0;"> <a href="https://unsloth.ai/docs"><picture> <source media="(prefers-color-scheme: dark)" srcset="https://raw.githubusercontent.com/unslothai/unsloth/main/images/unsloth%20logo%20white%20text.png"> <source media="(prefers-color-scheme: light)" srcset="https://ra…

查看完整页面