unsloth unslothai

Local UI to run and train LLMs and diffusion models, including Qwen3.8, Kimi K3, MiniMax-H3, Gemma 4, DeepSeek-V4, FLUX and more.

주요 언어
Python
Stars
71,084
Forks
6,407

태그

  • 데스크톱 앱
  • LLM 파인튜닝
  • RAG
  • 로컬 배포
  • GGUF
  • 확산 모델

요약

Unsloth는 로컬 환경에서 LLM과 확산(diffusion) 모델을 실행·미세조정·배포할 수 있는 데스크톱 앱입니다. LoRA·QLoRA·RL(GRPO/DPO) 파인튜닝을 최대 2배 빠르고 VRAM 70% 절감으로 수행하며, RAG·웹 검색, Claude Code·Codex·MCP 등 AI 에이전트 연동, GGUF·FP8 등 다양한 형식 내보내기를 지원합니다. 개인 PC에서 모델을 안전하게 운영·학습하려는 개발자와 연구자에게 적합합니다.

README

<h1 align="center" style="margin:0;"> <a href="https://unsloth.ai/docs"><picture> <source media="(prefers-color-scheme: dark)" srcset="https://raw.githubusercontent.com/unslothai/unsloth/main/images/unsloth%20logo%20white%20text.png"> <source media="(prefers-color-scheme: light)" srcset="https://ra…

查看完整页面