Qwen3.8-27B-GGUF unsloth

类型
model
许可
apache-2.0
下载量
867,963
点赞
1,242
参数量
27,320,697,856
访问
public
文件
28

标签

  • 大语言模型
  • 多模态
  • GGUF
  • 量化
  • 本地部署
  • 文本生成
  • 视觉语言模型
  • Agent

摘要

这是Qwen3.8-27B模型的GGUF量化版本,由Unsloth采用Dynamic V3.0预览方案优化量化性能,便于在本地低资源环境运行。模型原生支持图像和视频理解,具备灵活思考控制与成熟的工具调用能力,可完成代码、专业任务及长序列Agent任务。支持26万token原生上下文并可通过RoPE扩展到百万token,适合本地部署、Agent开发及多模态推理场景。

README

--- base_model: - Qwen/Qwen3.8-27B license: apache-2.0 tags: - unsloth --- # 阅读我们的 [Qwen3.8-27B 运行指南!](https://unsloth.ai/docs/models/qwen3.8) <div> <p style="margin: 0 0 0px 0; margin-top: 0px;"> <em>此 GGUF 使用 Unsloth Dynamic V3.0(预览版),以实现 SOTA 量化性能。</em> </p> <div style="display: flex; gap: 5px; …

查看完整页面 · 查看原文