Muse-Glimmer-30B-GGUF unsloth

类型
model
许可
apache-2.0
任务
image-text-to-text
框架
transformers
下载量
682,188
点赞
438
参数量
27,854,794,240
访问
public
文件
22

标签

  • 多模态
  • Agent
  • 量化
  • 本地部署
  • GGUF
  • 大语言模型
  • 视觉模型
  • 推理部署

摘要

Muse Glimmer-30B是Meta实验室推出的30B参数多模态因果语言模型GGUF量化版本，配备专用感知编码器，支持文本与图像交错输入，专为消费级硬件上的自主Agent任务设计。模型整合多步推理、可靠工具调用、多模态理解与失败恢复能力，可完全本地运行无需云基础设施。通过Unsloth Dynamic 2.0量化技术将模型压缩至约20GB内，支持在24-32GB显存的设备上运行，并配合DFlash投机解码实现显著加速，适合本地部署的Agent工作流与工具调用场景。

README

--- license: apache-2.0 library_name: transformers pipeline_tag: image-text-to-text tags: - unsloth - meta base_model: - meta-models/Muse-Glimmer-30B --- ## 阅读我们的 [Muse Glimmer 运行指南！](https://unsloth.ai/docs/models/muse-glimmer) <p style="margin-top: 0;margin-bottom: 0;"> <em><a href="https://unslo…

查看完整页面 · 查看原文