Qwen3.6-35B-A3B-FP8 Qwen

类型
model
任务
image-text-to-text
框架
transformers
下载量
11,448,981
点赞
353
访问
public
文件
0

标签

  • 多模态
  • 大语言模型
  • 量化
  • 混合专家
  • 代码生成
  • Agent
  • 本地部署
  • 推理部署

摘要

这是 Qwen3.6-35B-A3B 多模态模型的 FP8 量化版本，总参数 35B、激活 3B，采用混合专家（MoE）架构，带视觉编码器，支持图像与文本输入并生成文本。它针对智能体编程（Agentic Coding）和推理上下文保留做了重点优化，支持高达 26 万以上原生上下文长度。FP8 量化权重兼容 transformers、vLLM、SGLang 等推理框架，性能与原始模型几乎一致，适合低显存、高效率的本地部署与推理场景。

README

--- base_model: - Qwen/Qwen3.6-35B-A3B frameworks: - "" library_name: transformers license: apache-2.0 license_link: https://huggingface.co/Qwen/Qwen3.6-35B-A3B-FP8/blob/main/LICENSE pipeline_tag: image-text-to-text tasks: [] --- # Qwen3.6-35B-A3B-FP8 <img width="400px" src="https://qianwen-res.oss…

查看完整页面 · 查看原文