Muse-Glimmer-30B-GGUF unsloth

種別
model
ライセンス
apache-2.0
タスク
image-text-to-text
フレームワーク
transformers
ダウンロード
682,188
いいね
438
パラメータ
27,854,794,240
アクセス
public
ファイル
22

タグ

  • 多模态
  • テキスト生成
  • 大規模言語モデル
  • Agent
  • 量子化
  • GGUF
  • ローカルデプロイ
  • 推論デプロイ

概要

Muse Glimmer-30BはMeta研が開発した30Bパラメータの因果言語モデルで、専用の視覚エンコーダを備えテキストと画像のマルチモーダル入力を処理します。自律型エージェントタスク向けに特化され、多段階推論・信頼性の高いツール使用・障害回復を単一モデルに統合し、クラウド不要で完全にローカル動作します。本GGUF版はUnslothの量子化技術で約4bit精度に圧縮し、24GB〜32GB VRAMのコンシューマー環境でも実用的速度で実行可能。推論高速化用のDFlashドラフトモデルによる投機的デコーディングにも対応し、ローカルでのリアルタイムエージェント対話に適しています。

README

--- license: apache-2.0 library_name: transformers pipeline_tag: image-text-to-text tags: - unsloth - meta base_model: - meta-models/Muse-Glimmer-30B --- ## [Muse Glimmer 実行ガイド](https://unsloth.ai/docs/models/muse-glimmer)をお読みください。 <p style="margin-top: 0;margin-bottom: 0;"> <em><a href="https://un…

查看完整页面 · 查看原文