Muse-Glimmer-30B-GGUF unsloth
- 유형
- model
- 라이선스
- apache-2.0
- 태스크
- image-text-to-text
- 프레임워크
- transformers
- 다운로드
- 682,188
- 좋아요
- 438
- 파라미터 수
- 27,854,794,240
- 접근
- public
- 파일
- 22
태그
- 멀티모달
- 대형 언어 모델
- 에이전트
- GGUF
- 양자화
- 텍스트 생성
- 로컬 배포
요약
Muse-Glimmer-30B GGUF는 Meta의 30B 파라미터 멀티모달 에이전트 모델을 Unsloth의 GGUF 양자화로 압축한 로컬 배포용 모델입니다. 텍스트와 이미지를 함께 입력받아 다단계 추론, 도구 호출, 실패 복구가 가능한 자율 에이전트 작업을 엔드투엔드로 수행합니다. 약 17-20GB 수준으로 양자화되어 24GB/32GB VRAM 환경에서 추측 디코딩을 통해 실시간 대화 및 에이전트 상호작용을 지원하며, 소비자 하드웨어에서 클라우드 없이 실행할 수 있습니다.
README
--- license: apache-2.0 library_name: transformers pipeline_tag: image-text-to-text tags: - unsloth - meta base_model: - meta-models/Muse-Glimmer-30B --- ## Muse Glimmer 실행 방법 [가이드](https://unsloth.ai/docs/models/muse-glimmer)를 읽어보세요! <p style="margin-top: 0;margin-bottom: 0;"> <em><a href="https:/…