Mistral-7B-v0.1 mistralai

类型
model
任务
text-generation
框架
transformers
下载量
541,540
点赞
4,144
访问
public
文件
0

标签

  • 文本生成
  • 大语言模型
  • 预训练
  • transformers
  • 生成式AI
  • 本地部署
  • 微调
  • NLP

摘要

Mistral-7B-v0.1 是 Mistral AI 推出的70亿参数预训练基座大语言模型,采用分组查询注意力、滑动窗口注意力等技术,在多项基准测试中超越 Llama 2 13B。它面向通用文本生成任务,可作为下游微调与本地部署的基础模型。需要注意的是这是预训练基座模型,不含任何内容审核机制,实际使用时需自行叠加安全层。

README

--- library_name: transformers language: - en license: apache-2.0 tags: - pretrained - mistral-common inference: false extra_gated_description: >- 如果您想进一步了解我们如何处理您的个人数据,请阅读我们的<a href="https://mistral.ai/terms/">隐私政策</a>。 --- # Mistral-7B-v0.1 模型卡 Mistral-7B-v0.1 大型语言模型(LLM)是一个具有 70 亿参数的预训练生成式文本模型。 …

查看完整页面 · 查看原文