dolphin-2.9.1-yi-1.5-34b dphn

类型
model
任务
text-generation
框架
transformers
下载量
4,623,539
点赞
65
访问
public
文件
0

标签

  • 文本生成
  • 代码生成
  • 大语言模型
  • 指令微调
  • Agent
  • transformers
  • 函数调用
  • 内容审核

摘要

该模型是对01-ai/Yi-1.5-34B进行全参数微调（FFT）得到的Dolphin 2.9.1版本，在34B规模上取得77.4的MMLU分数，具备指令跟随、对话、代码生成等能力，并支持函数调用与初步的智能体（Agent）能力。它使用ChatML提示模板、8k序列长度训练，基于Apache 2.0许可开放商用。值得注意的是该模型被描述为"无审查"（过滤了对齐与偏见数据），建议开发者自行添加对齐与安全层后再对外提供服务。

README

--- license: apache-2.0 base_model: 01-ai/Yi-1.5-34B tags: - generated_from_trainer - axolotl datasets: - cognitivecomputations/Dolphin-2.9 - teknium/OpenHermes-2.5 - m-a-p/CodeFeedback-Filtered-Instruction - cognitivecomputations/dolphin-coder - cognitivecomputations/samantha-data - microsoft/orca…

查看完整页面 · 查看原文