ultrachat_200k HuggingFaceH4
Dataset Card for UltraChat 200k Dataset Description This is a heavily filtered version of the UltraChat dataset and was used to train Zephyr-7B-β, a state of the art 7b chat model. The original datasets consists of 1.4M dialogues generated by ChatGPT and spanning a wide range of topics. To create UltraChat 200k, we applied the following logic: Selection of a subset of data for faster supervised fine tuning. Truecasing of the dataset, as we observed around 5% of… See the full description on the dataset page: https://huggingface.co/datasets/HuggingFaceH4/ultrachat_200k.
- 種別
- dataset
- ライセンス
- mit
- 言語
- en
- ダウンロード
- 79,784
- いいね
- 874
- アクセス
- public
- ファイル
- 10
タグ
- 対話データ
- 単語言語モデル
- テキスト生成
- 命令微調整
- データセット
概要
UltraChatの中から厳選した約20万件の対話データで、Zephyr-7B-βの訓練に使用されたデータセットです。SFT用と生成ランキング用の4スプリットに分かれ、ChatGPTが生成した多様な対話を収録しています。チャットモデルの教師ありファインチューニングに最適です。
README
--- language: - en license: mit size_categories: - 100K<n<1M task_categories: - text-generation pretty_name: UltraChat 200k configs: - config_name: default data_files: - split: train_sft path: data/train_sft-* - split: test_sft path: data/test_sft-* - split: train_gen path: data/train_gen-* - split…