hh-rlhf Anthropic
Dataset Card for HH-RLHF Dataset Summary This repository provides access to two different kinds of data: Human preference data about helpfulness and harmlessness from Training a Helpful and Harmless Assistant with Reinforcement Learning from Human Feedback. These data are meant to train preference (or reward) models for subsequent RLHF training. These data are not meant for supervised training of dialogue agents. Training dialogue agents on these data is likely… See the full description on the dataset page: https://huggingface.co/datasets/Anthropic/hh-rlhf.
- 種別
- dataset
- ライセンス
- mit
- ダウンロード
- 33,738
- いいね
- 1,976
- アクセス
- public
- ファイル
- 11
タグ
- 対話データ
- 大規模言語モデル
- データセット
- 強化学習
- RLHF
- テキストデータ
概要
Anthropicが公開したRLHF学習用のデータセットで、有用性・無害性に関する人間の選好データ（chosen/rejectedペア）と、レッドチーミング攻撃の対話記録を収録しています。報酬モデルや選好モデルの学習が主目的で、対話エージェントの直接訓練には不向きとされています。安全性研究やLLMの害低減を目的とした研究用途に適したデータセットです。
README
--- license: mit tags: - human-feedback --- # HH-RLHF データセットカード ## データセット概要 このリポジトリでは、2種類の異なるデータへのアクセスを提供します： 1. [Training a Helpful and Harmless Assistant with Reinforcement Learning from Human Feedback](https://arxiv.org/abs/2204.05862) からの、有用性と無害性に関する人間の嗜好データ。これらのデータは、その後のRLHFトレーニングのための嗜好（または報酬）…