gpt2 openai-community

種別
model
タスク
text-generation
フレームワーク
transformers
ダウンロード
13,777,950
いいね
3,403
アクセス
public
ファイル
0

タグ

  • テキスト生成
  • 大規模言語モデル
  • 事前学習
  • transformers
  • NLP
  • 生成AI

概要

英語の大規模コーパスで自己教師あり学習された因果言語モデルで、プロンプトからテキストを生成する能力を持つ最小版（124Mパラメータ）です。WebText（約40GB、未公開）で事前学習され、次単語予測によって英語の内在表現を獲得しています。テキスト生成や下流タスクへの微調整のベースとして利用でき、PyTorch・TensorFlowの両方に対応しています。

README

--- language: en tags: - exbert license: mit --- # GPT-2 ここで全体の生成能力をテストできます: https://transformer.huggingface.co/doc/gpt2-large 英語の言語を対象に、因果言語モデリング(CLM)目的で事前学習されたモデルです。[この論文](https://d4mucfpksywv.cloudfront.net/better-language-models/language_models_are_unsupervised_multitask_learners.pdf)で紹介され、[このペ…

查看完整页面 · 查看原文