opt-125m facebook

種別
model
タスク
text-generation
フレームワーク
transformers
ダウンロード
17,322,276
いいね
292
アクセス
public
ファイル
0

タグ

  • テキスト生成
  • 大言語モデル
  • NLP
  • transformers
  • 事前学習
  • 軽量モデル

概要

Meta AIが公開したデコーダー型事前学習トランスフォーマーモデル「OPT」の最小版(125Mパラメータ)です。因果的言語モデリング目的で事前学習され、テキスト生成やゼロショット・フューショット学習、下流タスクの評価・ファインチューニングに利用できます。研究用途での再現性を重視して設計されたモデルです。

README

--- language: en inference: false tags: - text-generation - opt license: other commercial: false --- # OPT : Open Pre-trained Transformer Language Models OPTは、[Open Pre-trained Transformer Language Models](https://arxiv.org/abs/2205.01068)で初めて紹介され、Meta AIによって2022年5月3日に[metaseq's repository](https:/…

查看完整页面 · 查看原文