読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第1節 ChatGPTが生まれるまで

第1節のまとめ

  • GPTはGenerative Pre-trained Transformerの略で、OpenAIの大規模言語モデルのシリーズ
  • GPT-1(2018年)、GPT-2(2019年)、GPT-3(2020年)と、規模を大きくしてきた
  • GPT-3は、少数の例を示すFew-Shotで多くの作業をこなせることを示した
  • RLHFで調整したGPT-3.5系のモデルを使い、2022年11月にChatGPTが公開された

5 / 25