読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第1節 次の言葉を予測して文を作る

第1節のまとめ

  • 大規模言語モデルは、次のトークンの確率を計算し、一つ選んで足すことをくり返して文章を作る
  • 会話は、サービスからの指示も含めた一続きの文章で、モデルは毎回それを最初から読み直して続きを作る
  • 一度に読めるトークンの数には上限があり、長い会話では最初の条件が反映されにくくなることがある

4 / 25