読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第3節 文章が生成される流れ

第3節のまとめ

  • 入力された文章は、トークン(語やサブワード)に区切られる。区切り方はモデルによって異なる
  • 埋め込みで、トークンを意味を反映したベクトルに変換する。意味が近いほどベクトルも近い
  • モデルは次のトークンの確率を計算し、1つずつつないで文章を作る
  • 選び方に幅があるため、同じ質問でも答えが変わることがある

15 / 25