読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第3節 文章が生成される流れ

3.3 確率的な次トークン予測

ベクトルに変換された入力をもとに、モデルは、次に来るトークンの確率を計算します。

入力:「来年用の手帳が」
次のトークンの確率(例):
  入荷 0.42 / 発売 0.21 / 届き 0.15 / 人気 0.08 / ……
→ 「入荷」を選ぶ
入力:「来年用の手帳が入荷」
次のトークンの確率(例):
  しました 0.55 / しています 0.20 / ……

選んだトークンを入力の後ろに足し、また次のトークンを予測します。これを、文章が終わるまでくり返します。生成AIの答えは、あらかじめ用意された文章を探してくるのではなく、確率の高いトークンを1つずつつないで作られています。

この仕組みのため、同じ質問をしても、毎回少しずつ違う答えが返ることがあります。確率の高い候補の中から選び方に幅を持たせているからです。

解答

正解は4です。生成AIは、確率にもとづいてトークンを1つずつつないで文章を作ります。保存された答えを取り出しているわけではありません。

14 / 25