AIの仕組み徹底学習 · 6冊目AI
AIの仕組み徹底学習 大規模言語モデル
次のトークンを予測して文を作る手順、事前学習、指示に従う調整と人の評価、もっともらしい誤り（ハルシネーション）が起きる理由、答えが毎回違う理由と温度、得意・苦手を仕組みから説明する方法を学びます。
中級55分25ページ
本文の冒頭
大規模言語モデルは、続きのトークンを一つずつ予測して文章を作ります。この章では、予測をくり返して文章ができる手順と、生成AIとの会話も一続きの文章の続きとして作られていること、そしてそこから分かる会話の長さの限界を扱います。