読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第4節 もっともらしい誤りが起きる理由

4.1 確からしさと正しさは別

千尋は、生成AIに「ふみの木文具は何年に創業しましたか」とたずねました。

AIの答え(例):
ふみの木文具は、1985年に創業した、地域に親しまれている文具店です。

実際の創業は1972年です。モデルの中で起きていたことを、確率で考えます。

ここまでの文章:……ふみの木文具は、

次のトークンの確率(説明のための例):
  1985  … 8%
  1990  … 7%
  1978  … 7%
  (ほかの年や言葉) … 合わせて78%

モデルは、この店の創業年を学習していません。そのため、どの年の確率も低く、ばらばらです。それでも、手順のとおり一つを選び、続きを自然に書きます。「地域に親しまれている」という言葉も、文具店を紹介する文章によく出てくるため、続きとして選ばれやすい言葉です。

モデルが計算しているのは、文章の続きとしての確からしさです。事実として正しいかどうかを確かめる手順は、この計算の中にありません。確からしさが低い答えでも、文の調子は自信があるように見えます。

14 / 25