読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第4節 ハルシネーションと生成の設定

4.1 ハルシネーションが起こる理由

千尋は、生成AIに店のある商店街について聞いてみました。

頼んだ文
ひかり商店街の歴史を教えてください。

AIの答え
ひかり商店街は1952年に開業し、1980年代には全国商店街コンテストで最優秀賞を受賞しました。

この商店街も答えも、説明のために作った架空の例です。答えの年や賞は、どこにも根拠がありませんでした。このように、事実と異なる内容や存在しない情報を、もっともらしく作り出してしまう現象を、ハルシネーションといいます。

理由内容
確率で文章を作る「事実かどうか」ではなく「ありそうな続きか」でトークンを選ぶ
学習データにない知らないことでも、それらしい答えを作ってしまう
学習データの誤り・古さデータの誤りや、学習した時点より後の変化が反映されない

ハルシネーションを完全になくす方法は、現時点ではありません。信頼できる資料を検索して答えさせる方法(RAG)で減らすことはできますが、答えの事実確認は、使う人が行う必要があります。

17 / 25