読み方のヒント
矢印ボタン(または ← → キー)でページを移動できます。
千尋は、生成AIに店のある商店街について聞いてみました。
頼んだ文
ひかり商店街の歴史を教えてください。
AIの答え
ひかり商店街は1952年に開業し、1980年代には全国商店街コンテストで最優秀賞を受賞しました。
この商店街も答えも、説明のために作った架空の例です。答えの年や賞は、どこにも根拠がありませんでした。このように、事実と異なる内容や存在しない情報を、もっともらしく作り出してしまう現象を、ハルシネーションといいます。
| 理由 | 内容 |
|---|---|
| 確率で文章を作る | 「事実かどうか」ではなく「ありそうな続きか」でトークンを選ぶ |
| 学習データにない | 知らないことでも、それらしい答えを作ってしまう |
| 学習データの誤り・古さ | データの誤りや、学習した時点より後の変化が反映されない |
ハルシネーションを完全になくす方法は、現時点ではありません。信頼できる資料を検索して答えさせる方法(RAG)で減らすことはできますが、答えの事実確認は、使う人が行う必要があります。
17 / 25