読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第2節 出力と情報管理のリスク

2.2 ハルシネーションへの備え

千尋は、生成AIにお客さん向けの案内を作ってもらいました。

AIの答え(一部)
当店のポイントカードは、税込100円ごとに1ポイント貯まり、ポイントの有効期限は3年間です。

千尋の店の実際のポイントは「税込200円ごとに1ポイント、有効期限は1年」でした。AIは、よくある条件をもとに、それらしい数字を作っていました。

ハルシネーションは、数字・日付・固有名詞・出典に特に起こりやすい誤りです。備え方は次のとおりです。

  1. 数字や条件は、AIに任せずに、正しい情報をプロンプトに書いて渡す
  2. 出力の数字・日付・名前を、もとの資料と1つずつ照らし合わせる
  3. 出典が示されたら、実際に開いて、その内容が書かれているか確かめる

8 / 25