読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第3節 プロンプトインジェクション

第3節のまとめ

  • プロンプトインジェクションは、LLMが読む文に指示を紛れ込ませて答えを変える攻撃。system の決まりだけでは防げなかった
  • 資料を作り直す段階で、指示のように読める区切りを見つけて止め、人が確かめる
  • 資料を書き換えられる人を決め、店の外の人が書いた文を資料にするときは特に注意する
  • LLMに権限を持たせない。操作を伴う機能では、認証と権限の確かめをLLMの外で行う

13 / 23