Aa
読み方のヒント
矢印ボタン(または ← → キー)でページを移動できます。
閉じる
第3節 プロンプトインジェクション
第3節のまとめ
プロンプトインジェクションは、LLMが読む文に指示を紛れ込ませて答えを変える攻撃。
system
の決まりだけでは防げなかった
資料を作り直す段階で、指示のように読める区切りを見つけて止め、人が確かめる
資料を書き換えられる人を決め、店の外の人が書いた文を資料にするときは特に注意する
LLMに権限を持たせない。操作を伴う機能では、認証と権限の確かめをLLMの外で行う
13 / 23
13 / 23