読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第3節 プロンプトインジェクションと道具の権限

第3節のまとめ

  • お客さんの文は、区切りの記号で囲み、資料として扱うようシステムプロンプトに書く
  • お客さんの文の中の区切りの記号は、取り除いてから囲む
  • 指示の文の守りは確実ではないため、道具の権限を絞る守りと重ねる
  • 価格の変更やメールの送信の道具は、お客さんの文を扱う仕組みでは持たせない

12 / 20