読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

セクション

第3節 プロンプトインジェクション

LLMは、プロンプトに入った文を、指示と区別せずに読んでしまうことがあります。この節では、資料や質問に入った指示でLLMの答えが変わる攻撃を、実際に試して確かめ、資料の作り直しの段階で止める方法と、被害を小さくする設計を学びます。