読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第6節 リスク・安全性・評価

第6節のまとめ

  • エージェント特有のリスク:権限の過剰付与、連鎖的なエラーの拡大、情報漏えい、想定外の挙動
  • プロンプトインジェクションは、AIが読む入力に攻撃の指示を仕込む攻撃。外部の資料に仕込むのが間接的な方法
  • 安全の原則:最小権限、サンドボックス、ホワイトリスト、Human-in-the-Loop、多層防御、ガードレール
  • 評価(Eval)で性能と安全性を測り、使い始めた後も継続的にモニタリングする

参考情報(2026-10-21確認)

この章は、一般社団法人生成AI活用普及協会(GUGA)とは別に、試験の学習のために作った教材です。AIエージェントの分野は特に変化が速いため、ツールの名前や仕様、試験の範囲は、公式サイトで最新の内容を確かめてください。

30 / 30