第6節のまとめ
- エージェント特有のリスク:権限の過剰付与、連鎖的なエラーの拡大、情報漏えい、想定外の挙動
- プロンプトインジェクションは、AIが読む入力に攻撃の指示を仕込む攻撃。外部の資料に仕込むのが間接的な方法
- 安全の原則:最小権限、サンドボックス、ホワイトリスト、Human-in-the-Loop、多層防御、ガードレール
- 評価(Eval)で性能と安全性を測り、使い始めた後も継続的にモニタリングする
参考情報(2026-10-21確認)
この章は、一般社団法人生成AI活用普及協会(GUGA)とは別に、試験の学習のために作った教材です。AIエージェントの分野は特に変化が速いため、ツールの名前や仕様、試験の範囲は、公式サイトで最新の内容を確かめてください。