読み方のヒント
矢印ボタン(または ← → キー)でページを移動できます。
AIエージェントを安全に使うための主な原則は、次のとおりです。
| 原則 | 内容 |
|---|---|
| 最小権限の原則 | 作業に必要な最小限の権限とアクセス範囲だけを与える |
| サンドボックス | 本番の環境から切り離した、安全な場所で動かす |
| ホワイトリスト(許可リスト) | 使ってよいツールや接続先を、あらかじめ決めたものだけに限る |
| Human-in-the-Loop | 取り消しにくい操作の前に、人が確認・承認する |
| 多層防御 | 一つの対策に頼らず、いくつもの対策を重ねる |
| ガードレール | 禁止された操作や出力を、自動で止める |
エージェントの性能と安全性は、評価(Eval)で確かめます。決まった課題のセットをエージェントに解かせ、正しく作業できたか、禁止された操作をしなかったかを測ります。使い始めた後も、作業の記録を見て、継続的にモニタリング(監視)します。
正解は3です。どの対策も完全ではないため、複数の対策を重ねる多層防御が基本です。
29 / 30