読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第6節 リスク・安全性・評価

6.3 安全に使うための原則と評価

AIエージェントを安全に使うための主な原則は、次のとおりです。

原則内容
最小権限の原則作業に必要な最小限の権限とアクセス範囲だけを与える
サンドボックス本番の環境から切り離した、安全な場所で動かす
ホワイトリスト(許可リスト)使ってよいツールや接続先を、あらかじめ決めたものだけに限る
Human-in-the-Loop取り消しにくい操作の前に、人が確認・承認する
多層防御一つの対策に頼らず、いくつもの対策を重ねる
ガードレール禁止された操作や出力を、自動で止める

エージェントの性能と安全性は、評価(Eval)で確かめます。決まった課題のセットをエージェントに解かせ、正しく作業できたか、禁止された操作をしなかったかを測ります。使い始めた後も、作業の記録を見て、継続的にモニタリング(監視)します。

解答

正解は3です。どの対策も完全ではないため、複数の対策を重ねる多層防御が基本です。

29 / 30