読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第4節 AIが社会に与える影響

4.1 高度なAIシステムとリスクに応じた管理

非常に高い性能を持ち、多くの用途に使える最先端のAIを、高度なAIシステムと呼びます。性能が高いほど、役に立つ一方で、悪用されたときや誤作動したときの影響も大きくなります。

影響が大きくなりうる例内容
重要インフラ電気・水道・交通などのシステムで誤作動が起きる
サイバー攻撃攻撃の手口が高度になり、規模が大きくなる
危険な知識兵器などの危険な情報を得る手助けになる

そのため、AIのリスクは一律に扱わず、影響の大きさに応じて管理の厳しさを変える考え方が広がっています。影響の大きいAIほど、開発の段階から安全性を評価し、使い始めた後も監視を続けます。

17 / 30