読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第3節 権利・倫理・悪用のリスク

3.3 ディープフェイク・フィッシング・サイバー攻撃への悪用

生成AIは、悪意のある人にとっても便利な道具です。

悪用例
ディープフェイクによるなりすまし家族や上司の声・顔をまねて、送金や情報の提供を求める
フィッシング・詐欺実在の会社をまねた、自然な文面の偽のメールを大量に作る
サイバー攻撃不正なプログラム(マルウェア)の作成や、システムの弱点(脆弱性)の探索を手伝わせる

以前は不自然な日本語で見分けられた詐欺のメールも、生成AIで自然な文面にできるようになりました。人の心のすきをついて情報を聞き出す手口(ソーシャルエンジニアリング)にも使われます。

受け取る側の対策は次のとおりです。

  1. 急にお金や情報を求められたら、別の連絡手段で本人に確かめる
  2. メールのリンクを開かず、公式のサイトやアプリから確かめる
  3. ログインに、パスワードとほかの確認を組み合わせる多要素認証を使う
  4. 送金などの大事な手続きは、複数の人の確認・承認を必要にする
解答

正解は2・3・4です。1は、生成AIで自然な文面の詐欺メールを作れるようになっているため、判断の根拠になりません。

14 / 25