読み方のヒント
矢印ボタン(または ← → キー)でページを移動できます。
この章には、商店街の文具店で働く千尋(ちひろ)と、店のホームページの更新を手伝う大学生の拓海(たくみ)が出てきます。千尋は仕事で生成AIを使っていて、拓海は大学でAIの仕組みを学んでいます。
千尋の店では、会員に割引券を送る相手を、AIで選び始めました。過去の記録から、「割引券を送ると来店しそうな会員」を見分けるモデルです。3か月後、年配の会員から「最近、割引券が届かなくなった」という声がありました。
拓海が、割引券を送った会員の割合を、年代ごとに計算しました。
| 年代 | 会員の数 | 割引券を送った数 | 送った割合 |
|---|---|---|---|
| 40代まで | 300人 | 120人 | 40% |
| 50代〜60代 | 200人 | 50人 | 25% |
| 70代以上 | 100人 | 5人 | 5% |
学習に使った記録は、ホームページの会員登録と、ネットで届く割引券の利用が中心でした。年配の会員は、紙の割引券を店頭で使うことが多く、その利用が記録に残っていませんでした。モデルは「記録上は割引券を使わない人たち」として、年配の会員を選ばなくなっていました。
「AIの仕組み徹底学習 データと学習」で見た、データの偏りが答えの偏りになる仕組みです。答えが人に向けられると、偏りは、ある人たちだけが割引を受けられないという不公平になります。採用、お金の貸し付け、保険など、人の暮らしに大きく関わる判断では、影響はさらに大きくなります。
2 / 24