読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第1節 AIの偏りと公平さ

1.1 偏りが不公平になる

この章には、商店街の文具店で働く千尋(ちひろ)と、店のホームページの更新を手伝う大学生の拓海(たくみ)が出てきます。千尋は仕事で生成AIを使っていて、拓海は大学でAIの仕組みを学んでいます。

千尋の店では、会員に割引券を送る相手を、AIで選び始めました。過去の記録から、「割引券を送ると来店しそうな会員」を見分けるモデルです。3か月後、年配の会員から「最近、割引券が届かなくなった」という声がありました。

拓海が、割引券を送った会員の割合を、年代ごとに計算しました。

年代会員の数割引券を送った数送った割合
40代まで300人120人40%
50代〜60代200人50人25%
70代以上100人5人5%

学習に使った記録は、ホームページの会員登録と、ネットで届く割引券の利用が中心でした。年配の会員は、紙の割引券を店頭で使うことが多く、その利用が記録に残っていませんでした。モデルは「記録上は割引券を使わない人たち」として、年配の会員を選ばなくなっていました。

「AIの仕組み徹底学習 データと学習」で見た、データの偏りが答えの偏りになる仕組みです。答えが人に向けられると、偏りは、ある人たちだけが割引を受けられないという不公平になります。採用、お金の貸し付け、保険など、人の暮らしに大きく関わる判断では、影響はさらに大きくなります。

2 / 24