読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第6節 データの偏りが答えの偏りになる

6.2 偏りを見つけて減らす

全体の当たった割合だけを見ると、偏りは見えにくくなります。拓海は、テストデータを届き方ごとに分けて、当たった割合を計算しました。

届き方テストデータの件数当たった件数当たった割合
ホームページ504692%
手書きの用紙10550%
全体605185%

全体では85%ですが、手書きの声では半分しか当たっていません。グループごとに分けて確かめると、偏りが見つかります。

偏りを減らすには、次のような方法があります。

  1. 実際に使う場面と、学習データの中身を比べる(届き方、年代、時期など)
  2. 少ない種類の例を集めて足す(手書きの声を入力して学習データに加える)
  3. グループごとの当たった割合を、決めた基準以上になるまで確かめる
  4. 当たりにくいグループの例は、人が判断する

データの偏りには、過去の人の判断の偏りが入りこむこともあります。過去の採用の記録で学んだモデルが、過去に採用の少なかった人たちを低く評価する、という例が報告されています。こうした社会への影響は「AIの仕組み徹底学習 AIと社会」で扱います。

大規模言語モデルも、インターネットなどの文章で学習しています。文章の量が多い言語や、多く書かれている考え方の影響を強く受けるため、答えにもその偏りが出ることがあります。

解答
  1. ホームページは45÷50=90%、手書きの用紙は16÷20=80%、全体は61÷70で約87%
  2. ホームページの声は92%から90%へ少し下がったが、手書きの声は50%から80%へ大きく上がった。全体の割合は大きく変わらないが、届き方による差が42ポイントから10ポイントに縮まり、偏りが小さくなった。

23 / 24