読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第1節 外部の資料を参照して答える仕組み(RAG)

1.2 資料を区切り、意味の近さで探す

店の資料は、全部をまとめると長くなります。毎回すべてを渡すと、一度に読めるトークンの上限を超えたり、関係のない部分に引っぱられたりします。そこで、資料を段落ほどの大きさに区切り、質問に近い部分だけを渡します。

探すときには、「AIの仕組み徹底学習 言葉を扱うAI」で見た埋め込みを使います。区切った資料の一つ一つを、あらかじめ数の並びに直して保存しておきます。質問が来たら、質問も数の並びに直し、近い資料を探します。

区切った資料「先週買ったノートを返品できますか」との近さ(説明のための例)
A:返品は購入から7日以内、未開封の商品に限ります0.82
B:セール品は返品できません0.64
C:営業時間は10時から19時です0.12
D:ノートの名入れは3日ほどかかります0.41

近さの大きい順に、決めた件数(ここでは2件)を選んで渡します。この例では、AとBが選ばれます。DはAやBより遠いものの、「ノート」という言葉を含むため、Cよりは近くなっています。

解答
  1. CとD
  2. 役立たない。Dは名入れの日数の資料で、営業時間とは関係がない。件数を決めて選ぶと、関係の薄い資料も一緒に渡ることがあるため、モデルへの頼む文で「質問に関係する資料だけを使う」ように指示しておく。

3 / 20