読み方のヒント
矢印ボタン(または ← → キー)でページを移動できます。
qwen2.5:3b に、資料を渡さずに「こもれびベーカリーは水曜日に営業していますか」と聞くと、モデルはこの店のことを知りません。学習した文章に、こもれびベーカリーの情報が含まれていないためです。それでも、もっともらしい答えを作ることがあります。
RAG(Retrieval-Augmented Generation、検索で補った文章の生成)は、質問に関係する資料を先に探し、その資料をプロンプトに入れてから答えさせる方法です。
準備(資料を変えたときに1回)
資料 → 見出しごとに区切る → 区切りごとに埋め込みを作る → DBに保存する
質問のたび
質問 → 質問の埋め込みを作る → 近い区切りを探す → 区切りと質問をLLMに渡す → 答え
| 段階 | この章の節 | 練習ファイル |
|---|---|---|
| 区切る | 1節 | chunking.py |
| 埋め込みを作って保存する | 2節 | index_docs.py |
| 近い区切りを探す | 3節 | retrieval.py |
| 渡して答えさせる・窓口にする | 4節・5節 | ask.py |
モデルに追加の学習をさせる方法もありますが、資料を直すたびに学習し直す必要があります。RAGなら、資料を直して準備をやり直すだけで、答えに反映されます。
2 / 20