読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第1節 RAGの流れと資料の用意

1.1 LLMだけでは店のことに答えられない

qwen2.5:3b に、資料を渡さずに「こもれびベーカリーは水曜日に営業していますか」と聞くと、モデルはこの店のことを知りません。学習した文章に、こもれびベーカリーの情報が含まれていないためです。それでも、もっともらしい答えを作ることがあります。

RAG(Retrieval-Augmented Generation、検索で補った文章の生成)は、質問に関係する資料を先に探し、その資料をプロンプトに入れてから答えさせる方法です。

準備(資料を変えたときに1回)
  資料 → 見出しごとに区切る → 区切りごとに埋め込みを作る → DBに保存する

質問のたび
  質問 → 質問の埋め込みを作る → 近い区切りを探す → 区切りと質問をLLMに渡す → 答え
段階この章の節練習ファイル
区切る1節chunking.py
埋め込みを作って保存する2節index_docs.py
近い区切りを探す3節retrieval.py
渡して答えさせる・窓口にする4節・5節ask.py

モデルに追加の学習をさせる方法もありますが、資料を直すたびに学習し直す必要があります。RAGなら、資料を直して準備をやり直すだけで、答えに反映されます。

2 / 20