読み方のヒント
矢印ボタン(または ← → キー)でページを移動できます。
埋め込みには、文章を作るモデルとは別の、埋め込み専用のモデルを使います。この章では、日本語を含む多くの言語を扱える bge-m3 を使います。
ollama pull bge-m3
取得には約1.2GBの空き容量が必要です。Ollamaの /api/embed に文章を送ると、埋め込みが返ります。
curl http://localhost:11434/api/embed -d '{"model":"bge-m3","input":["水曜日は営業していますか"]}'
返ってくる embeddings は、文章1つにつき1,024個の数の並びです。先頭の4つは、このPCでは次の値でした。
[-0.0399, 0.011, -0.032, -0.0185, ……(全部で1024個)]
1つ1つの数に、人が読み取れる意味はありません。意味の近い文章ほど、並びが似た向きになるように作られています。llm.py には、この要求を送る embed を加えました。
def embed(self, texts: list[str]) -> list[list[float]]:
data = self._post("/api/embed", {"model": self.embed_model, "input": texts})
return data["embeddings"]
6 / 20