読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第1節 ツール呼び出しの流れ

1.1 LLMは道具を呼ぶ返事をする

/ask は、店の資料を探して答える窓口でした。「クロワッサンは今日まだありますか」には答えられません。今日の残りの数は資料ではなく、DBの表にあるからです。

LLMに、DBを調べる関数の名前と説明と引数の形を渡すと、LLMは文章の代わりに「この関数をこの引数で呼んでほしい」という返事をします。Ollamaへの要求は次の形です。

{
  "model": "qwen2.5:3b",
  "messages": [
    {"role": "system", "content": "あなたはパン屋「こもれびベーカリー」の案内係です。……"},
    {"role": "user", "content": "クロワッサンは今日まだ残っていますか"}
  ],
  "tools": [
    {"type": "function", "function": {
      "name": "find_products",
      "description": "商品名の一部で商品を探す。ID・名前・税込価格・予約できるか・今日の残りの数を返す",
      "parameters": {"type": "object", "properties": {"keyword": {"type": "string"}}, "required": ["keyword"]}
    }}
  ],
  "stream": false
}

このPCの qwen2.5:3b は、次の message を返しました。

{"role": "assistant", "content": "", "tool_calls": [{"function": {"name": "find_products", "arguments": {"keyword": "クロワッサン"}}}]}

content は空で、tool_calls に関数の名前と引数が入っています。LLMは関数を実行していません。実行するのはアプリです。

2 / 22