読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第3節 呼び合うループ

3.1 ループを書く

MAX_STEPS = 5


def run_agent(llm: OllamaClient, ctx: ToolContext, question: str) -> AgentResult:
    messages = [
        {"role": "system", "content": SYSTEM.format(today=ctx.today.isoformat())},
        {"role": "user", "content": question},
    ]
    specs = [tool.spec() for tool in TOOLS.values()]
    result = AgentResult(answer=None)
    for _ in range(MAX_STEPS):
        message = llm.chat_with_tools(messages, specs)
        messages.append(message)
        calls = message.get("tool_calls") or []
        if not calls:
            result.answer = message.get("content", "").strip()
            return result
        for call in calls:
            name, arguments = call["function"]["name"], call["function"]["arguments"]
            output, ok = call_tool(name, arguments, ctx)
            result.steps.append(Step(name, arguments, ok))
            messages.append({"role": "tool", "tool_name": name, "content": json.dumps(output, ensure_ascii=False)})
    return result

ループが終わるのは、次の2つのときです。

終わり方answer窓口の応答
tool_calls のない文章が返った文章answered
LLMを MAX_STEPS 回呼んでも文章が返らないNonegave_up

1つの返事に tool_calls が複数入ることがあります。そのときは、すべて実行してから、まとめてLLMに返します。

10 / 22