読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第2節 共通の窓口を作る

2.1 答えの形と、呼び出しの決まり

練習のフォルダの midori/llm.py では、答えの形を次のように決めています。

@dataclass
class Reply:
    text: str
    input_tokens: int
    output_tokens: int
    model: str
    provider: str
    complete: bool = True  # False なら、出力の上限などで途中で止まった


class LLM(Protocol):
    def complete(self, system: str, user: str, max_tokens: int = 800) -> Reply: ...

LLM は、「complete という関数を持ち、Reply を返すもの」という決まりです。アプリの他の部分は、この決まりだけを使います。

6 / 20