読み方のヒント
矢印ボタン(または ← → キー)でページを移動できます。
/ask に届く質問を、答えを間違えたときに起きることで分けます。
| 質問の例 | 間違えたときに起きること | 扱い |
|---|---|---|
| 何時まで開いていますか | 閉店後に来てしまう | 資料をもとにAIが答える |
| 季節のタルトを予約したい | 予約できると思ってしまう | 資料をもとにAIが答える |
| 卵が入っていないパンはありますか | アレルギーのある人が食べて、体に害が出る | AIに答えさせず、店員につなぐ |
docs/allergy.md には、「同じ工房で小麦・卵・乳・ナッツ類を使った商品を作っています」と書かれています。資料があっても、この話題をAIに要約させると、「卵は入っていません」のように、資料にない言い切りを作るおそれがあります。「FastAPIとLLM LLMのAPIを呼ぶ」で、紹介文の下書きに「新鮮な卵」と書かれた例を見ました。
害の大きい話題は、AIの答えの質を上げることより、AIに答えさせない設計を選びます。
2 / 23