読み方のヒント

矢印ボタン(または ← → キー)でページを移動できます。

第1節 AIに答えさせない質問

1.1 間違えたときの害で分ける

/ask に届く質問を、答えを間違えたときに起きることで分けます。

質問の例間違えたときに起きること扱い
何時まで開いていますか閉店後に来てしまう資料をもとにAIが答える
季節のタルトを予約したい予約できると思ってしまう資料をもとにAIが答える
卵が入っていないパンはありますかアレルギーのある人が食べて、体に害が出るAIに答えさせず、店員につなぐ

docs/allergy.md には、「同じ工房で小麦・卵・乳・ナッツ類を使った商品を作っています」と書かれています。資料があっても、この話題をAIに要約させると、「卵は入っていません」のように、資料にない言い切りを作るおそれがあります。「FastAPIとLLM LLMのAPIを呼ぶ」で、紹介文の下書きに「新鮮な卵」と書かれた例を見ました。

害の大きい話題は、AIの答えの質を上げることより、AIに答えさせない設計を選びます。

2 / 23