AIエージェントを導入すると、想定していなかった質問や、AIが自信を持って答えられない場面に必ず出会います。この記事では、そうした場面で人や別の手段に引き継ぐ「フォールバック設計」とは何かを整理します。

AIエージェント開発

AIをどう業務に組み込むか、一緒に考えませんか。

まず、話だけ聞いてみる →

フォールバック設計とは何か

フォールバック設計とは、AIエージェントが対応できない、または対応すべきでない場面で、どこに・どう引き継ぐかを事前に決めておく設計のことです。AIに何でも答えさせようとする設計とは対照的な考え方です。

設計がないとどうなるか

基準がないままだと、AIが分からない質問に無理に答えようとして誤った情報を伝えたり、同じ返答を繰り返して利用者を困らせたりします。問い合わせが宙に浮いたまま終わり、利用者の信頼を損なうこともあります。

自社の場合に当てはめて整理したい方は、AIエージェント開発について相談する →

引き継ぎの基準をどう決めるか

  • AIが回答に確信を持てない場合
  • 利用者が同じ質問を繰り返している場合
  • 金額や契約など、間違えると影響が大きい内容の場合

これらの基準をあらかじめ決めておくことで、AIが無理に答えようとする前に、適切な引き継ぎが行われます。

運用しながら基準を見直す

運用を始めると、想定していなかった質問パターンが見えてきます。どこでフォールバックが発生したかを記録し、定期的に基準を更新することが有効です。ガードレール設計とあわせて、避けたい行動を防ぐ仕組みも参考にしてください。詳しくはAIエージェントの「ガードレール」とは何かをご覧ください。

よくある質問

Q. フォールバック設計をしないと、具体的にどんな問題が起きますか？

A. AIが分からない質問に無理に答えようとして誤った情報を伝えたり、同じ返答を繰り返して利用者を困らせたりします。引き継ぎ先が決まっていないと、問い合わせが宙に浮いたまま終わることもあります。

Q. 人に引き継ぐ基準は、どう決めればいいですか？

A. 「AIが回答に確信を持てない場合」「利用者が同じ質問を繰り返している場合」「金額や契約など間違えると影響が大きい内容の場合」といった基準をあらかじめ決めておくことをおすすめします。

Q. フォールバック先は、必ず人である必要がありますか？

A. 必ずしも人である必要はありません。よくある質問ページへの案内や、別のAIエージェントへの引き継ぎでも構いません。重要なのは、利用者が「次に進める」状態を保つことです。

Q. フォールバック設計は、導入後に見直すべきですか？

A. 見直すべきです。運用を始めると、想定していなかった質問パターンが見えてきます。どこでフォールバックが発生したかを記録し、定期的に基準を更新することが有効です。

発信：株式会社オルアナ（新規事業開発・システム開発・AIエージェント開発・バックオフィス業務支援）