AIエージェントが本当に役立つのは、情報を調べて答えるだけでなく、実際の業務システムやサービスを操作できるようになったときです。しかし、何でも自由に操作させてしまうと、ガードレールだけでは防ぎきれない事故が起きます。ハーネスを構成する3つ目の要素「ツール連携設計」とは何かを、この記事で整理します。

AIエージェント開発

AIをどう業務に組み込むか、一緒に考えませんか。

まず、話だけ聞いてみる →

ツール連携設計とは何か

ツール連携設計とは、AIエージェントが実際に操作できる業務システムやサービス（ツール）を、何にするか、どこまでの操作を許すかを決める設計のことです。AIに会話をさせるだけでなく、実際の業務を代行させるためには、この設計が欠かせません。

なぜ、つなげるツールを慎重に選ぶ必要があるのか

連携するツールが増えるほど、AIができることの幅は広がりますが、同時に誤った場面で誤ったツールを使ってしまうリスクも増えます。たとえば、確認のために情報を検索するつもりだったのに、関連する別のツールの更新処理まで実行してしまう、といった事故が起こり得ます。

自社の場合に当てはめて整理したい方は、AIエージェント開発について相談する →

どのツールから連携を始めるべきか

連携範囲を広げる順序は、次の3段階で考えると安全に進められます。

第一段階：検索・参照のみのツール

データを見るだけで、何も変更しないツールから始めます。誤っても取り消しが容易なため、仕組みに慣れるのに適しています。

第二段階：影響範囲が限定された操作ツール

社内向けの下書き作成や、一時保存までの処理など、最終的な実行の前に人の確認が入る操作に広げます。

第三段階：外部への送信・決済など影響の大きい操作

取り消しが難しい操作は、ガードレール設計で定めた承認条件を必ず組み合わせてから連携します。この段階を急ぐ会社ほど、事故が起きやすくなります。

段階ごとの許可範囲とリスクの違い

段階許可する操作誤った場合の影響
第一段階検索・参照のみ影響なし、取り消し不要
第二段階下書き作成・一時保存人の確認前なら取り消しやすい
第三段階外部送信・決済など最終実行取り消しが難しく、影響が大きい

ガードレール・検証との関係

ツール連携設計は単独で機能するものではなく、どこまで自律的に実行してよいかを決めるガードレール設計、動作の正しさを確かめる検証・修正の仕組みと組み合わせて初めて安全に機能します。ハーネス全体の考え方はAIエージェントの「ハーネス」とは何かを、非エンジニアがこうした設計を理解して運用できる理由は非エンジニアでもAI駆動開発ができる理由で整理しています。

よくある質問

Q. AIにツールを触らせると、具体的に何が変わるのですか？

A. AIが社内のシステムやサービスを直接操作できるようになり、調べて終わりではなく、実際にデータを登録したり、メールを送ったりと、作業そのものを代わりに実行できるようになります。

Q. どのツールから連携を始めるべきですか？

A. 取り消しが難しいツール（決済・外部への送信など）ではなく、まず情報を検索・参照するだけのツールから始めることをおすすめします。影響範囲が小さいところで仕組みに慣れてから、操作系のツールに広げていく進め方が安全です。

Q. 連携するツールが増えると、何に注意すべきですか？

A. ツールが増えるほど、AIが誤った場面で誤ったツールを使ってしまうリスクも増えます。どのツールをどの場面で使ってよいかという許可範囲を、ガードレール設計の一部としてツールごとに決めておく必要があります。

Q. 非エンジニアでも、ツール連携の範囲を決められますか？

A. 技術的な接続部分は専門知識が必要ですが、「どのツールを、どの業務で使わせるか」という範囲の判断は、業務を理解している発注者側が最も的確に行える部分です。

発信：株式会社オルアナ（新規事業開発・システム開発・AIエージェント開発・バックオフィス業務支援）