網羅的なAI Connectivityを実現し
AIエージェントの価値を引き出す

従来型AIから生成AI、さらにAIエージェントへと進化するAI活用。取り組みを成功に導く上では、複雑化するAIエージェントの「接続性」を適切に管理することが必要だ。これを実現するのが、Kongが提供する「Kong AI Gateway」である。AIエージェントやLLM、MCPサーバーなどの通信を一元的に中継することで、可観測性の確保と適切な制御を実現する。

AIエージェントの登場に伴い、
システム間の接続が複雑化

Kong株式会社
ソリューションエンジニアリング本部
シニアスタッフソリューションエンジニア
橋谷信一氏氏

多くの企業がAIエージェントのビジネス活用に着手している。しかし、PoCやパイロット活用である程度の成果を収めても、本格的な全社展開には至らないケースが珍しくない。大きな要因の1つが「AI Connectivity（AIの接続性）」の問題だ。

「異なるシステム同士が相互に通信し合うこと自体は、今までのITの世界でもごく一般的なことでした。しかし、複数のAIエージェントが自律的に稼働する世界では、この接続性が極端に複雑化します。これが、AIエージェントの導入・活用を阻害する障壁になっているのです」とKongの橋谷信一氏は指摘する。

AIエージェントの動作や判断を支えているのがLLM（大規模言語モデル）だ。用途や目的に応じて、あるエージェントはAのモデル、別のエージェントはBのモデルといった具合に様々なモデルを使い分けるシーンが発生する。また、実際の業務を遂行する上では社内のデータやイベント、各種APIとも接続する必要があるだろう。「いかに多くのMCP（Model Context Protocol）を提供できるかが、AIエージェントの価値に直結すると言っても過言ではありません」と橋谷氏は付け加える。

さらに、AIエージェントが別のAIエージェントとやり取りするシーンも発生する。オーケストレータ役のエージェントがサブエージェントを呼ぶ構成、あるいは組織の枠を超えてエージェント同士が連携するような構成も、今後は一般化してくるはずだ。

「このように、AIエージェントの世界では、通信する相手や接続性を確保するべき相手が常に変化し続けます。AIエージェントを取り巻く一連の通信や接続性の全容を可視化し、いかに適切に制御するかが、AIエージェントの価値を引き出す前提条件になるのです」と橋谷氏は話す。

複雑な接続の可視化、
同じ粒度でのログ収集を可能にする

そこでKongが、AI Connectivityに関わる問題の解決策として提供しているのが「Kong AI Gateway」だ。

「ベースになっている『Kong Gateway』は、コンポーネント1つというシンプルな構造でありながら、高い安定性と優れたパフォーマンスを発揮するAPIゲートウェイです。ここにAI関連のプラグインを追加することで、AI Connectivityを実現する基盤へと拡張したものがKong AI Gatewayです」と橋谷氏は説明する。

Kong AI Gatewayを利用することで、前述した通信や接続性の複雑化を効果的に解決できる。

例えば、AIエージェントとLLMが何度通信すれば次のステップに進む判断ができるかは、実際に動かしてみないと分からない。1回のクリック（指示）に対しても、AIエージェントは40件以上ものAPIコールを行うことがあるという。また、MCPサーバーへの通信が発生する場合は、APIへのアクセス認証なども必要になる。

これらすべての通信をKong AI Gateway経由にすることで、複雑な接続を一元的に可視化して制御できる。特別な設定を行わなくても、あらゆるログやメトリクスを集約できるほか、どのような内容の通信・処理を何回行ったか、どれくらいコストがかかったかなども容易に確認できるようになるという。

「統合管理する仕組みがない状態でAIエージェント、MCPサーバーが増えていくと、接続点ごとに設定・調整を行う必要性が生じます。ログの粒度も接続ごとにバラバラになるため、APIを評価して資産化することも難しくなるでしょう。全体の可観測性を高め、組織のAI活用を加速させるためには、統合的なプラットフォームを利用することが不可欠です」と橋谷氏は話す。

AIエージェントの活用本格化に必要な
3つの要素

また同社によれば、AIエージェントの活用を本格化する際に注意しておくべき要素があるという。それが「スピード」「コスト」「リスク」の3点だ。

「まず、AIエージェントや必要なAIリソースの設計・開発において重要なのがスピードです。テストやデバッグの環境を含めて、スピード感を持って開発できる手法を確立することが大切です」と橋谷氏は述べる。

またAIエージェントは、その特性上、どうしてもLLMの利用コストが発生する。これをしっかりトラッキングして可視化し、利用料の最適化や部署・ユーザー間での適正配分を図る視点も不可欠だ。

そしてリスクについては、AIへの指示（プロンプト）に不適切な情報や機密データが混入していないかを可視化することが求められる。万一の事態を未然にブロックするガードレール機能も設置しておくことが望ましいだろう。

「通信ごとに個別のソリューションを用いて接続性を確保する方法では、手間やコストがかさむほか、AI Connectivityが分断されてしまい、かえってAI活用を停滞させてしまいます（図1）。当社は、スピード、コスト、リスクの3点を押さえた環境の構築をトータルに支援することが可能です」と橋谷氏は強調する。

図1　分断されたAI Connectivity

AIエージェントやLLM、MCPサーバーなどが複雑に接続し合う環境では、網羅的な通信の可視化・制御を行う必要がある。それぞれを個別に管理していては、AIの真価を引き出すことができない

実際、同社が行ったAI Connectivityに関する調査では、「AIデータフローの全体像を把握できていない」組織が全体の86％に上っていたという。また、「AIインシデントが発生した際のAIガバナンスが不在」と回答した組織も63％あった。

「今後もAI活用のシーンは広がっていくでしょう。自社のコアビジネスに関わるデータを扱うようになる中で、さらに接続は複雑化します。また、AIエージェントが稼働する基盤も、新しいものが次々に登場してくるはずです。このように、変化が前提となる環境でAI Connectivityを維持し続けるためには、Kong AI Gatewayのような仕組みが必要だと当社は考えています」と橋谷氏は言う（図2）。