生成AI活用に取り組んではみたものの、思うように成果が上がらず悩んでいる企業は少なくない。上下水道や河川などの公共インフラ領域で総合コンサルティング事業を展開するNJSでも、大きな壁に突き当たっていた。

NJSでは生成AI活用を推進しており、その第一弾として、IT部門への問い合わせ業務をチャットボットに置き換えることとした。その具体的な方法としては、ファイルストレージと検索インデックスを利用。質問の情報をもとにファイルストレージを検索して、生成AIに回答を生成させるというものだ。いわゆるRAG（検索拡張生成）である。

しかし、生成AIが扱えるトークン数が不足していたことから、データを分割する過程で文脈や単語の意味が失われてしまう。その結果、精度の低い回答しか生成できなかったという。この問題を解決するために、NJSでは学習データのベクトル化／インデックス化（言葉の意味を数値化してデータを保存し、その数値を検索することで意味が近いものを検索できるもの）を実施。同じくベクトル化された質問内容をもとに、ベクトルDB上の類似文書を検索して回答を生成させるようにしたわけだ。

だが、これでも回答精度は依然として不十分なままだった。むしろプロセスが複雑化してしまったため、精度が上がらない原因がデータなのか、それともプロンプトなのかも分かりにくくなってしまったのだ。しかも、この段階で、プロジェクトの期間は残り3カ月を切ったのである。

現在も生成AIはさらなる進化を遂げている。その中心となるテクノロジーが「AIエージェント」だ。「RAGとAIエージェントとの最大の違いは、『何を知っているか』『何を探すか』ではなく、『何ができるか』という点にあります」と加藤氏は説く。

例えば、出張で飛行機を利用する場合を考えてみよう。ユーザーが「飛行機を予約したい」と告げると、AIエージェントはカレンダーからユーザーの予定と目的地を認識。「飛行機 予約」と検索し、旅行サイトで最適な便を調べて提案する。その内容で問題がなければ、あとは予約を実行させるだけだ。このように業務にかかわる情報を提供するだけでなく、ある目的に必要なアクションを自律的に起こすのがAIエージェントなのである。

「このAIエージェントの開発を促進するサービスが、『ADK（Agent Development Kit）』と呼ばれる開発ツールです。Googleによって開発された本サービスは、OSSとして提供されており、ローカル環境で検証しながらAIエージェントを開発できます。ADKには数多くのツール群が用意されていますので、これらと当社の技術を組み合わせることで、様々なお客様の課題に柔軟に対応できます 」と加藤氏は説明する。

また、Vertex AI上で作成したAIエージェントを実際に利用できるようにするための実行環境として、Google Cloudでは「Agent Engine」を提供。「フルマネージドサービスによる運用負荷軽減とスケーラビリティ」「Vertex AIエコシステムとの統合」「開発の簡素化と柔軟なフレームワーク対応」「堅ろうなセキュリティー機能」などの特長が備わっている。

「生成AIを既に導入済みの企業では、回答精度が悪く困った経験もあると思います。このような場合には、Agent Engineで提供される『Gen AI Evaluation Service』が有効です。これを用いることで、Geminiをはじめとする生成AIモデルやアプリケーションの評価が行えるようになり、生成AIの精度を高めていくことができます」と加藤氏は話す。

AIエージェントがさらに進化していけば、優秀なパートナーが常に隣に控えているような環境を実現できる。さらに将来的には、複数のAIエージェントの連携によって複雑な問題を解決するマルチエージェントの世界も予想されている。日本企業としても、この変化をチャンスととらえて、早急に取り組む必要がありそうだ。