入出力改善のプラットフォームで
AIの本番運用を支援

2016年創業のクラウドエースは、生成AIやクラウドサービスを活用したSIerとして、日本および東南アジアを中心に事業を展開している。これまで主にGoogle Cloudを活用したソリューションを提供し、「2024 Google Cloud Partner of the Year」で5冠を達成。「Google Cloud Partner Top Engineer 2025」に同社の社員16名が選出されるなど、Google Cloudにおいてトップクラスの実績を持つ。

近年は生成AIの活用ソリューションに積極的に取り組み、買い切り型の生成AIチャットボットのソースコード提供や導入支援を手掛けている。また、サイバー攻撃に対抗できるように生成AIで強化したサイバーセキュリティソリューションも提供する。2024年には生成AIを活用したナレッジ・マネジメントのSaaS（Software as a Service）「COGMA」の販売を開始した。「実在する資料だけでなく、企業内の暗黙知から共有できるナレッジを生成するもので、ノーコードで短期間に高精度の回答を生成できる点が特徴」とクラウドエースの齋木慎氏は語る。

新会社ガオでAI改善を支援
入出力評価の分析を自動化

2024年11月には、ビジネスゴールを前提とした生成AIの本番運用実現を支援するグループ会社「ガオ」を設立した。ガオという名前はGen AI Opsの頭文字を冠したものである。同社は、LLM（大規模言語モデル）の出力改善を効率化するLLMエンジニアリングプラットフォームの導入を推奨する。具体的な製品としては「Langfuse」というプラットフォームのエンタープライズ版をアジア唯一の代理店として販売している。

同社がこうしたソリューションを提供する背景としては、生成AIの導入を目指した企業で、目標とする投資効果を得られる品質に届かない点が障壁となって、本番利用まで到達できない事例が多いことがある。「生成AIの出力を改善するため、社内アンケートを基にした試行錯誤に人力で取り組む企業が多く、その膨大な業務量に対応できていない」とガオの嘉門延親氏は指摘する。

LLMエンジニアリングプラットフォームでは、利用者の入力と生成AIアプリケーションの出力のセットを「トレース」として保存する。利用者が出力の良し悪しを評価したフラグ情報と一緒に蓄積するため、システム管理者はフィードバックをリアルタイムで把握できる。それに加え、それぞれのトレースをLLMで自動評価を行う LLM-as-a-judge や、ビジネス部門のエキスパートがLLMのアウトプット結果を仕分け・評価できる機能などにより、アプリケーションの精度を上げることが可能となる。「今後は、特定のタスクに特化したAIアプリケーションだけでなく、複雑なタスクを自律的な行動で処理するAIエージェントの利用が拡大することを想定すると、LLMエンジニアリングプラットフォームの活用が不可欠になるでしょう」（嘉門氏）。

トレース分析に業務部門も関与
全社体制のPDCAでAIを改善

LLMエンジニアリングプラットフォームとしてLangfuseを使った場合、生成AIの出力を改善するためのPDCAサイクルは以下のようになる。

①データ収集とモニタリング：トレースとして保存したデータの収集と確認
②評価・分析：生成AIの出力の良し悪しを該当業務のエキスパートが判断
③修正・調整：テストを繰り返して、生成AIのプロンプトやモデルを改善
④アプリケーションのデプロイ：完成したアプリケーション、プロンプトを本番適用

Langfuseを使った生成AIの出力改善サイクル

「これらの業務は主にIT部門が遂行しますが、②の評価・分析行程ではAI出力が本当に顧客に望まれているものかを判断する必要があります。そのため、ビジネス部門が中心となって取り組むのが理想的です」（嘉門氏）。

クラウドエース自身も、冒頭に紹介したSaaS「COGMA」を改善する目的でLangfuseを導入している。例えば、FAQを作りこんだチャットボットをCOGMAで生成した際は、顧客の入力に対する出力トレースの自動分析によって、プロンプトの改善サイクルを従来の1時間から5～10分に短縮できた。嘉門氏は「Langfuseはソースコードがオープンで、エンジニアの支持が急拡大している製品である一方、機密情報管理のセキュリティが担保されている点も魅力」と語る。

---