森重いま多くの企業で生成AIを使うのが当たり前になっています。しかし、使っている企業からは「思ったほど成果（ROI）が出ない」という声も聞こえてきます。企業のAI活用は、どこでつまずいているのでしょうか。

大谷氏ここ3～4年で生成AIの活用が一気に進んできました。ですが、おそらく7割から8割ほどの企業の取り組みが、まだPoCといわれている概念実証の段階から抜けきれていません。むしろ“PoCの沼”にはまってしまっている状態だと思います。

多くの企業は、「どのAIモデルを使うか」や「プロンプトの出し方」ばかりに注力しがちです。しかしAIモデルはどの会社でも使えるものですし、プロンプトさえしっかりしていれば正確な答えが返ってくるという考えも過信にすぎません。問題なのは、各社が持つデータをAIがしっかり理解できる文脈＝コンテキストに変換する仕組みが不足していることです。

森重企業は大量のデータを持っています。それでも十分ではないのでしょうか。

大谷氏もちろんデータ量は多いに越したことはありません。ただし質の伴わないガーベージ（ゴミ）データがいくらあっても意味がない。データが存在していることと、AIがそれを活用できる状態にあることは全くの別の話だからです。

例えば、AIを「入社当日の優秀な新入社員」だと考えてみましょう。その社員がいくら優秀でも入社当日は会社の習慣や規則はわかりません。100ページある規則集を今日中に全部読んで覚えなさいと言っても消化不良を起こしてしまい、判断基準が分らないまま回答を迫られたAIは、もっともらしい嘘をつくハルシネーションを起こしてしまいます。

ですが、要点となるこの10ページを読んでおけば大丈夫だよと指示すれば、「この会社では、こうした状況が発生した場合、こうすればいいんだな」と一気に正しい判断がしやすくなる。これがコンテキストの役割です。

データ量も大事ですが、質も伴っていないと正しい答えは出てこない。適切な量と質の掛け算が必要なのではないかと思います。そしてAIに最大限の成果を出させるためには、自社のデータを適切なタイミングでAIが理解できる文脈に変換する「コンテキストエンジニアリング」が構築できているかどうかが重要なポイントとなります。

森重製造業や製薬業などの大手企業ではソブリンAIや現場活用の観点からクラウドに上げられないデータやオンプレミスに残るデータも多くあります。こうしたデータの置き場所が分散する環境も、今後のAI活用では課題になってくるのでしょうか。

大谷氏現状では主にクラウドベンダーやフロンティアAIが提供するAIモデルを使うため、データをクラウドに置くのが一般的でした。しかし日本企業が今後、生成AIを活用してグローバルでの競争優位性を高めていこうとすると、依然オンプレミスで生まれる膨大なデータやソブリンAIの観点から、全てのデータをクラウドに持ってくるのは現実的ではありません。

また製造業や小売業、医療分野などでは現場でのAI実装としてフィジカルAIへ注目が集まっており、IoTデバイスや物理的なロボットを介して、現場に近いエッジでリアルタイムなAI活用を進める動きも活発化しています。こうした場合もデータをクラウドに集約するのではなく、オンプレミスや外部ネットワークから完全に遮断されたエアギャップ環境に配置して、安全性を担保しながらスピーディーにAI活用を行うコンテキストエンジニアリングの仕組みづくりが必要になってくるでしょう。

森重つまり、企業が持つデータをAIにそのまま渡すだけでは十分ではなく、そのデータに意味や背景情報を持たせることが重要だということですね。

大谷氏その通りです。より掘り下げてご説明しますと、データをAIにそのまま放り込むのではなく、AIが理解できる意味ある情報に変換し、届けるための設計・構築プロセス、これがコンテキストエンジニアリングということになります（図）。プロンプトエンジニアリングが、人間がAIへの指示を最適化する技術であるのに対し、コンテキストエンジニアリングはAIに背景や前提知識を効率的に理解させる価値のある情報を付加する点が大きく違います。

例えば、工場のあるプラントで温度データを活用する際、32度になったという数値情報をそのまま伝えるだけでは、AIは何をどう判断すればいいか困ってしまいます。知ったかぶりをして「32度は適温です」などとハルシネーションを起こしかねません。でも32度という数値に、それがどの機器のどの工程で起きたのか、そしてこの工場設備では異常値を指す数値だというコンテキストを付加してあげれば、対処法のマニュアルやツールと連携してラインを安全に止める指示を出すことができます。

つまり、データという単なる事実や数字の断片に、意味のある背景を加えて、AIが最もパフォーマンスを出しやすい解釈ができる最適な情報として渡すことが、コンテキストエンジニアリングの役割なのです。

図　コンテキストエンジニアリングとは？

コンテキストエンジニアリングは、データをAIが理解できる「意味ある情報」に変換し、届けるための設計・構築プロセスを指す。そこにはシステムプロンプトや外部ナレッジ、ツール定義、短期・長期メモリなど回答に必要な全ての情報が包括されている

[画像のクリックで拡大表示]

森重社内のデータをAI活用に生かす手法として、RAG（Retrieval-Augmented Generation：拡張検索生成）を利用する企業も増えています。コンテキストエンジニアリングはRAGと何が違うのでしょうか。

大谷氏RAGはユーザーの質問に対して外部データベースや社内文書を検索してAI入力に付け加える仕組みです。その意味ではコンテキストエンジニアリングの一部といえます。しかしRAGは一問一答形式ではそれなりの効果がありますが、今後さらに増えてくる多段階の判断が必要なプロセスではRAGだけでは精度の維持とスピードに限界が出てきます。そこで人間の長期記憶と短期記憶のような仕組みを取り込み、この人は何を聞きたいのか、何を指向しているのかといったコンテキストを動的かつ継続的に提供する仕組みを構築することで、他社との競争優位性を生み出すことができるようになります。

森重そうなると、AIエージェントをどんどん作り、データの投入量を増やすことがAI活用の指標となっていた「トークンマキシング」の考え方が変わっていくことになりますね。

大谷氏その通りです。今までは生成AIを活用して生産性を高めたり、イノベーションにつなげたりするためトークンマキシングが推奨されていました。しかし現在は、さすがにトークンを使いすぎではないかという声が世界中で出始めています。AI資源が無尽蔵ではない現状で、コストをセーブしながらAI活用の質とスピードを高めていくトークンマネジメントが重要になってきており、品質とコストを両立する手段としてコンテキストエンジニアリングが注目を集めているのです。

森重コンテキストエンジニアリングを実践するには、どのような基盤や仕組みが必要になるのでしょうか。

大谷氏コンテキストエンジニアリングを実践するには、単にデータを検索してAIに渡す機能（一般的なRAG）だけではなく、AIに「適切な情報を適切なタイミングで提供する」ための一連の情報パイプライン（システム全体）を設計・構築する基盤が必要です。

具体的には、AIが混乱せずに実力を100%発揮できるよう、以下の要素を統合的に管理できる仕組みが求められます。

1. 絶対に見逃さない「高度な検索と並べ替え（選択）」

膨大なデータから必要な情報を正確に特定するために、ニュアンスや意味合いで探す「ベクトル検索」と、製品番号などの完全一致を逃さない「キーワード検索」を組み合わせたハイブリッド検索が不可欠です。さらに、見つけたデータの中からAIにとって最も重要な情報を最上位に並べ直すリランキング（再評価）を行うことで、AIに渡す情報の質を極限まで高めます。

2. ノイズを省く「情報の圧縮と最適化」

AIが一度に処理できる情報量（コンテキストウィンドウ）には限界があります。そのため、情報を論理的な意味のまとまりで分割する「セマンティックチャンキング」や、古い会話履歴・長すぎるデータを簡潔に要約・トリミングする「圧縮」の仕組みが必要です。これにより、情報過多によるAIの混乱（途中の情報を見失う現象）を防ぎます。

3. 「記憶（メモリ）」と「ツール」の安全な統合

過去のやり取りを保持する短期・長期の「記憶」や、AIが計算や外部データベース照会を行うための「ツール」を、判断材料としてセットで統合します。ツールが多すぎるとAIの処理領域を圧迫するため、その時々のタスクに関連するツールだけを動的に呼び出す仕組み（動的ツールディスカバリー）も重要になります。

4. 複雑なタスクを処理する「分離」と「書き込み」

複雑な業務を任せる場合、タスクを専門の「サブエージェント」に分割して処理させたり（分離）、AI自身が進行状況や計画を外部のファイルやデータベースに記録（書き込み）したりできる環境を用意することで、AIの作業メモリをクリーンに保つことができます。

森重コンテキストエンジニアリングを実現するためには、データ接続や検索、セキュリティー、様々な要素が必要になることが分かりました。そうした要件に対して、Elasticではどのような解決策を提供しているのでしょうか。

大谷氏Elasticは創業以来、「検索」をコア技術として成長してきましたが、現在はAIのための統合データ基盤へと大きな進化を遂げています。

Elasticがコンテキストエンジニアリングの領域をリードできる最大の理由は、単なるAI向けの検索エンジンにとどまらず、「AI」「セキュリティー」「オブザーバビリティ」という、本来バラバラに構築されがちな仕組みを1つのデータ基盤上で統合的に提供できる点にあります。企業のあらゆるデータを「価値ある文脈」に変換し、AIの力を安全かつ最大限に引き出す包括的な環境を提供する。これこそが私たちの提示する解決策です。

森重こうしたコンテキストエンジニアリング基盤を整備すると、企業は具体的にどのような価値を得られるのでしょうか。

大谷氏リアルタイム性のある色々なデータをつなげて分析できるという観点では、今までうまくつながっていなかったOT（制御技術）のログとITのログを統合的に監視して、システム・サービスの実行状況やサーバーの稼働状況、アプリケーションの処理性能までを一元的に可視化、分析することができます。例えば通信業者や電力業者なら、様々な場所の機器から出る膨大なログを監視して、どこでトラブルが発生しているのか、どこに原因があるのかを瞬時に見極めて、早期の問題解決を支援することができます。

森重お話を聞いていて思ったのですが、日本企業には長年の経験や勘に基づく豊富な現場知や暗黙知がある。そしてクラウドやオンプレミス、エッジにも多くのデータが散在している。これらをコンテキストエンジニアリングできちんと意味づけ、整理して使えるようにすれば、AIによる競争優位性がさらに生かせるような気がします。

大谷氏実は我々もそれを日本企業に最も伝えたいメッセージとして考えています。下請けや孫請けといった日本企業の多重請負構造では暗黙のルールがあり、「例の件で」と言わなくても分かるといった曖昧な指示内容がたくさんあるわけです。しかしこれはAIには全く通用しません。そういった暗黙知や現場知をインデックス化してAIにつなぐ役割は、まさにコンテキストエンジニアリングにフィットしたソリューションになっていくと思います。

森重先ほどから検索やインデックスのお話がありましたが、その中核にある考え方として御社では「AI Index」を提唱されています。AI Indexはコンテキストエンジニアリングの実現において、どのような役割を果たすものなのでしょうか。

大谷氏AI Indexを一言でいえば「AIにデータを近づける」のではなく、「データにAIを近づける」ために最適化されたAI専用の知識の引き出しです。コンテキストエンジニアリングの中核であり、ベクトルデータベースをはじめとする技術によって実現されるAI時代向けのインデックスです。

これまでのAI開発では、社内に散在するデータを、わざわざクラウド上のAIシステムなどに転送したりコピーして処理させたりするような「AIにデータを近づける」アプローチが主流でした。しかし企業のデータが巨大化し、外に出せない機密情報も増える中、毎回データを移動・加工させていてはコストも処理スピードも限界に達してしまいます。この限界を突破するのがAI Indexです。AI Indexは、様々な情報を意味付けしたAI Readyなインデックスなので、データが保存されている場所のすぐそばでAIが直接情報を処理できるようにする、いわば「データにAIを近づける」役割を果たします。

皆さんが自然言語でAIに問いかける際にはベクトル検索という技術を使っているのですが、Elasticのベクトルデータベースは世界で累計50億回以上もダウンロードされています。その実績と、従来のキーワードから自然言語までの多様な検索技術も統合し、お客様に高い価値を生み出すことができると考えています。

森重最後に経営層の皆様へメッセージをお願いします。

大谷氏生成AIは非常に賢いツールですので、人間が一挙手一投足を細かくコントロールしたり、または何もコントロールしないのは、あまり良いアプローチとはいえません。だからこそ優秀な部下に最大の成果を生み出すために、これまでの背景や目的、過去のやり取り、暗黙のルールといった質の高い判断材料＝コンテキストを、適切なタイミングで適切な量を与えていく。そうすればAIは自律的に考える能力を最大限に発揮してPoCの壁を越え、全社的なAI活用を成功に導くことができます。これはマネジメントにも応用できると私は考えており、「コントロールではなくコンテキストで導く」というリーダーシップへの転換が、日本企業のさらなる発展を促していくだろうと信じています。