- 生成AIビジネス活用｜TDSE
ローカルLLMやローコード開発ツールで
「社内データ×生成AI」による価値を創造
既に多くの企業において取り組みが進んでいる生成AIの活用。オープン情報の利用にとどまらず、プライベートなデータを駆使してビジネスの成果の創出に取り組む企業も増えている。LLMの急速な高性能化とコンパクト化が進行している昨今、TDSEではオンプレミス環境＋ローカルLLM（オンプレ利用向けの大規模言語モデル）でセキュアに生成AIを活用できる環境を構築するとともに、生成AIアプリ開発プラットフォーム「Dify」を交えたソリューションの提供で、「社内データ×生成AI」によるビジネス価値の創造を支援している。（聞き手：日経BP 総合研究所 上席研究員 渡辺 享靖）
ローカルLLMの性能が著しく向上
より手軽に利用できる環境が整う
取締役執行役員常務
結束 晃平 氏
渡辺 企業内に蓄積されている膨大なデータを用いた生成AIの活用は、企業にとって喫緊の課題です。生成AIの利活用に関する現状についてどう捉えていますか。
結束 例えば2024年に総務省が実施したアンケート調査*の結果を見ると、トライアルによる利用も含めれば、メールや資料作成業務においてすでに7割以上の企業が生成AIを利用しています。海外ではその比率はさらに高く、成功事例の紹介などを通して、同様の動きが日本においても波及していくものと思います。また同じ調査から、生成AIの活用による業務効率化や人員不足の解消といった効果の一方で、情報セキュリティへの懸念が依然として高い事がうかがえます。機密性の高いデータを活用する業務では、その活用に向け慎重な姿勢があると考えています。
渡辺 そうした機密性が高いデータを用いた生成AIの活用については、ローカルLLMを導入することが有効な選択肢となってきますね。
結束 はい。主な生成AIの利用パターンとしては、「プライベートクラウド×クラウドLLM」「プライベートクラウド×ローカルLLM」「オンプレミス×クラウドLLM」「オンプレミス×ローカルLLM」の4つが考えられます。クラウドLLMは利用がしやすい一方で、外部へデータを送信するためにどうしても情報漏洩への懸念が出てしまいます。それに比べてローカルLLMの利用は自社環境内で完結するので安心です。ただモデルを自前で運用する必要があったり、サーバーの運用管理やメンテナンスコストが生じます。その点がローカルLLMの活用のハードルにはなっています。
渡辺 そうした状況にあって、ローカルLLMはどのような進化を遂げているのでしょうか。
櫻井 ローカルLLMについては、高性能で軽量なモデルが登場してきており、これによりローカルLLMの活用のハードルが確実に下がってきています。例えば、2023年後半に出てきた、自然な日本語対応ができるようになったOpenAIのGPT-4をベンチマークとすると、GPT4の日本語処理性能を上回る、パラメータ数70ビリオン程度のローカルLLMが複数リリースされているほか、特に現在では30ビリオン程度のモデルでも、GTP-4を超える日本語処理性能を実現するモデルも登場してきています。30ビリオン程度のローカルLLM、例えばQwen2.5-32Bなどは、20ギガバイト程度のGPU VRAMの環境で動かすことが可能です。ハードウェアコストの面でも、オンプレミス環境での運用にかかわるハードルは下がってきています。
*総務省「国内外における最新の情報通信技術の研究開発及びデジタル活用の動向に関する調査研究」（2024年）
RAGのワークフローを定義して
チャットボットをボタン1つで作成
Data Driven Decision Enhancement 3Group
櫻井 宏樹 氏
渡辺 ローカルLLMの進化は企業にとって非常に望ましいものといえますが、単にローカルLLMを導入するだけで生成AIの活用が行えるわけではなく、技術的な難しさもあると思います。TDSEのソリューションでは、そうした点をどのように解消されていますか。
櫻井 ビジネスの成果に結びつく生成AI活用には、社内データに基づく回答を可能にするRAGのような仕組みに加えて、アプリをローコード／ノーコードで開発できるプラットフォームも必要だと考えています。特にノーコードで生成AIアプリを開発するツールとして、当社が日本国内でオフィシャルパートナーとして販売やテクニカルサポートを行っているのがLangGenius社の「Dify」です。Difyは、プログラミングの知識不要で、ドラッグ／ドロップといったGUI操作だけで、生成AIアプリを作成できます。開発者だけでなく、ビジネスユーザーといった非エンジニアの方にも簡単に操作いただくことができるため、クイックでローコストな開発サイクルを実現できる点が大きなメリットであると考えています。
また、Difyにおいて特徴的なのがワークフローの作成機能です。これはチャットボットを作成する際の裏側の処理フローをGUI操作で簡単に定義することができる機能です。例えばまず検索したいカテゴリに応じて検索するデータソースを選択。検索結果を統合してLLMに渡し、LLMが要約して回答を生成するといった一連の流れを定義できます。さらにDifyでは、定義したワークフローを実装したチャットボットのWebアプリをボタン1つで公開することが可能です。
個人情報を特定し除去する仕組みを
ローカルLLMの自然言語処理で実現
櫻井 またTDSEのソリューションでは、お客様の抱えるビジネス課題起点で生成AI活用テーマを選定し、タスクや精度、コストを考慮した最適なLLMの選定、ソリューション開発、運用・活用に至るまでのフェーズをトータルに、伴走型で支援できる体制を整えています。
渡辺 TDSEのソリューションを活用した具体的な事例についてお聞かせください。
櫻井 LLMを用いたFAQの自動生成と検索システムを開発したケースをご紹介します。カスタマーサポート担当者の業務効率化と、ユーザーからの問い合わせへの回答の即時性や正確性の向上を実現したいという課題に対し、ヘルプページに掲載されるFAQの充実化、およびチャットボットの活用により、ユーザーが自力で問題を解決できるような仕組みを構築しました。
具体的には、蓄積した問い合わせのデータからFAQを自動生成するとともに、生成されたFAQを含む様々なデータベースを検索してユーザーの問い合わせに対して適切な回答を生成するソリューションを開発。FAQの生成に際しては、問い合わせ文中に含まれる個人情報をローカルLLMで除去する仕組みも構築しました。セキュアな環境と仕組みによって、個人情報を取り扱うような情報セキュリティレベルの高い業務で生成AI活用の成果を生んでいる事例です。
渡辺 LLMというとチャット機能がフォーカスされがちですが、問い合わせテキストをカテゴリごとに自動分類したり、個人情報のような固有表現を認識するといった自然言語処理の強みをうまく活用した好事例といえますね。TDSEの提供する生成AIソリューションの今後の可能性への期待が大きく膨らみます。