生成AIを活用しビジネスを変革
ハルシネーション対策と低料金が柱

Google Cloudを中心とする生成AIソリューションの導入支援をするアイレット。2024年には100社以上のDX（デジタルトランスフォーメーション）に取り組み、ユーザーの業務効率化をサポートしてきた。

登壇した同社の石川天行氏は、生成AIを活用するDXのポイントとして、①多くの企業がつまずくハルシネーション（事実に基づかない回答の生成）への対策、②大規模な生成AI利用を実現するための「低コスト化」、③エンジニアでなくても容易に使いこなせるツールの提供――の3つを挙げる。

AIと検索の併用で虚偽対策
プロンプト改善も効果的

石川氏は、今回のセミナーでハルシネーション対策に有効な2つの手法を紹介した。1つは、Google CloudのVertex AI内の検索エンジン「Grounding with Google Search」を活用し、ハルシネーションの発生リスクが高い古いデータを、検索で収集した最新データで補う手法である。

具体的な例として、同社が手掛けた第一興商における自動名寄せシステムを挙げた。カラオケ利用者がデンモク（タッチパネル式のリモコン）などで入力したデータからLLMのGeminiが楽曲情報を生成する前に、最新の検索情報を基に出力するソリューションを同社が提供。カラオケ利用者が入力する際の楽曲情報の精度を99％まで高めた。データ入力時の表記ゆれを激減させ、従来は5人日の負荷を要していた人手による修正業務を完全に自動化した。

もう1つのハルシネーション対策は、生成AIの出力品質を上げるために入力情報を改善するプロンプトエンジニアリングの導入である。効果的なプロンプトの作成には、①誰に向けた出力なのか「ペルソナ」を明確にする、②「背景情報」として関連する制約や要件・慣習を丁寧に伝える、③出力に含むべき要素と除外すべき要素を明確にする、④箇条書きや表など、求める出力の「フォーマット」を明示する――の4つが重要となる。「これらの対応で、ハルシネーションを大幅に削減してきた」（石川氏）

大容量利用での料金を削減
一般社員でもフル活用可能

社内での生成AIの活用が進むと、課題となるのが運用コストである。アイレットが推奨するGeminiはほかのLLMより料金水準が低く、大量実行や大容量プロンプトを処理する際のコストを削減できる料金設定がある。

1つは「コンテキストキャッシング機能」で、頻繁に入力するプロンプトをキャッシュし、同じ入力を削減する仕組みにより「利用コストを最大75％節約できる」（石川氏）。もう1つは「バッチ予測」機能で、多くの入力をオフピーク時間に一括処理することにより最大50％のコスト削減が可能となる。

Gemini 1.5 Flashは軽量かつ高速な処理性能が特徴で、利用コストと稼働時間の削減には最も有効なモデルである。一方で、Gemini 1.5 ProはFlashよりも高度な推論、ニュアンス、理解を必要とする複雑なタスク向けモデルで、最大200万トークン入力をサポートしている。

アイレットがAI活用DXの3つ目のポイントに挙げているツールの使いやすさの点で、石川氏はVertex AI上で利用できる検索サービス「Vertex AI Search」を薦めている。同サービスではRAG（検索拡張生成）環境の構築や様々な形式のドキュメントの検索が可能である。「ノーコードのツールとして利用でき、エンジニア以外の一般社員でもアプリ作成やカスタマイズが容易」（石川氏）という。

アイレットでは、経済産業省などが推進する国内生成AIの開発・競争力強化プロジェクトにGoogle Cloudと参画しており、導入支援のサポート力には定評がある。石川氏は「PoC（概念実証）からビジネス活用まで気軽にお声掛けしてほしい」と講演を締めくくった。

---