社内データの安全活用を実現するオンプレミス向け生成AI基盤の要件とは

AI・デジタルツイン・データ基盤 Forum

エフサステクノロジーズ

社内データの安全活用を実現する
オンプレミス向け生成AI基盤の要件とは

生成AIを業務に役立てるためには、社内に蓄積されたドキュメントやデータを有効に利用する必要がある。しかし、こうしたものは秘匿情報も含んでいることも多く、クラウドに置きたくないと考える企業も少なくない。エフサステクノロジーズでは、オンプレミス環境向けに、対話型生成AI基盤「Private AI Platform on PRIMERGY」を提供している。これにより、機密性の高い情報を生成AIで安全に保管・活用することが可能になるという。

多くの課題を抱える
クラウドでの生成AI活用

現在では当たり前のものとなったクラウド利用だが、一部ではオンプレミス回帰の動きも見受けられる。重要データをクラウドに保存するのはセキュリティー面で不安が残る上、利用量の増加に比例してコストがかさんでしまう、といったことがその主要因だ。またリソース共有型のサービスでは、パフォーマンス面での懸念も残る。

こうした状況は、企業の生成AI活用にも大きな影響を及ぼしている。「最近では、商品・サービスの機能強化や経営意思決定に生成AIを取り入れる機運も高まっています。こうした重要な領域で生成AIを活用する場合、自社の技術情報や顧客の個人情報などへのアクセスが不可欠となります。セキュリティーポリシー上、このような機密データをクラウドで取り扱うのは難しい企業も少なくありません」と指摘するのはエフサステクノロジーズの中嶋一雄氏だ。

対話型AIシステムを
オンプレミスで実現

そこで着目したいのが、オンプレミスで使える生成AIインフラだ。自社内に閉じた環境であれば、前述のようなデータも安心して活用することができる。同社でも、こうしたニーズに向けて、オンプレミス環境向け対話型生成AIソリューション「Private AI Platform on PRIMERGY」を提供している（図1）。

図1　オンプレミス環境での生成AI活用を実現

AI基盤サービスとGPUサーバーを一体で提供する「Private AI Platform on PRIMERGY」。オンプレミスに閉じた環境内で、安全かつ効率的に生成AIシステムの開発・運用が行える

「Private AI Platform on PRIMERGYは、機密データを社外に出さずに対話型生成AIを活用したいというニーズに応えるソリューションです。GPU搭載PCサーバー上に、『検証済OS／コンテナ基盤』、『Large Language Model（以下、LLM）：大規模言語モデル』、『Retrieval-Augmented Generation（以下、RAG）：検索拡張生成』、『OpenAI互換API／Web GUI』などを組み込んだ対話型AI基盤を製造工場にて構築した上で提供しています。短期間での導入が可能なほか、インターネット接続不要の完全オンプレミス運用が行えます」と中嶋氏は説明する。

さらに注目したいのが、用途や活用段階に応じて選べる4つのモデルが用意されている点だ。少人数での利用やトライアル利用なら「Very Small」、社内でのスモールスタートには「Small」、より高精度で中規模クラスなら「Medium」、本格的な大規模利用では「Large」と、生成AI活用を段階的にステップアップさせていけるのである。

「特にLargeモデルにおいては、Supermicro社との協業強化・拡大により、大規模生成AI・データ分析向けの最新プラットフォームを迅速に提供していきます。その一環として、今回提供を開始したのが、最新世代GPUである『NVIDIA製 B200 GPU』を8基搭載したハイエンドGPUサーバー『PRIMERGY GX2570 M8s』です」と中嶋氏は話す。

この製品では、10Uラックマウント型空冷モデルと4Uラックマウント型水冷モデルの2種類を用意。さらに、最短2時間の駆け付け対応を実現した保守サービス「Support Desk」やサーバー管理機構、クラウド利用と同様の支払いを可能にするサブスクリプションサービス、前述のPrivate AI Platform on PRIMERGYによる課題解決など、エフサステクノロジーズならではの付加価値も提供されている。

AI活用において重要となるのは、サーバーだけではない。ストレージについてもいくつかの要件が求められる。AI学習やRAGでは大量のデータを利用する上に、テキストや画像、動画などのデータを高速に処理する必要があるからだ。また、将来的な容量増加に対応できるスケーラビリティや、データ漏えいなどを防ぐためのセキュリティー機能も欠かせない。そこで同社では、これらの要素を兼ね備えた製品として「ETERNUS AX/AC/HX series」を提供している。

「高い可用性と強力なセキュリティー機能がETERNUS AX/AC/HX seriesの大きな強みとなっています。まず高可用性では、データミラーリング、レプリケーション、スナップショットなどの機能により、継続的なデータアクセスを確保。自動化された障害回復機能も装備していますので、ダウンタイムも最小化できます」と中嶋氏は話す。

また、セキュリティー機能では、データ暗号化、アクセス制御、バックアップなどの機能でデータ漏えいを防止。データ匿名化などのプライバシー保護機能や、モデル改ざんなどを検知する監査機能も備わっている。

「当社では『地球上で最も安全なストレージの実現』を目指しており、深刻な社会問題ともなっているランサムウエアについても『自律型ランサムウエア対策機能』を用意しています。万が一、専用AIが異常な振る舞いを検出した場合には、スナップショットの作成と管理者へのアラート通知を自動的に実行。予防、復旧に役立つ機能も実装しているので、一連のランサムウエア対策をストレージ内で完結できます」と中嶋氏は話す。

なお、ETERNUS AX/AC seriesは多機能型オールフラッシュモデル、ETERNUS HX seriesは多機能型ハイブリッドモデルとなっているが、そのほかにシンプル型オールフラッシュモデルの「ETERNUS AB series」、シンプル型ハイブリッドモデルの「ETERNUS HB series」もラインアップされている。

トライアルや
サブスク利用などのサービスも

それでは、こうしたオンプレミス生成AI基盤はどのような形で活用できるのか。まず考えられるのが「サポート業務の効率化」だ。マニュアルなどのドキュメントや過去の対応履歴を外部データベースであるRAGに登録したAIアプリケーションを作成／活用することで、製品に関する問い合わせやトラブル対応の効率化を実現している。

次にCOBOLをはじめとする「レガシーコードの解析」にも有効だ。「ベテラン技術者の退職により、コードの把握が困難になりつつあります。しかしPrivate AI Platform on PRIMERGYを利用すれば、生成AIを用いてコードの処理内容を分析し、仕様書の作成まで行うことができます。さらには、生成AIにコードの修正方法を提案させたり、Javaへのマイグレーションを行ったりすることも可能です。ノウハウの継承やモダナイゼーションの課題を効果的に解決できるのです」と中嶋氏は話す。

なお、社内でのRAG適用を拡大していくと、Private AI Platform on PRIMERGYの標準ディスク領域では容量が足りなくなる場合がある。こうした際には、ETERNUS AX/AC/HX seriesを追加することでディスク領域不足を解消できる。複数のPrivate AI Platform on PRIMERGYで1台のストレージを共有することもできるため、ナレッジ共有やデータ管理の一元化を図ることも可能だ（図2）。

図2　大量データの保管・活用にも不安なし

Private AI Platform on PRIMERGYの内蔵ディスク領域が不足した場合には、ETERNUS AX/AC seriesによる拡張が有効だ。容量不足を解消できるだけでなく、ノウハウ共有やデータの一元管理にも役立つ

なぜ同社が、こうした生成AIに最適なインフラ環境を展開できるのか。それは、長年にわたって各種ハードウエアとサービスをトータルに提供できる体制を整えてきたからだ。富士通エフサスと富士通のハードウエア事業を統合して発足した同社では、「先端的なモノづくり」と「きめ細かな顧客対応」、「日本市場に最適化された製品の提供」を推進。構築だけでなく、業界最高水準の保守・サービス体制も大きな強みとなっている。

Webブラウザから簡単に利用できるPrivate AI Platform on PRIMERGYのトライアル検証環境も用意されているので、生成AI活用に関心のある企業は一度チェックしてみるのもいいだろう。