豊富な知見と実績、多彩なソリューションで
「サイバーセキュリティー for AI」を支援

　生成AIがもたらす脅威には2つの側面がある。1つは利用者が考慮すべき脅威だ。LLM（大規模言語モデル）が学習したデータは、第三者のプロンプトに対する回答内容に含まれる場合がある。意図的に悪用するケースのほか、偶発的に発生するケースもある。「社内の機密情報を安易に生成AIに入力してしまわないよう、ユーザーのリテラシー向上を含めた対策を打つことが求められています」と伊藤忠テクノソリューションズ（以下、CTC）の伊藤 英二氏は指摘する。

　倫理観を持たない、ダークAIと呼ばれるAIアプリケーションも存在する。ランサムウエアの作成方法を尋ねると、そのコードやランサムウエアを売買する闇サイトなどを回答する、といったものはその一例だ。

　また攻撃者もAI技術を活用している。フィッシングメールの本文や偽サイトの作成、企業・個人のプロファイル収集のほか、偽の画像や動画、音声を生成して悪用するディープフェイクによる詐欺も増加。「既に多くの金銭的被害が発生しています。フィッシングやディープフェイクにはこれまで以上に警戒が必要です」と伊藤氏は警鐘を鳴らす。

　もう１つは開発者が考慮すべき脅威だ。自社で開発したAIモデル／AIアプリに脆弱性や設定不備があると、そこを攻撃者に狙われる。AIモデルの学習データに不正確または害のあるデータを混入させて、出力結果に悪影響を及ぼす「データポイズニング」、プロンプトを巧妙に工夫して情報を引き出したり、悪意のあるプロンプトで回答に悪影響を与えたりする「プロンプトインジェクション」などのリスクを招く。

　これらの脅威への警戒を促すため、NIST（米国国立標準技術研究所）やOWASP（Open WorldWide Application Security Project）が各種ガイダンスを発表している。国内でもIPAが「AI利用時のセキュリティ脅威・リスク調査 調査報告書」を、AISI（AI Safety Institute）が「AIセーフティに関するレッドチーミング手法ガイド」を公開。「これらの情報は、最新の脅威動向の把握やAIセキュリティーの指針づくりに非常に有効です」と伊藤氏は紹介する。

　このような状況を踏まえてCTCは、企業・組織における「サイバーセキュリティー for AI」を支援するためのソリューションを網羅的に展開している。

　システムインテグレーターとして知られる同社だが、実はセキュリティー事業の歴史も非常に長い。インターネット黎明期の1990年後半からファイアウオール、アンチウイルスなどの販売／保守を開始。2014年には「CTC-SOC」を開設してセキュリティー監視サービスを、2016年には「CTC-SIRT」を設立してCSIRT支援サービスも開始した。

　またマイクロソフトとの協業に基づき、生成AIを活用したマネージドセキュリティーサービスの強化にも取り組んでいる。アラートデータを基にインシデントの概要や推奨対応を自動生成するものだ。「さらにビジネスのグローバル化に対応するため、マレーシアにSOCを開設。2024年12月から国内およびASEAN地域向けにマネージドセキュリティーサービスを提供開始しています」と伊藤氏は紹介する（図1）。 　加えてCTCは、具体的な対策の実施に向けた4つのポイントも提唱している。１つ目は「AIアプリケーション」だ。自社公認のAIおよび非公認のシャドーAIも含めて、すべてのAI利用状況を可視化する。自社開発したAIモデルはコードレベルまで詳細に把握し、脆弱性が残存していないか安全性を確認することが大切だ。

　2つ目は「インフラ」。AIアプリケーションの実行環境に対するセキュリティー対策を実施する。不正アクセス対策、マルウエア対策、データ暗号化、アクセス制御など、既存のセキュリティー対策をベースにしつつ、それをAI実行環境にまで拡張するのだ。

　3つ目が「データ」である。AIで利用されているデータを評価し、可視化する仕組みが必須になる。「利用規定に反する機密情報の利活用などを直ちに検知できるようにします。同時に、アラートを上げたり不正な操作をブロック・記録したりする仕組みも必要です」と伊藤氏は説明する。

　そして4つ目が「倫理とガバナンス」だ。重要情報やプライバシー、知的財産に抵触する情報の取り扱いに関する倫理規定や利用規定を整備すると共に、ユーザー教育を徹底する。グローバル企業の場合は各国が定める法規制への対応も必須になるだろう。

　CTCは、多彩なセキュリティーベンダーの製品と自社のサービスを組み合わせることで、これら4つのポイントを押さえたセキュリティー対策を支援している（図2）。「お客様の課題やニーズに合わせて最適な製品・サービスを提案できるのが強みです。課題の分析から導入、運用・保守までトータルにサポートします」と伊藤氏は言う。 　ソリューションの一例が、トレンドマイクロの統合プラットフォーム「Trend Vision One」だ。これに含まれる「Zero Trust Secure Access」は、生成AI環境へのアクセスをフィルタリングすることで、生成AIサービスへの適切なアクセスと利活用を可能にする。パブリック／プライベート、どちらの生成AI環境にも対応可能だ。

　また近年は、セキュリティー領域へのスタートアップ企業の参入も活性化している。そこでCTCは、それらの企業の技術力や製品を精査した上で、積極的に提供ラインアップに追加していく予定だ。

　「特にLLMに対するセキュリティー機能を提供するスタートアップ企業が多く、例えばプロンプト／レスポンス双方のガードレール機能、日本語も検知可能なLLMベースのルール設定などのサービスを提供しているスタートアップ企業が登場しております」（伊藤氏）。

　もちろん、CTC自身のサービス強化にも取り組んでいる。一例としては、AIアプリケーション・実行環境のセキュリティー診断サービス「AI Red Team」を近く提供予定だ。

　生成AIの活用範囲は、今後もどんどん拡大していくだろう。サイバーセキュリティー for AIを考えることは、これからのビジネスとって不可避といえる。CTCは、システム構築からセキュリティー対策までの網羅的なケイパビリティによって、企業・組織の取り組みを全方位的にサポートする。