高度なコンテンツフィルタリングで
生成AIを悪用した攻撃に備える

　業務活動のアシストを主な目的として、生成AIがビジネス現場へと急速に浸透し始めている。しかしその一方で、生成AIがサイバー攻撃ツールとして悪用され始めている状況もある。例えば、公式のAIサービスを装った偽サイトにユーザーを誘導し、マルウエアをダウンロードさせる手口や、攻撃用の不正コードの生成、フィッシングメールの文章作成などを支援する「WormGPT」と呼ばれる悪意ある生成AIサービスも登場してきている。

　「このような状況で社内での生成AI活用を考える際には、大きく4つのリスクに備える必要があります」とデジタルアーツの梅本 直哉氏は指摘する。

　1つ目は「機密情報の入力による情報漏えいリスク」だ。生成AIサービスに入力された内容は、AIの学習に利用される可能性がある。不用意に機密情報を含む内容をプロンプトに入力してしまうと、その内容が第三者への文章生成に利用されるリスクがある。

　2つ目が「シャドーITのリスク」。企業がポリシー上、許可していない生成AIサービスを社員が勝手に利用してしまうことは防がなければならない。

　3つ目は「社内ポリシーに反した利用発生のリスク」だ。生成AIの回答内容をそのまま提案資料に使うなど、ルールを逸脱した利用が発生する可能性がある。場合によっては虚偽情報の流布や法令に抵触する可能性もあるだろう。

　そして4つ目が「利用状況が不透明になるリスク」である。不適切な運用が行われていたとしても、それを適正に確認・監査できず、運用改善が図れないというリスクだ。

　「このように、社員の生産性を大きく高めることが期待される生成AIの活用には、多くのリスクが内在していることをしっかり認識し、適切に備えることが肝心です」と梅本氏は強調する。

　デジタルアーツは、Webセキュリティー製品「i-FILTER」を核とする製品・サービス群によって、これらのリスクへの対応を強力に支援している。

　高度なコンテンツフィルタリング機能で、Webアクセスに伴うリスクを低減する。コアテクノロジーは、膨大なWebサイトの情報を保有する高網羅率DBだ。約120のカテゴリに分類された登録情報に基づくアクセスブロックと、未登録カテゴリのブロックを組み合わせた「ホワイト運用」によって業務の安全を守る（図1）。 　「例えば、冒頭で紹介した公式の生成AIサービスを装った偽サイトからマルウエアをダウンロードさせる攻撃やWormGPTは、既にDBに登録されているため、アクセス自体を防ぐことが可能です。また、日々新たに生まれるBotなどはホワイト運用によってブロックできます」と梅本氏は説明する。

　また、ユーザーがDB未登録のURLにアクセスしようとした際は、クラウド上の「i-FILTER」がそれを検知して当該サイトの安全性を確認。その上で、適切にカテゴライズと登録を行う「クラウドルックアップ」機能も搭載している。これによりDBの網羅性をさらに高めているわけだ。

　さらに、拡張子ベースのリスク判定で不審なファイルのダウンロードを防ぐ「ダウンロードフィルター」や、ファイルをサンドボックス上でリアルタイムスキャンしてダウンロード可否を判定する「Anti-Virus & Sandbox※」などの機能も装備。多層的な安全性強化が可能だ。

　WormGPTが生成するようなフィッシングメールの受信時にも、メールセキュリティー製品「m-FILTER」で対策ができる。デジタルアーツが独自に収集した安全な送信元のIPアドレスとメールドメインを組み合わせて格納したDBを利用し、DBに登録されている安全な送信元からのメールを受信するホワイト運用が可能だ。「メール本文や添付ファイル内のURLを『i-FILTER』のDBに問い合わせて、危険性が認められた場合はメールをブロックする『脅威URLブロック^※』をご利用いただくことも可能です」と梅本氏は付け加える。

※

オプション機能

　加えて「i-FILTER」は、先に紹介した生成AI利用にまつわる4つのリスクに対する備えも提供している（図2）。 　まず機密情報の入力による情報漏えいリスクに対しては、「AIチャットフィルター」を用意。指定した単語が含まれる生成AIへの入力を検知し、ブロックする機能だ。「『顧客データ』『見積情報』『議事録』など任意の単語の設定が可能です。注意すべき単語をまとめたテンプレートも提供しているため、即座に運用を開始できます」と梅本氏は述べる。

　さらに、DLP・ファイル転送サービス「f-FILTER」が提供するDLP（Data Loss Prevention）エンジンで入力内容をスキャンし、管理者が指定したポリシーに触れる個人情報や機密情報の入力をブロック、あるいはマスキングする対応も可能だという。

　シャドーITの制御に向けては、アクセス時に警告画面を表示できる。表示内容は自由に設定可能だ。加えて、ChatGPTやBing AI、Google Geminiなど、サービスごとの許可／ブロック設定も簡単に行えるほか、生成AIの利用アカウントを企業が管理するもののみに制限することも可能だ。「高度なアクセス制御、アカウント制御の機能を利用することで、『生成AIの回答をそのまま社外に送付する』といった3つ目のリスクにも対処することができるでしょう」（梅本氏）。

　さらに、生成AIの利用状況をグラフィカルに可視化したり、入力／回答内容のログを取得したりする機能も実装。これにより、利用頻度が高いユーザーやブロック回数の多いハイリスクユーザーが誰なのか、およびその投稿内容を確認することも可能だ。

　「利用実態が可視化できれば、その内容を分析して改善につなぐこともできるようになります。より良いポリシー／ルールづくりに生かすなど、社内の生成AI活用のガバナンスを強化することが可能になります」と梅本氏は言う。

　リスクを気にするあまり、生成AIのビジネス活用を止めることは得策とはいえない。企業は、生成AIによってもたらされるリスクを正しく把握し、安全に使うための対策を打つことが肝心だ。デジタルアーツのソリューションは、その際の心強い味方になるはずだ。