AI活用で拡大する攻撃側と防御側の格差
サイバー攻撃とセキュリティーの攻防は、本質的に非対称戦となる。防御側はすべての侵入口を守らなければならないが、攻撃側はたった1つでも弱点を見つければよいからだ。
そして生成AIやAIエージェントの登場によって、この非対称性はさらに拡大・悪化している。攻撃者はAIを使って脆弱性を発見し、攻撃することが可能となっている。特にAIエージェントは自律的に判断し行動できるため、サイバー攻撃に使われた場合の影響は非常に大きい。
MITスローン経営大学院のマイケル シーゲル博士は、昨今の変化を次のように指摘する。
「脆弱性が発見されてから悪用されるまで、2023年には150日かかっていたのが、2026年にはわずか2分にまで短縮されています。一方、防御側が脆弱性を発見してからパッチを適用するまでの期間は32日でほとんど変わっていません。この格差が、現在のサイバーセキュリティーの大きな危機を生み出しています」
攻撃側は、コンプライアンスや監査、取締役会承認、ブランドリスク、法的責任といった制約を受けることなく、AIを素早く実験し、失敗しても容易に再試行できる。これに対して防御側は、これらの制約を常に受けているため、生成AIやAIエージェントをすぐに全面導入するのは困難だ。
さらに、防御側がAIを利用する場合にも、様々なリスクに直面する。
シーゲル博士は、AIツールに機密情報をさらしてしまうリスク、学習データに悪意あるデータを混入されるデータポイズニング、プロンプトインジェクション、ディープフェイクなどを例に挙げ、「偽の取締役会を装ったディープフェイクによって、多額の資金が詐取されたケースもあります」と警鐘を鳴らす。
攻撃側と同等以上の戦術・技術・手順を活用せよ
ただし、悲観するばかりではいけない。「防御側がAIを適切に取り込み、ガバナンスや規制とのバランスを取りながら自律型防御能力を高めれば、長期的に状況を改善できる可能性があります」とシーゲル博士は強調する。
防御側によるAIの新たな活用例として挙げたのは、重要インフラにおける異常検知、攻撃経路の特定、セキュリティーインシデントへの対応、マルウエアのリバースエンジニアリング、リアルタイムのリスク管理とコンプライアンス、エージェント型セキュリティーオペレーションセンター(SOC)、自律的なセキュリティー調停、防御のためのLLM活用などだ。
ここで重視すべきは、攻撃側と防御側の戦術・技術・手順(Tactics, Techniques, and Procedures:TTP)がどれだけ重なっているかによって、防御側の対策の有効性が大きく変化する点である。
攻撃側と防御側がまったく異なる道具や技術を使っている場合、防御側は攻撃者が発見する脆弱性や攻撃手法を十分に予測できない。このため、攻撃者が先に脆弱性を発見し、蓄積していくことになる。しかし、防御側が攻撃側と同じ、または近いTTPを使えるようになると、状況は大きく変わる。
「防御側は、攻撃者に先んじて脆弱性を発見できるようになります。また、攻撃者が蓄積している脆弱性を特定し、パッチを当てることも可能となります」とシーゲル博士は説く。つまりTTPの重なりが大きくなるほど、防御側は攻撃側の行動を予測しやすくなり、脆弱性を事前または早期に修正できるようになるのだ。
さらに、防御側が攻撃側を上回るモデルや技術を持つようになれば、攻撃者が蓄積している脆弱性そのものが減少に転じることになる。
特に今後を見据えた場合、重要インフラのサイバーリスク管理は不可欠であり、防御的AIシステム導入に関するガイドラインを整備するとともに、攻撃対象領域(Attack Surface)を管理しつつAIエージェントをその一部として組み込んでいく必要がある。「より優れたモデルを持つ側が、最終的にセキュリティーの主導権を握ります」と、シーゲル博士は訴えた。