AIセキュリティはシスコへ 日本企業はリスクを回避し、
AIで「攻勢」に出よ

——2024年9月、シスコはAIリスク管理分野をリードするRobust Intelligence（ロバスト・インテリジェンス）の買収を完了しました。同社は創業者の1人が日本人だったことで、日本でも注目されていた企業です。なぜ、シスコはAIセキュリティに注力するのでしょうか。

濱田義之氏（以下、濱田） 世界初、コンピュータ同士をつなぐマルチプロトコルルーターの開発が、シスコ創業のきっかけでした。インターネット、クラウドといったエポックメイキングにより、それを支えるネットワーク機器メーカーとして事業も役割も大きく広がりました。

ネットワークが拡大するほど、安心・安全に「つなぐ」ことが一層求められます。時代のニーズに応えるべく、現在はセキュリティに注力しています。ソリューション提供はもとより、世界的な研究者、アナリスト、エンジニアで構成される世界で最も信頼されているビジネス向け脅威インテリジェンスチームCisco Talos（タロス）は、防衛省陸上幕僚監部をはじめとする各国政府機関との情報共有も行っています。

社会や産業を変革するAIも、開発から学習・展開までネットワークなくしては成り立ちません。AIの民主化とAIセキュリティは表裏一体です。難しいのは、これまでのセキュリティの考え方ではAIの脆弱性に対応できないということです。Robust Intelligenceの知見やノウハウを、シスコのソリューションやサービスに取り込むことは重要なポイントでした。

——AIのリスクや脆弱性とはどのようなものでしょうか。

濱田 代表的なリスクは、AIが事実と異なることや誤った内容を生成する、ハルシネーションです。AIは確率的に予測を繰り返し回答を生成するため、それを見た人に知識がなければ、その回答が正しいかどうかを判断することは難しいと思います。また、人種差別など有害な出力をしてしまうケースもあります。これは様々な質のデータを大量に学習した結果としてバイアスや倫理的に問題のある出力を生成してしまうためです。また、攻撃者がAIの技術的な脆弱性を利用して、あたかも普通の質問をしているように振る舞いながら、徐々に機密情報を出力させるように誘導させることも考えられます。そして、ビジネス観点で注視すべきは、こうしたAIリスクや脆弱性によって起こるインシデントの責任は、利用している企業に帰属するということです。海外では実際にAIが引き起こしたインシデントが訴訟になったケースもあり、判例も出ています。シスコの2025年版「サイバーセキュリティ成熟度指標」の中でも、グローバルで86%（日本では81％）の企業が過去12カ月間にAI関連のセキュリティインシデントを経験したと回答しました。AIの脆弱性という新たな脅威は、AI活用シーン拡大とともに加速度的に広がると考えています。

——サイバーセキュリティでは捉えきれない、AIの脆弱性に対応するポイントをお聞かせください。

濱田 2010年代からAIの脆弱性が社会問題になり得ると考え、ハーバード大学で研究が行われていました。研究者たちが立ち上げた会社がRobust Intelligenceです。AIにはこれまでのITリスクとは異なる特有のリスクが存在します。

例えば、生成AIは複雑かつ大規模な計算によって出力を行います。その過程はブラックボックス化されており、脆弱性を把握することは困難です。データの品質にはバイアスが存在し、時間の経過とともにAIモデルの性能が変化します。さらに、トレンドとなっている、自律的行動で目標を達成するAIエージェントでは、複数のAIが連携することも想定されます。このように、AIリスクは複雑化する一方なのです。Robust Intelligenceは、アルゴリズムでAIのリスクを評価し、解決に導く研究のパイオニアです。この技術と研究者の知見をベースに開発したのが、AIセキュリティソリューション「Cisco AI Defense」です。

——AI Defenseの特徴を教えてください。

濱田 AIに対し脆弱性を把握するためには、攻撃者の立場から質問（プロンプト）を繰り返し、継続的に回答を評価することが必要です。これはマルチクラウドに広がるAIモデルに対して横断的に実施しなければなりません。生成AIのように、誰でも自然言語で簡単にAIの利用が可能になった世界では、人手で脆弱性を可視化し、包括的な対策を施すことは非現実的です。AI Defenseは、Robust Intelligenceの最先端のテクノロジーを活用し、アルゴリズムで自動的にレッドチーミングを行い、脆弱性の評価とモデルの保護（ガードレール）を企業全体に適用する仕組みを提供します。

——AI Defenseは、日本市場にリリースされましたか?

濱田 AI Defenseを、最初にリリースした国は米国と日本です。シスコは、これまでも日本市場を重視してきました。今回も同様です。ものづくりの技術、知見、ノウハウに長けた日本に対する期待は大きなものがあります。今年の3月にCisco AI Defenseを日本でリリースした際には、NECと生成AI活用の推進を目的としたAIガバナンス分野での協業を同時に発表しています。NECは、2023年から現在シスコの一員であるRobust IntelligenceとNEC開発の生成AI「cotomi（コトミ）」のリスク評価に取り組んできました。 AI DefenseとNECのコンサルティングを組み合わせたNECのAIガバナンスサービスを、2025年秋より提供開始します。シスコとNECは、日本企業の視点に立って安心・安全なAI活用の推進に貢献していきます。

——シスコは、AI時代を担うGPU（グラフィックス処理ユニット）の製造で知られるNVIDIAとも協業しています。狙いはどこにあるのでしょうか。

濱田 AI活用拡大では、AI対応データセンターにおける運用の複雑さや、セキュリティ要件への対応が課題となっています。課題解決に向けて、シスコとNVIDIAは、AI対応データセンターネットワーク構築を簡素化する、統合アーキテクチャの実現を目指します。シスコは、AIインフラとAIセキュリティの両軸で、社会変革の鍵を握る「AIの民主化」の実現を支えていきます。

——AI時代を企業が勝ち抜くためには包括的な視点が必要です。シスコのアプローチをお聞かせください。

濱田 AIセキュリティのもとAIを活用したワークプレイス、それを支えるインフラ（AI対応データセンター）、あらゆる攻撃に対応し回復する「デジタルレジリエンス」、これらをOne Cisco Platformとして提供し、「AI時代において、組織をつなぎ、保護する」を実現します。

——日本企業がAI時代を勝ち抜くために、重視すべきポイントをお聞かせください。

濱田 クラウド時代において、日本は提供側ではなく使う側にまわったと感じています。AI時代はどうか。米国も欧州も、AIの暴走や、AIに仕事を取られてしまうという危機意識から規制を強めています。日本は、ロボットアニメのキャラクターを通じてAIに親しみを抱く文化が形成されていると思います。また、高齢化や人口減少の進展に伴う、人手不足解消のためにAIを最大限に活用することが求められています。AI活用の成功モデル創出は、日本が攻勢に出るドライバーとなります。懸念要素は、AIの脆弱性に関する対応不備による、社会的信用の失墜でブレーキがかかるという点です。ものづくりでは、必ず品質テストを行います。AIにも品質テストが必要です。AIセキュリティは、日本企業の活躍を支え、品質を強みに変えます。

シスコシステムズが実施したAI成熟度指標では、AIを活用できる体制が整っていると回答した企業は13%に過ぎません。日本企業はわずか4%でした。AI時代はまだ始まったばかりです。ただ、急速に進展しているという視点も重要です。シスコはAIセキュリティとAIインフラの両面から、日本企業を支援するべく組織体制も含め強化を図っていきます。

関連リンク

お問い合わせ