オープニングで登壇したアクセンチュアの戸賀慶氏は、「今、AIはすさまじい勢いで進化しています。とくに生成AIが登場したこの2、3年の間で、CEOから現場労働者、さらに外部のステークホルダーまで、ビジネスプロセスや働き方が抜本的に変わることが共通認識となりました」と語る。

変わることが共通認識となり、ゴールのイメージもおぼろげながら見えてきている。しかし、アクセンチュアが様々な業界の人と会話をする中で課題として挙がったのは、そのゴールまでどうすればたどり着くことができるのかが分からない、といった悩みだという。

アクセンチュアはAWSと共に、そうした悩みを持つ企業をゴールに導くための支援を行っているが、進める上で2つのポイントがあると戸賀氏は話す。

1つは、ビジネスプロセスだ。これまでは既存のプロセスにAIをどう組み入れ、自動化するかに力が注がれてきた。「ポイントだけの“つまみ食い”では、一定の効率化はできるものの、ゴールにたどり着くことは難しい。ビジネスプロセスそのものを、人とAIが一緒に働く形に変えていくことが必要です」（戸賀氏）。

もう1つは、AIを安心してビジネスで使える環境づくりだ。戸賀氏は、「ブラックボックス化する恐れがあるAIを安心して使うことができるように、倫理的にもビジネス的にも問題なく活用できる環境を整える必要があります。本セミナーはこの2つについて、両社の最新情報を共有する場として話を進めていきます」と語った。

続いてのセッションでは、アクセンチュアの鈴木博和氏とテランドロ・トマ氏が登壇。まずは鈴木氏より、責任あるAI（Responsible AI：RAI）を企業が実装するための具体的な方法論について説明した。

生成AIの登場はビジネスを大きく変えるポテンシャルを持つが、一方で企業に対して新たなリスクをもたらしていると、鈴木氏は語る。「Webセキュリティを推進する非営利団体のOWASP（Open Web Application Security Project）が毎年出している脅威レポートでも、生成AIの浸透によりランキングに大きな変化が起きています。従来は生成AIのモデル単体のリスクを管理すれば良かったのですが、2025年のランキングでは、システム全体のリスクが浮上してきています^*1」（鈴木氏）。

＊1：OWASP（2025 Top 10 Risk & Mitigations for LLMs and Gen AI Apps）

そこで必要になるのが、AIのリスクを管理する、責任あるAIの考え方である。鈴木氏は「責任あるAIは、必ずしもリスク回避の取り組みだけを指すものではありません。AIのリスクを管理することでAIモデルを信頼し、自信を持ってビジネスを拡大することにもつながります」と話す。

アクセンチュアでは、顧客企業に対して責任あるAIを実現するための「RAIアーキテクチャ」構築を提案している。各企業が持っている基本的な原則を頂点に、それを社内規定（ポリシー）に落とし込み、現場の業務に展開するためのガイドラインと、最終的なシステムの構築につなげていくのだ。

鈴木氏は、責任あるAIのための企業のガバナンス構築において、リスクマネジメントが重要だと話す。「IT開発、セキュリティインシデントなどのリスク管理の中に、AIのリスクを組み込み、継続的にモニタリングすることでリスクを緩和する必要があります」（鈴木氏）。

複雑化するAIのリスクを統合的に管理するため、アクセンチュアが企業に提供しているサービスが、「RAI Hub」である。その概要を、トマ氏がデモを交えて説明した。

RAI Hubは、企業が行うAIプロジェクトに際して、「AIガバナンス」「リスク特定と評価」「リスク対策」「モニタリング」の4つのステップでリスク管理の機能を提供する。「RAI Hubによって、プロジェクト担当者は開発の各プロセスで承認ワークフローを実行し、リスク管理部門とコミュニケーションを取りながら、リスクを軽減していきます。複数のプロジェクトに対して、AIリスクを網羅的、一元的に管理できるため、AIガバナンスの一貫性を確保しつつ、業務の効率化を図ることができるのです」（トマ氏）。

RAI Hubのデモでは、AI開発プロジェクトの登録からリスク特定と評価、対策実施とリリース後のモニタリングまで、開発チームとリスク部門がどのような画面で情報を共有していくかが紹介された。

トマ氏は、「開発中にどんなリスクを検知できたか、また運用時に企業のポリシーに反する生成AIの回答を何件ブロックしたかを、チケットでカウントすることができます。そのため管理部門は、少ない人員でも企業全体のAIリスクを把握することができるのです」と語った。

最後に、AWSの石倉徹氏が登壇し、AWSの生成AIアプリケーションにおけるセキュリティ設計と実装について説明。生成AIのセキュリティフレームワークを使うにあたり、石倉氏は、3段階のアプローチで取り組むべきだと語る。

まずは「ユースケースの理解」である。「生成AIは既存の製品をそのまま使うのか、独自にLLM（大規模言語モデル）アプリケーションを開発するのか、それともファインチューニングで使うのかを定める必要があります」（石倉氏）。

次に、それぞれのユースケースによって生じるリスクを、フレームワークに基づいて特定し、分析する。

最後に、リスクに応じた対策の実行だ。「例えば、1つの生成AIアプリケーションについてプロンプトインジェクション対策をしても、網羅性がありません。ユースケースごとにリスクを精査し対策することで、全体のガバナンス整備ができるのです」（石倉氏）。

AWSが提供する「The Generative AI Security Scoping Matrix」は、ユースケースを5つのスコープで特定するフレームワークだ。コンシュマーアプリケーション、エンタープライズアプリケーション、事前学習済みモデル、ファインチューニングモデル、独自学習モデルの5分類について、起こり得るリスクと対策の例を示している。

これにより企業は、開発するAIアプリケーションが5つのどのスコープに当てはまるかを整理し、リスクと対策を確認することが可能だ。「フレームワークがあることで、開発スピードを保ちながらセキュリティも確保できます」（石倉氏）。

生成AIをアプリケーションに組み込む場合、法律とプライバシーの確認も重要だ。モデルのEULA（エンドユーザーライセンス契約）により、利用における責任などが確認できる。また、AWSの生成AIサービスである「Amazon Bedrock」においても、EULAを確認することが可能だ。EULAは、改定されることがあるため定期的な確認が重要となる。

リスク対策機能としては、「Amazon Bedrock Guardrails」も提供。同サービスを利用することで、アプリケーション要件と責任ある AI ポリシーに合わせてカスタマイズされた保護手段を実装できる。例えば、プロンプトインジェクション等、悪意のあるプロンプトに対する入力・出力をブロック・緩和し、情報漏洩や攻撃回避につなげることが可能だ。

また、昨今注目を集めるAIエージェントのセキュリティ対策も課題となっている。「AIエージェントアプリケーションは、AIエージェントがユーザーに代わって外部システムを操作する場合もありますが、その認証認可については、適切な実装が必要となります」（石倉氏）。そのためAWSでは、「Amazon Bedrock AgentCore」にて、AIエージェントの認証認可機能をマネージドサービスとして提供しているという。

このようにAWSでは、生成AIに関して様々なリスク、セキュリティ対策機能を提供している。石倉氏は最後に、「組織内で生成AIを安全に利用するためには、従来のセキュリティ対策も含めた多層防御の観点が重要です。その上で、マネージドサービスを活用して実装を効率化し、適切な緩和策を取るべきだと思います」と語った。