従来型AIから生成AIやエージェンティックAI、さらにはフィジカルAIへと急速に進化し続けているAI技術。企業の業務革新を後押しする一方で、今までは想定されていなかったようなインシデントも発生している。AIの力をビジネスに役立てていく上では、技術面だけでなく倫理的・社会的視点にも目を向けることが必要だ。こうした状況を背景に、各国の政府機関においても様々な法規制整備が進められている。

　「AIによる予期せぬインシデントを防ぐためには、技術的な視点だけでなく人権尊重や社会への配慮も不可欠です。また、各国とも過度な法規制は避けるスタンスであるため、企業自身が主体的にポリシーや対策を整備しなくてはなりません。さらに、法規制もまだまだ流動的であるため、様々な変化を迅速にキャッチアップすることが重要です」と話すのはNTTデータの宮下 和樹氏だ。

　こうした中、NTTデータでは、AIガバナンスの実装に向けた取り組みを積極的に行っている。「『NTTグループAI憲章』では、AIの恩恵をすべての人が享受できるように努め、人と地球の持続的発展を追求することを掲げています。当社でもこの方針のもと、産・官・学の共創の中心となり、『信頼できるAI』の実現を構想から社会実装、運用まで一気通貫でリードする取り組みを進めています」と宮下氏は説明する。

　こうした考え方のもと、同社では「全社レベル」と「現場レベル」という2つの軸から取り組みを推進している（図1）。 　まず全社レベルにおいては、「持続的発展の追求」や「人間主体の活用」、「社会との対話と共創」といったNTTグループAI憲章の理念に基づき、全体的なポリシーやガイドラインの策定を推進。加えて、技術や法規制、社会規範の変化に対応するために、「AIアドバイザリーボード」の設置や各種外部機関・団体との連携も進めている。

　「AIアドバイザリーボードは、AIガバナンスの改善・高度化を目的とした議論を行う組織であり、社内メンバーと外部の有識者で構成されています。AIのリスクは倫理的・社会的な問題にも関わるため、法務や倫理、消費者分野などの専門家にも参加してもらっています。また、CRO（チーフ・リスク・オフィサー）やCTO（チーフ・テクノロジー・オフィサー）といった幹部層だけでなく、AIに関わる実務層も加わることで、方針論に終始せず、実際の業務に落とし込むことを前提とした議論を実践しています」と宮下氏は話す。

　一方、現場レベルでは「AIリスクチェック」や「AIガードレール」などの仕組みを用意することで、社内におけるAIの開発や利活用を安全に行えるようにしている。

　前者のAIリスクチェックは、AI関連プロジェクトの安全性を担保するもの。現在では社内のすべてのAI関連プロジェクトを対象に実施されており、AIリスクの複雑さを踏まえ、形式的ではなく実効性を重視した運用が行われているという。

　具体的には、国内外の法規制やガイドラインなどに基づいてリスクチェックシートを定義。これを基にプロジェクトマネージャー（PM）とAIガバナンス運営組織がプロジェクトのリスクを評価する。「まずはPMがチェックを行いますが、個々のユースケースを漏れなくカバーするのは限界があります。そこで慎重な判断が求められるものについては、専門家による評価やコンサルを行う2段階方式を採用しています」と宮下氏は話す。

　その結果、「禁止レベル」と判定された場合にはAI利用を見直す、「ハイリスク」と判定された場合はリスク低減措置を取るといった形で、リスク対応のアクションへとつなげていくわけだ。

　後者のAIガードレールは、従業員が安全にAIを利用できるようにするための仕組みだ。生成AIの業務利用が急速に広がる中で、情報漏えいや倫理的に不適切な出力といったリスクをどう抑制するかは、多くの企業に共通する課題となっている。こうした中、国内ではまだ本格的な採用が始まったばかりの領域ではあるものの、NTTデータではAIガードレールの導入をグローバル規模で推進している。その背景にあるのは、「誰もが安心してAIを使い、その恩恵を享受できる環境を整えることが不可欠」という考え方だ。

　「当社でも、開発や営業支援など様々な業務で生成AIを利用しています。そのリスクを軽減するために、ユーザーの入出力をAIガードレールで追跡しています。有害な入力や応答をブロックするなど、現場が安心してAIを活用できる環境づくりを進めています」と宮下氏は話す。

　こうした同社の取り組みは外部からも高く評価されており、総務省・経済産業省のAI事業者ガイドラインでも先進事例として紹介されている。また、AIマネジメントシステムの国際標準規格であるISO/IEC 42001の認証も取得。さらに現在では、AIガバナンスの取り組みを一歩進めて、様々な先端技術と社会の調和を目指す「テクノロジーガバナンス」の確立も目指しているという。

　加えて同社では、これまで述べてきたような社内実践の知見を盛り込んだソリューション「Responsible ＆ Secure AIサービス」の提供も始めた。ここでは「AIガバナンスコンサルティングサービス」「AI Assuranceサービス」「AI Protectionサービス」の3つのサービスを用意。現状分析から対策の実行まで一気通貫で支援することで、企業の持続可能なイノベーションに貢献しようとしている（図2）。 　「AIガバナンスコンサルティングサービスでは、まずお客様のガバナンスの状況をアセスメントします。その際、NTTデータ自身が試行錯誤しながら構築してきたガバナンス体制や、その背景にある考え方も併せてお伝えしています。単に形を当てはめるのではなく、設計意図を理解していただいた上で、実効性のあるガバナンス体制を構築していくことが重要だと考えているからです」（宮下氏）

　加えて、プロジェクト単位でのリスク評価にも対応している点も特長だ。社内の複数AIプロジェクト審査で培った知見とエキスパートのノウハウを基に、個別プロジェクトのリスクを多角的に見極めることで、机上の空論にとどまらない現実的な判断と対策立案を可能にしている。

　2点目のAI Assuranceサービスは、AIの安全性と信頼性を高めるためのサービスだ。攻撃的な入力や想定外の入力をあえて行い、その応答を評価することで潜在的なAIリスクを洗い出す。

　「本サービスの特長として、日本語固有のリスクにも対応できる点が挙げられます。たとえ多言語対応のモデルでも、日本語を使った際には想定外の動作をするケースもあります。当社では日本語データセットを独自開発していますので、こうした固有リスクも検証できます」と宮下氏は話す。

　さらに、もう1つの特長が、複数モデル・システムの比較による構成提案である。同社では長年にわたりAIモデル研究やAIシステム開発を行っているため、様々なモデルの傾向や強み・弱みを熟知している。これを生かすことで、最適なモデル選定やシステム設計を実現できるという。

　最後のAI Protectionサービスは、今後の拡張性を見据えたAI保護の枠組みであり、その中核サービスの1つがAIガードレールだ。その特長としては「既存ゼロトラスト製品との親和性確保」「グローバル展開に伴う課題へのノウハウ提供」「AIガードレール製品の更新に伴う知見」の3点が挙げられる。

　「企業内にはゼロトラスト製品が導入されているケースも多く、場合によっては機能干渉などの問題が生じることもあります。その点、当社では、数多くのゼロトラスト製品の導入経験がありますので、既存環境との親和性に配慮した導入支援が可能です」と宮下氏は話す。

　また、海外拠点への展開に際しては、国・地域ごとに異なる制度や文化への配慮が不可欠となり、特にAIによる従業員モニタリングへの懸念などから、現地労働組合との丁寧な調整が求められるケースも少なくない。その点、同社では自社のAIガードレールをグローバルで導入・運用してきた。そうした制度面・運用面・説明責任を含めた調整を重ねてきた経験を生かすことで、AIガードレールの導入を円滑に進めることができるという。

　さらに、AIガードレール製品の急速な進化に対しても、検証を高頻度に実施しており、導入後も継続的に安心して使い続けられるよう、実効性のある運用サポートを提供している。

　急速に進化するAI社会において、企業がAIを継続的に活用していくためには、社会からの信頼をいかに確保するかが欠かせない。AIガバナンスは単なるリスク回避ではなく、AIを安心して使い続け、価値創出を社会実装へとつなげるための基盤となるからだ。

　NTTデータでは、社会インフラを支えてきた公共性の精神を源流に培った知見を生かし、ResponsibleなAI活用に共感する企業とともに、信頼されるAIの社会実装を進めていく考えだ。