生成AIにおける“見えないリスク”にいかに対応するか
バイアス低減と人による監視が重要な理由

企業の生成AI導入は、これまでのあらゆる技術革新を上回るスピードで進んでいます。コンテンツ作成からコード生成に至る幅広い用途で生成AIが活用され、現在ではミッションクリティカルな業務にも不可欠な存在になっています。

一方で、AI活用の拡大に伴うリスクも増大していますが、その多くは十分に理解されていないか、適切に対処されていないのが現状です。セキュリティ対策、バイアス低減、人による監視は「後付け」で考慮するものではありません。これらは、持続可能で安全なAI導入を実現するための前提条件なのです。

拡大し続ける攻撃の対象領域

生成AIにおける代表的な脆弱性として知られているのが「プロンプトインジェクション」です。攻撃者が入力内容を操作することで、機密情報の漏えいや意図しない出力を引き起こす攻撃手法ですが、これはあくまでも問題の一部にすぎません。自然言語によるオープンエンドなインターフェースを持つ生成AIは、従来のソフトウェアとは本質的に異なる攻撃の対象領域を生み出しています。

セキュリティにおいては「一度設定すれば終わり」という考え方は通用しません。レノボをはじめとする企業は、製品やサービスとともに進化する「セキュア・バイ・デザイン」のフレームワークを採用しています。生成AIは、この新たなセキュリティ対策における次の重要領域であり、初期のデータ取り込みから導入、継続的な監視に至るまで、実装サイクル全体にわたる新たな防御策が求められます。

また、企業はデータ分類の在り方を見直す必要があります。従来の大まかな分類では不十分であり、詳細な分類と適切なラベリングをしなければ、アクセス制御は容易に機能しなくなります。特に、大規模言語モデル（LLM）を効果的に動作させるためには広範なデータへのアクセスを必要とすることが多く、この課題はさらに顕在化します。

こうした課題は、AIエージェント同士が相互にやり取りを行う「エージェント・トゥ・エージェント」型のシステムにおいて、より一層複雑化します。自律的な意思決定と相互接続されたワークフローにより、リスクが増幅するのです。各エージェント間のやり取りは、新たな攻撃の対象領域を生み、データ漏えい、非正規の権限昇格、敵対的な操作といった脅威を引き起こします。

これらのリスクは連鎖的に広がってシステム障害や誤りを増幅し、さらには驚異的な速さで誤情報の拡散を引き起こします。そして、セットアップから運用まで人が関与し、定期的にシステムを確認し続けない限り、従来型の監視手法では捉えきれないスピードで進化する可能性があります。

バイアス、信頼、そしてガバナンス

データ漏えいは深刻な問題ですが、真に重要なのは、その先に続く「長期的なリスク」です。バイアスのかかった出力は信頼を損ない、ステークホルダーに誤った情報を与え、企業ブランドの毀損につながります。さらに、医療や金融など高度な規制が求められる業界では、コンプライアンス違反による重大な罰則リスクを伴います。そのため、企業は責任ある倫理的なAIを重視し、AIのライフサイクルのあらゆるレイヤーにガバナンスを組み込み、常にその視点で継続的に評価しなければなりません。

ガバナンスを遵守するための要件は、次の3点に集約されます。

• 信頼できるデータソース：モデルは、信頼性が担保された検証済みの入力データのみを用いて学習および推論するべきです。「ゴミを入れればゴミが出る」という原則が示す通り、適切なデータ分類とラベリングが不可欠です。これにより、ハルシネーションの抑制やデータ漏えいリスクの低減にもつながります。
• フレームワークレベルの取り決め：AI実装フレームワークを検討する際には、初期段階でルールを設定し、データ取り込み、モデル挙動、出力といった複数レイヤーで検証する必要があります。これらを実施しなければ、不適切なデータ運用によりコンプライアンス上の問題が発生するリスクが高まります。
• 継続的なテスト：学習・推論のデータが増えるにつれて、プロセスや出力は変化していきます。そのため、導入前後に継続的な評価を行い、バイアスやドリフトを検知することが重要です。これらは出力の品質を低下させるだけでなく、企業の信頼や評判にも影響を与えるからです。

これら3つの要件を踏まえることで、企業は「ガバナンス・ファースト」の考え方を確立できます。AIは、企業およびエンドユーザーの双方にとって、公平で透明性があり、説明可能かつ安全でなければいけません。そして、ここでも人の関与が重要になります。自動化だけでは不十分であり、特に規制産業や社会的な影響が高い分野においては、訓練されたレビューアーが出力を検証した上で実運用に移すことが不可欠です。

成熟度のギャップを埋める

多くの組織は生成AIに伴うリスクを認識しているものの、そのセキュリティを実運用レベルで機能させるための成熟度モデルやトレーニング、あるいはツールが不足しています。多くの場合、対策はリリース前のチェックにとどまっていますが、生成AIのセキュリティを確保するためには、あらゆるアクセス段階でユーザーやデバイスを認証する「ゼロトラスト」ソリューションと同様の、ライフサイクル全体を通じた一貫した監視と警戒が求められます。

このような包括的な可視性とガバナンスを実現するためには、以下の取り組みが重要になります。

• 技術チームの枠を超えた教育：AIを責任を持って導入するには、組織全体で「セキュリティ・ファースト」の考え方を確立する必要があります。すべてのリーダーがその方針に賛同し、プロンプトの適切な管理やデータの機密性に関するベストプラクティスを遵守するようにしなければなりません。
• モデルの継続的テスト：ソフトウェアに定期的にパッチを適用するのと同様に、AIモデルも継続的なレビューが必要であり、その対象は導入ライフサイクル全体に及びます。
• DevSecOpsの統合：セキュリティファーストの考え方を技術部門に徹底させ、開発パイプラインに直接組み込む必要があります。
• アクセス権限の見直し：最小権限の原則を採用し、適切なシステム・人・役割のみにアクセスを許可する運用の徹底が必要です。
• 人の監視を伴うデータラベリングの自動化：AIツールは分類作業を加速しますが、文脈の正確な理解には人間による検証が不可欠です。
• インシデント対応シミュレーション：机上演習や責任範囲の明確化といった従来の手法は、生成AIのインシデント対応においても重要です。AIによる被害拡散のスピードを考えると、重要性はさらに高まります。

信頼こそが基盤になる

多くの企業は生成AIがもたらす革新性に期待を寄せています。しかし、その真価を引き出すために必要とされているセキュリティ要件を十分に備えていないケースも少なくありません。セキュリティファーストの文化を全社に浸透させ、サプライチェーンの透明性とライフサイクル全体のガバナンスを重視できる企業だけが、生成AIを安全かつ確実に活用するための「信頼」を基盤として確立することができます。

AI成熟度を次のステップに進めるためには、あらゆる段階でセキュリティ、ガバナンス、検証が求められます。技術の進化は導入のきっかけになりますが、それを持続させるのは信頼なのです。

生成AIの可能性は、セキュリティ、ガバナンス、人による監視が導入のすべての段階に組み込まれて初めて引き出すことができます。データの取得から継続的な監視に至るまで、AIライフサイクル全体に信頼を組み込むことで、企業は従業員や顧客、そしてブランドを守りながら責任あるイノベーションを推進できます。

レノボのAIサービスは、セキュア・バイ・デザインのフレームワーク、バイアスの低減、継続的な監視を通じて、企業の「信頼」の実装を支援します。生成AIを安全で持続可能な形で活用していただくため、レノボがどのようにご支援できるのか、ぜひご確認ください。

私は現在、レノボのソリューション&サービス・グループの最高セキュリティ責任者（CSO）です。インテリジェンスおよびセキュリティ業界での実績を持ち、多国籍マネージドサービスプロバイダーにおいて、セキュリティ・バイ・デザイン、統合、運用を主導してきました。