法律と社会の2階建で
AIリスクを考えていく

　企業活動の中でのAIの位置付けについて、日本IBMでIBM AIセンター長を務める山田敦氏は「企業はお客様からの依頼や期待、時には苦情などを受けて、回答をお客様に返していくことで成り立っています。言い換えると、受け取った情報を社内向けに変換し、付加価値をつけてお客様に戻す情報変換の旅をしています。その観点から見て生成AIが活用できる場面は多いと言えます」と話す。

　しかし、生成AIで指摘されるリスクはいくつもある。デマを流してしまったり、人権侵害や名誉毀損につながるような発言をしたり、人に誤解を与えたり暴言を吐いたりする恐れもある。また、回答を得るための質問で情報漏洩することもある。さらにAIの特性を逆手にとった悪意を持った攻撃も考えられる。

　これらのリスクと企業はどのように向き合えば良いのだろうか。日本IBMでAIビジネス全般をリードする竹田千恵氏は「AIのリスクは2階建で考えていく必要があります。1階部分は法律や規則を守る遵法性・合法性であり、2階部分は社会的に受け入れられるものかどうかという社会的受容性です」と解説する。

　AIに関する法的な規制やガイドラインについては欧州を中心に活発に議論され、日本政府も独自の姿勢を打ち出している。こうした法令遵守について正しい理解を持つだけでなく、生成AIへの取り組みが消費者や顧客にどう受け止められるのかをリスクとして意識しておく必要がある。

　リスクとしてまず挙げられるのが情報漏洩だ。多くのAIはクラウドベースのサービスであり、そこにどこまでの情報を渡すのかが問われる。顧客の個人情報、契約情報、製品開発情報などが漏洩すれば顧客の信頼を失ったり、期待を裏切ったりする結果になる。

　また、著作権の侵害にも注意が必要だ。生成AIにインプットされる情報は学習データと質問部分であるプロンプトである。これらの中に他者の著作物があると著作権侵害につながる恐れがある。「特に注意が必要なのは社外に結果を出す時です。学習させたデータやプロンプト入力にそういうデータが含まれていないか事前に確認する必要があります」（山田氏）。

　さらにバイアスや偏見を招くリスクもある。適切だと思われていたAIモデルが出力した回答でも、地域や人種によっては差別発言と受け取られてしまう場合がある。社会的受容性の問題だ。その他にも悪用やデマなどのリスクがある。

組織、技術、契約、教育の
それぞれでリスク対策を

　リスク対策としてはどんなことをやるべきなのだろうか。山田氏は「組織やプロセスでAIガバナンスを確立すること、技術を使ってリスクが起きないように自動化すること、契約でリスクを回避すること、教育によってリスクに対して従業員の意識を高めることが必要になります」と語る。

　AIガバナンスを確立する手法としては、社内のAI開発者が倫理的なプロセスを守るように助言するセクションを社内か社外に置くことが挙げられる。「開発者は性能や納期を優先しがちです。それが行き過ぎないようにリスクを意識してコントロールする補助輪です。ダメ出しをするのが目的ではなく、安心して前進するためのガードレールの役割です」（山田氏）。

　リスクを減らす技術としては大きく3つある。どんなデータが入力され、どんな結果になったのかをトレースする技術、環境の変化に対応してAIの性能劣化をモニタリングする技術、そして法律に対してAIモデルが対応できているかを検証する技術だ。これらの技術を組み合わせることが重要になる。

　日本IBMが提供しているAIである「watsonx」にはこうしたリスク対策が盛り込まれている。watsonx.governanceでは、AIモデルのイベントを管理して実態を把握する機能、モデルの精度やバイアスなどをモニタリングする機能、ダッシュボードでリスクを可視化する機能などが用意されている。

　竹田氏は「企業の社会的信用を意識した使い方をすることで、レピュテーション（ブランド毀損）リスクを防ぎ、万が一不利益を受けたというクレームがあった時にも、説明できるだけの情報を持っていることが重要です」とリスクを減らす技術を活用する意義を語る。ビジネスに生成AIを活用する場合には説明可能性、透明性とガバナンスが欠かせないだろう。

啓蒙活動の第一弾として
「AIリスク教本」を出版

　日本IBMではこうした技術的な仕組みだけでなく、AI倫理ワークショップのようなリスクと対策を洗い出す教育プログラムを提供している。そこではAI倫理と長年向き合ってきた自身の経験が活かされている。最上位の諮問委員会の下にAI倫理委員会が置かれ、各部門にAI倫理担当者がいて、AIプロジェクトは用途やAI原則への適合、法令遵守などの観点から適切に審査されている。

　「IBMは100年以上ITビジネスをリードし、常に信頼と責任を大切にしてきました。ご提供できれば良いのではなく、社会に受け入れられることが重要なのです。そのDNAからAI技術の進化がこのままで良いのかを考え、2018年からIBM社内にAI倫理委員会を置いて問題提起をしてきました」と竹田氏は同社がAI倫理に取り組んできた背景を語る。

　生成AIが大きな話題になるに連れて、同社のAI倫理に対する取り組みも加速している。2023年12月には日本IBM AI倫理チームが著者となって「AIリスク教本」（https://bookplus.nikkei.com/atcl/catalog/23/12/04/01133/）を出版し、またオープンで責任のあるAIの確立に向けて、IBMとMetaが中心となって50以上の団体が参加する国際コミュニティ「AI Alliance」を立ち上げている。

　「AI Allianceのサブワーキンググループの一つでは、信頼できるAIのための技術や評価方法がテーマになっています。ITの世界を牽引してきたIBMの責任として、安心してAIが使える社会にするために、アクセルを踏むだけでなくガードレールを敷くための技術もしっかりやっていきます」と山田氏は話す。

　竹田氏は「日本IBMでは共創プログラムも用意しています。生成AIでどんな価値が生み出せるのか、IBM watsonxがどう役に立つのかを体感できるProof of Valueにも取り組んでいます。日本企業の成功のためにこれからも伴走していきます」と意欲を語った。