習田　多くの企業が生成AIのPoCに取り組んでいますが、実際に業務プロセスや意思決定まで変えられているケースは、まだ多くありません。

なぜAIは業務に組み込めないのか。その背景を考えるには、まずAI技術そのものがどのように進化し、企業に何を可能にしてきたのかを押さえる必要があります。

岡本さん、富士通は長年AI研究に取り組んできましたが、AI技術の進化とともに、企業が考えるべき「信頼」の条件はどう変わってきたのでしょうか。

岡本　AIという言葉自体は1956年のダートマス会議で使われたのが始まりとされています。半世紀以上前の1969年ごろから、富士通も文字や音声の自動認識技術を研究してきました。AIはこれまで何度も期待と限界を経験してきた技術です。近年はディープラーニング、そして生成AIの登場によって、企業での活用可能性が大きく広がりました。一方で、AIを業務に組み込むには、従来のITとは異なる信頼の設計が必要になっています。

桔梗原　当時の状況は、私もよく覚えています。AIには長い「冬の時代」があり、実用化に対する懐疑的な見方が社会全体に広がっていました。そんな時、コンピューティングパワーの向上と併せてディープラーニングが実用化され、AIの性能は一気に人間に近づいていきました。2016年3月にはAIが囲碁のプロ棋士に勝利し、大きな注目と期待を集め、今日に至ります。

習田　私はコンサルティング事業のトップとしてお客様の経営課題に向き合い、AIの導入を支援しています。ここ数年、多くの企業がPoC（概念実証）を実施していますが、本格的な導入まで進んだケースは多くありません。9割以上のPoCが、形にならずに終わっている印象です。実際のところ、企業のAI導入状況はどうですか？

桔梗原　日経BPは、AI活用の実態を2025年7月に調査しました。各種媒体の読者1450人を対象にAIの導入状況を聞いたところ、「全社的に導入している」と答えた人が38.8%、「一部で導入している」と答えた人が25.7%でした。

習田　一口に導入といっても、その中身が重要です。AIを試していることと、AIを業務に組み込めていることは違います。今日のAI活用の多くは、文章作成や要約、情報収集といった個人業務の支援にとどまっています。私の考えでは、本当に「業務に活用している」と言えるのは、AIによってワークフローや意思決定のあり方が変化している状態です。

しかし、そこまで進んでいる企業はまだ限定的です。PoCで止まる企業に共通しているのは、AIを“試す対象” としては見ていても、業務や意思決定に組み込むための信頼設計までは十分にできていない点だと思います。AI活用の壁は、単なる技術導入の壁ではなく、AIに信頼を組み込み、業務プロセスの中で制御可能にするための経営設計の壁でもあるのです。

では、企業は具体的にどこに不安を感じ、何を理由にAIの業務導入へ踏み切れないのか。

桔梗原　先ほどの調査によれば、AIを業務に導入できない最大の原因は「情報の正確性」にあります。

習田　AIの出力を業務にそのまま使うことに関しては、まだ課題が多いですよね。AIが事実と異なる内容を生成してしまう「ハルシネーション」は改善してきているものの、現時点ではまだ人間による確認が欠かせません。

岡本さん、研究の立場から見ると、こうしたAIの出力の揺らぎや不確実性は、従来のITシステムと明らかに異なる部分ですよね。

岡本　そこは研究所でも注目、検討してきました。従来のエキスパートシステムは、人がルールを定義し、同じ入力には必ず同じ結果を返す仕組みでした。しかしディープラーニングを土台にしている今日のAIは、同じ入力でも異なる答えを出す場合があります。

習田　昨日と今日で答えが変わると、企業の現場では確かに混乱しますよね。

岡本　重要なのは、企業がAIを従来のITシステムと同じものとして捉えないことです。これまでのITでは、「同じ入力に対して同じ結果が返る」ことが信頼の前提でしたが、AIは、文脈や条件によって答えが変わり得ます。

これは混乱の要因にもなりますが、人間の判断にも近い性質です。人間も知識や状況が変われば判断が変わります。だからこそ、AIを業務で使うには、答えが変わり得ることを前提に、なぜその答えに至ったのかを説明でき、業務の中で適切に制御できる仕組みが必要になります。それが、AI時代の信頼のつくり方だと考えています。

桔梗原　つまり、AIの信頼性とは、単に正しい答えを出すかどうかだけではなく、企業がその答えを業務の中で説明し、管理できるかという問題でもあるわけですね。

岡本　その通りです。AIを個人業務の支援に使うだけなら、人間が最後に確認すれば済む場面も多いでしょう。しかしAIが業務プロセスや意思決定に入り込むほど、説明できること、制御できること、そして安全に運用できることが不可欠になります。

習田　我々が企業変革を支援する中でも、AI活用に向けたデータ整備は大きな論点になっています。米国では5年ほど前からデータ基盤の見直しに取り組む企業が増えてきました。一方で、日本企業では、長年の個別最適によってシステムが複雑化し、部門ごと、業務ごとにデータが分断されているケースが少なくありません。AIが参照するデータが不十分だったり、業務上の意味づけが曖昧だったりすれば、当然ながらAIの出力の信頼性も下がります。AIに信頼を組み込むには、まずAIが使えるデータの状態を整える必要があるのです。

AI研究の観点では、データ間の関係性の重要性はどう考えますか？

岡本　研究所では、概念や関係性を体系的に定義するための「オントロジー^*1」や「ナレッジグラフ^*2」について、長く研究を重ねてきました。これは単にデータを集める技術ではありません。データの中にあるエンティティ同士の関係や、業務上の意味を整理し、AIが参照できる知識として構造化するための技術です。さらに、データから本質的な関係性を導く「因果分析」にも取り組んでいます。AIの答えを信頼できるものにするには、モデルだけでなく、AIが参照するデータの意味や関係性を整えることが重要なのです。

桔梗原　企業の現場を取材していても、データの重要性は分かっているものの、どこに何のデータがあり、それが業務上どうつながっているのかを把握できていないという声は多いです。AIを使う以前に、自社のデータ構造そのものが見えていないわけですね。

習田　まさにそこが経営課題です。桔梗原さんがおっしゃる通り、自社のデータ構造が見えていなければ、AIを入れても業務が変わるわけではありません。データがどこにあり、どの業務とつながり、どう加工されて意思決定に使われているのかを見える化する必要があります。データの流れを見ると、実際の業務プロセスや組織の動きも見えてきます。AI活用は、単なるシステム導入ではなく、業務とデータの流れを見直す変革そのものなのです。

富士通は自社変革プロジェクト「Fujitsu Transformation」、いわゆるフジトラを通じて、ビジネスモデル、業務プロセス、組織、人材、文化に至るまで、グローバル規模の変革に取り組んできました。自らを「カスタマーゼロ」として、まず富士通自身がデータと業務の変革に向き合い、多くの試行錯誤を重ねてきたのです。Wayfindersは、その実践知を顧客の変革支援に生かしています。だからこそ、AIを企業活動に定着させる難しさも、データを整える難しさも、現場感をもって捉えています。

私たちのプロジェクトでも、単にAIツールを導入するのではなく、経営課題から出発し、どの業務を変えるべきか、どのデータを整えるべきか、どこにAIを組み込めば価値につながるのかを一緒に見極めています。PoCを一過性の実験で終わらせず、業務の中で動く仕組みにしていくには、技術と業務変革の両方をつなぐ力が欠かせません。AIを企業活動に深く組み込むためには、さらに多角的な視点から信頼性を設計する必要があります。では、AIを業務に組み込むための信頼の条件を、どのように整理すればよいのか。Wayfindersはその条件を「Trust in AI」として5つの要素にまとめました。

*1 物事（概念）の意味や関係性を体系化し、コンピュータが理解できるように整理した知識の構造
*2 人、物、概念などの「知識」をネットワーク（グラフ）形式で整理し、データ同士の関係性を持たせて蓄積する技術

習田　この度Wayfindersでは、顧客の企業変革を支援する立場から、AIを業務に組み込むために必要な信頼の条件を「Trust in AI」として5つのコア要素に整理しました。一般にもよく議論される「説明可能」「安全・公正」「ソブリン」に加え、企業がAIを本格的に活用するうえでは、「持続可能」と「接続」も欠かせないと考えています。

岡本さん、技術の立場から見る「持続可能」と「接続」は、企業のAI活用において具体的にはどういったところになってきますか？

岡本　「持続可能」は、AIの運用に必要な電力やコストを抑え、長く使い続けられる環境をどう実現するかという定義。もう一つの「接続」は、多くのAIやAIエージェントが同時に動いても、不整合や遅延を抑え、異なるAIやシステムが確実に連携できる状態をつくることを指していると捉えています。AIを業務の中で安心して使い続けるには、この5つの要素をお客様にとって重要なファクターであると認識し、研究開発の観点でもこの5要素を意識する必要があります。

習田　各要素は共通の視点でありながら、実際の業務で何を重視するかは、お客様の業務やデータ、リスク特性によって変わりますよね。

「Trust in AI」の5つのコア要素の説明文
（出典）Uvance Wayfinders作成

習田　様々なお客様へのコンサルを通じて、実際にAIを業務に組み込むためには、この5つの要素を共通の視点として持ちつつ、お客様の業務やデータ、リスク特性に応じて実装していくことが不可欠だと考えています。

岡本　重要なポイントですね。個人の業務支援でのハルシネーションであれば影響範囲は限定的かもしれません。しかし、AIエージェントが自律的に動く場合は、より高い信頼性が求められます。お客様ごとの業務環境に合わせて、AIを安全に運用できる仕組みを設計する必要があります。

富士通では、長年にわたりAIの要素技術を研究してきました。その蓄積を、企業が業務で安全かつ安心に使える形で提供するため、2023年4月からAIプラットフォームとして「Fujitsu Kozuchi」を通じて先端AI技術を公開してきました。AIやデータ分析、認識、最適化、ナレッジ活用などの技術を組み合わせ、お客様が早い段階で活用・検証できる環境を整えています。

富士通の特長は、単にAIモデルだけを見ているのではなく、高性能かつ省電力性をAI向けに追求したMade-in-Japan CPU『FUJITSU-MONAKA』をはじめとして、データ、ネットワーク、コンピューティング、セキュリティ、運用まで含めて、AIを企業活動に組み込む環境全体を設計できることです。

習田　こうした技術基盤を顧客の経営課題や業務変革に結びつけ、実際に使える形へと落とし込んでいくのが、Wayfindersの重要な役割です。

ここまで見てきたように、AIを業務に組み込むには、モデル単体ではなく、データ、基盤、運用、そして業務変革まで含めた全体設計が必要になります。桔梗原さん、企業のAI活用の競争軸は、どこにあると見ていますか。

桔梗原　取材の現場でも、経営者の関心は「どのAIが賢いか」から、「そのAIを自社の業務に安心して組み込めるのか」に移ってきていると感じます。AIの性能が上がるほど、むしろ企業側には説明責任やデータ管理、セキュリティ、運用体制まで含めた備えが問われるようになる。

そう考えると、競争軸はモデル単体の性能ではなく、AIを業務の中で使い続けられる環境をどう設計できるかに移っています。全体設計ができるかどうかが、AIを業務に組み込める企業と、PoCで止まる企業を分ける。そこに「Trust in AI」の本質があるように感じます。

習田　AIを業務に組み込むには、技術だけでなく、信頼を設計し、業務の中で機能させ続けることが必要だということですね。岡本さん、最後に、富士通研究所として「Trust in AI」と今後どのように関わっていくのか、お聞かせください。

岡本　富士通の研究開発部門としての役割は、世界で戦える強い技術を開発し続けることです。その技術が、お客様が重要視する「Trust in AI」を支えることに繋がると考えます。AIの判断根拠を説明する技術、データの意味や関係性を整える技術、安全性や公正性を担保する技術、高性能と省電力を両立する計算技術、そして多くのAIやシステムを安定して接続する技術。こうした強い技術の研究開発を通じて、5つのコア要素を実際に機能するものにしていきたいです。

AI活用はこれから本格化していきます。だからこそ、AIを業務の中で安心して使える状態へ進化させることが重要です。研究所としても、Wayfindersや事業部門と連携しながら、企業がAIを信頼して活用できる技術基盤を支えていきたいと考えています。