習田　生成AIやAIエージェントでできることは急速に広がっています。ただ、経営者や事業責任者にとっての本当の悩みは、「AIが何をできるか」よりも、「重要な業務に使って大丈夫なのか」ではないでしょうか。
PoCでは効果が見えたのに、本番展開や全社展開で止まってしまう企業も少なくありません。
企業がAIを「試す」段階から「信頼して使う」段階に進むためには、何が必要になるのでしょうか。

馬場　まず必要なのは、AIの「性能」と「信頼」を分けて考えることです。
AIは非常に便利ですが、条件によっては期待した結果を出さないことがあります。ハルシネーションのように、事実と異なる内容を生成することもあります。
だから、モデルの精度を高めるだけでは、本番業務で安心して使える状態にはなりません。
どのデータを使わせるのか、どのような指示を与えるのか、アウトプットをどう確認するのか。さらに、説明可能性、品質管理、ガバナンスまで含めて設計する必要があります。
重要なのは、AIの判断を理解し、適切に管理し、必要な場面で人が関与できる状態をつくることです。

桔梗原　AIはこれからエージェントとして、人に代わって自律的に仕事を進めるようになるでしょう。
そうなると、むしろ「AIが何をできるか」以上に、「どこまで任せていいのか」が重要になります。
AIは仕事をしてくれても、責任を取ることはできません。

馬場　その通りです。
だからこそ、AIに任せる範囲と、人が判断する範囲を明確にすることが欠かせません。AIを信頼するというのは、AIに何でも任せるということではありません。AIが出した結果を確認できる仕組みをつくり、必要なところでは人が介在する。そして、問題があれば検知して改善できる。そうした仕組みまで含めて、初めてAIを業務で「信頼して使える」状態になるのだと思います。

習田　つまり、AIの性能を評価するだけではなく、AIを企業の業務の中でどう使い、どう管理し、どう人が関与するのかまで含めて考える必要があるということですね。

馬場　はい。そして、これはAIだけの問題ではありません。
AIを企業の中で本当に活用しようとすると、データや業務プロセス、組織のあり方まで変えていく必要があります。

習田　ここまで伺うと、AIの信頼性は、モデルやシステムだけの問題ではないことが分かります。企業がAIを全社で活用しようとすれば、部門ごとに分断されたデータや業務プロセスをつなぎ、人とAIの役割を見直し、経営と現場が同じ方向を向く必要があります。AIを業務の中で機能させるために、組織や業務そのものをどう変えていくべきなのでしょうか。富士通自身の変革経験から、どのような示唆が得られますか。

馬場　AIを本当に業務で使うには、AIが判断に使うデータや、AIが入り込む業務プロセスそのものが整っていなければなりません。そこが整っていないままでは、どれだけ優れたAIを導入しても、全社で信頼して使うことは難しいと思います。

多くの企業にとって、この壁はAI導入の段階で初めて顕在化します。富士通自身も、全社変革Fujitsu Transformation（フジトラ）^*2やOneERP+^*3といった全社変革や社内IT変革プログラムの中で、同じ課題に向き合ってきました。これらは単なる社内システム刷新ではありません。部門や地域ごとに分断されていたデータ、業務プロセス、意思決定の仕組みを見直し、全社としてつながった状態をつくる取り組みでした。

*2 富士通が2020年に立ち上げた、デジタル時代の競争力強化を目的として、製品やサービス、ビジネスモデルに加えて、業務プロセスや組織、企業文化・風土を変革する全社DXプロジェクト
*3 CEOをオーナーとする富士通グループ横断での経営プロジェクト“OneFujitsu”において業務・システムの標準化を進める中核プログラム

私自身、CDPO（Chief Data and Process Officer）としてその変革に取り組む中で、その難しさを当事者として経験してきました。全社CDPOとして、グローバル標準化に必要な施策を立案・実行し、富士通グループ全体の業務プロセスやデータを標準化し、現場に定着させる役割を担っていました。実際に取り組む中で強く感じたのは、システムを入れ替えるだけでは変革は進まないということです。実際に取り組んでみると、構想を描くだけでは変革は進みません。目的を明確にすることはもちろん重要ですが、目的を詰めるだけでは、いつまでも実装に入れない。一方で、基本設計に入ると、今度は「どう作るか」というHowの議論が強くなります。そのたびに、「そもそもなぜこれをやるのか」というWhyに立ち返りながら、目的と実装との間を行き来して判断する必要がありました。

部門ごとに異なる業務プロセスやデータの持ち方を見直し、Fit-to-Standardや、データ移行、統合テスト、チェンジマネジメント、トレーニング、稼働後の継続改善まで含めて進める。そこまでやって初めて、全社としてつながった状態に近づいていきます。振り返ると、システムを入れ替えること以上に難しかったのは、人と組織の動き方を変えることでした。

だからこそ、AIを業務で使える企業基盤は、技術導入だけではつくれないと考えています。自分たちがCustomer Zeroとして実際に実装まで経験したからこそ、お客様がどこでつまずきやすいのか、何を先に整えておくべきなのかが分かります。その経験は、現在、私がデリバリー^*4を担う立場でAI実装を考えるうえでも重要な土台になっています。

*4 開発したシステムやソフトウェア、成果物を顧客へ納品し、利用可能な状態にして運用・保守を引き渡す一連の実行プロセス

桔梗原　そこは、多くの企業がAI導入で直面する問題と重なりますね。AIは部門単位では導入できても、企業価値につなげようとすると、部門をまたぐデータや業務プロセスが必要になります。
富士通の変革を取材してきた立場から見ても、縦割りの構造や個別最適をどう乗り越えるかが大きな焦点でした。以前、日経クロステックで「もがく富士通」というタイトルで特集させていただいたこともありましたが、その壁に向き合った経験こそが、いまAI実装を考える企業への示唆になるのではないでしょうか。

馬場　おっしゃる通りです。変革を進めるには、経営の強いコミットメントが不可欠でした。各事業部門から中核となる人材を集め、変革のプロジェクトチームをつくる。そして、最後までやり切る体制を経営トップがつくる。これはAI導入でも同じです。

AIを特定部門だけの取り組みにしてしまうと、効果は限定的になります。経営が何を変えるのかを示し、現場が業務の中でどう使うのかを具体化する。その両方がそろって初めて、AIを信頼して使える状態に近づきます。

例えば富士通では、CRMのパイプラインを可視化するだけでも、3～4年かかりました。時間がかかったのは、ツールの導入ではありません。部門によって異なる営業プロセスやデータの定義をそろえることでした。

さらに、優秀な営業担当者が持つ経験や勘、暗黙知のようなものもあります。それを属人的な知識のままにせず、組織として共有し、必要に応じてAIが活用できる形にしていく。こうした暗黙知や業務知識を整理し、AIが参照できる形に整えていかなければ、AIを実際の業務で使える状態にはなりません。

習田　つまり、AI導入の成否は、導入する部門だけでは決まらないということですね。
AIに使わせるデータ、AIが関与する業務、AIの出力を受け止める人や組織のあり方まで含めて整えられるかどうかが、AIを信頼して使えるかどうかを左右する。

馬場　はい。だから、AI導入を単なるITプロジェクトとして捉えるのではなく、企業そのものの変革として捉える視点が必要になります。データの持ち方、業務プロセス、組織の意思決定、人の役割まで見直して初めて、AIを本番業務で使える状態に近づきます。

習田　第2章では、AIを企業の中で機能させるために、データ、業務、組織そのものを変える必要があることを、富士通自身の変革経験から見てきましたが、変革を構想する我々コンサルティングと、それを実際に形にするデリバリーをどうつなげるかが、重要になりそうですね。
では、そこで得た富士通自身の実装経験を、どのようにお客様へのデリバリーや価値創出につなげていくのでしょうか。特にAIによって開発やデリバリーのスピードが変わる中で、富士通は何を目指していきますか。

馬場　先程お話ししたように、AIを業務で活用するには、データや知識、業務プロセス、人とAIの役割分担など、さまざまな実装条件を整える必要があります。自分たちが実装を通じて得た実装の経験を、いかに実際のお客様の価値創出に結び付け、どうつなげるかです。
AIを導入すること自体を目的にするのではなく、品質や信頼性を確保しながら、いかに早く業務に組み込み、価値につなげていくか。そこがデリバリーにおける重要なテーマになります。

桔梗原　「品質や信頼性の確保」という言葉は、ソブリニティ^*5という考え方にもつながりますね。国家レベルのデータ主権だけでなく、企業にとっても、重要なのは、「自分たちのデータや知識を、自分たちの意思でどう守り、どう活用するかです。ただ、企業に問われるのは、その条件を踏まえて、実際のデリバリーや価値創出にどうつなげるという視点ではないでしょうか。

*5 国や組織が自国のデータやITインフラ、AIシステムを自律的に管理・コントロールし、外国法や外部の干渉を受けずに保護する「デジタル主権」の考え方

馬場　はい。どのデータを使わせるのか、誰が管理するのか、企業固有の知識やノウハウをどう守るのか。そうした条件を整えなければ、AIを業務で安心して活用することはできません。私たちがCustomer Zeroとして経験してきたのは、まさにそのこうした実装条件を整える難しさでした。だからこそ、その経験をお客様の実装支援に生かすことができます。

習田　前章で、人とAIの役割分担、つまり、どこまでAIに任せ、どこで人が関与するのかという設計が重要だという話がありました。ここでは、それを開発やデリバリーの現場の視点で考えたいと思います。AIが設計、開発、テスト、運用準備まで支援するようになると、役割分担や品質管理はどのように具体化していくべきでしょうか。

馬場　AIエージェントによって、これまで人が担っていた仕事の一部をAIが自律的に進める場面は増えていきます。だからこそ、「どこまで任せるか」と同時に、「どこで人が確認し、判断し、責任を持つか」を明確にする必要があります。
AIを信頼するとは、AIにすべてを任せることではありません。
むしろ、AIが得意な処理と、人が担うべき判断を分け、両者を組み合わせることが重要です。スピードをAIで高めながら、最終的な判断や責任は人と組織が担う。この設計がなければ、企業はAIを安心して業務に組み込むことができません。

習田　PoCで効果が見えても、本番環境に移す段階で止まる企業は少なくありません。品質や運用の面では、何が重要になりますか。

馬場　企業の重要業務では、AIが一度動けばよい、というわけではありません。性能、可用性、セキュリティ、障害対応、権限管理、監査など、企業システムに求められる要件はAIにも求められます。特に本番業務では、出力の品質をどう確認するか、問題が起きたときにどう検知し改善するかまで設計しなければなりません。
AIを使えるようにすることと、企業の業務で安心して使い続けられるようにすることは違います。後者を実現するには、技術機能だけでなく、品質管理、運用、監査、改善の仕組みまで含めた設計が必要です。
ここは、富士通がこれまで企業システムやミッションクリティカルな領域で培ってきた経験を、AI時代に生かせる領域だと考えています。

桔梗原　AIの機能は非常に速いスピードで進化しています。一方で、企業が求める信頼性や品質は、短期間でつくれるものではありません。だからこそ、これまで積み重ねてきた企業システムの知見や運用経験が、AI時代の差別化につながるわけですね。

馬場　そう思います。AIによって、仕事のスピードは大きく上がります。これまでチームで行っていた仕事を、一人で進められる場面も増えるでしょう。ただし、スピードが上がるほど、「この判断でよいのか」を確認する仕組みも重要になります。

習田　富士通自身もCustomer Zeroとして、AIを業務に実装する際にどこでつまずき、何を整えるべきかを経験してきたわけですね。では、その経験や知見を、お客様の価値創出にどのようにつなげていくのでしょうか。

馬場　実際に自分たちでやってみたからこそ、AIを導入するときにどこでつまずきやすいのか、何を先に整えておくべきなのかが分かります。お客様に対しても、技術そのものだけではなく、業務に組み込むための準備や進め方、品質や運用の設計まで含めて、より具体的に考えることができます。企業側の変革経験を、お客様へのデリバリーや価値創出に転換することが焦点になります。そうした実装上の課題を私たちは自分たち自身の変革の中で経験してきました。

私自身、現在はお客様向けのシステム開発・デリバリーを担う立場でもあります。ここでも、AIによって大きな変化が起きています。AIは、設計、開発、テスト、ドキュメント作成、運用準備など、システム開発のさまざまな工程を支援できるようになっています。

ただし、AIを使えば自動的にデリバリーが速く、良くなるわけではありません。AIが生成した成果物をどう検証するのか。品質をどう担保するのか。既存の開発プロセスやレビューの仕組みをどう変えるのか。実装の現場では、新しい論点が必ず生まれます。

だからこそ、AIにすべてを任せるのではなく、設計、開発、テストなどの工程ごとにAIの役割を定め、人が確認するゲートを設けることが重要です。AIの出力を要件、品質、説明可能性の観点で確認しながら次工程に進めることで、スピードと信頼性を両立できます。

最終的な判断や責任は人と組織が担う。その前提で、確認、監査、改善まで含めてプロセスを設計することが、AIに信頼を組み込むということだと考えています。

桔梗原　つまり、富士通の差別化は「AIを提供できること」だけではなく、「AIを企業の中で信頼して使える状態にするところまで支援できること」にあるわけですね。

馬場　まさにおっしゃる通りです。AIによって開発や業務のスピードを高めるだけでなく、品質や信頼性を確保しながら、AIを実際の業務に定着させ、そこから価値が生まれるまでの時間をいかに短くするかが重要です。ですので、富士通自身がCustomer Zeroとして先に実装上の課題を経験していることは、お客様にとっても大きな意味があります。

習田　AIを「試す」段階から、「信頼して使いこなす」段階へ。その変革を、技術と実装の両面から支えることが、富士通の役割ということですよね。

馬場　AIの性能を提供するだけではなく、データ、業務、組織、人、品質、運用まで含めて実装を支える。さらに、品質と信頼性を保ちながら、お客様が価値を実感するまでの時間を短くする。それこそが、AI時代に富士通が提供すべき価値だと考えています。