様々な分野の有識者が未来像を予想して語り合う連載、「日本の2050年をデザインする」。第2回は人工知能（AI）研究の第一人者である慶應義塾大学教授の栗原聡氏をゲストに迎え、未来における「AI」の役割について、伊藤忠テクノソリューションズ（CTC）みらい研究所長の富士榮尚寬氏と意見を交わした。これからのAIは相手の行動や思考を予測することで「共感」や「おもてなし」が可能になる。完璧なツールとしてではなく、人間の「バディ（相棒）」にも成り得るという。AIが人に寄り添う未来社会を考察した。
- モデレーター：
- 日経BP 総合研究所所長河井保博氏
――2050年の日本はどうなると考えますか。AIの観点からお話しください。
栗原まさに人間社会は「臨界点」に近づいていると思います。格差の拡大、地球温暖化、国家間の紛争など、世界規模で様々な問題が広がっていて、このままでは人類の自助ではどの問題も解決できない、それどころか問題がエスカレートし、歯止めがきかなくなる可能性があります。現代の顕著な傾向として、SNSなどを通じた群集心理に基づいて人々が低レベルな思考で行動してしまいがちなことも危険を招きます。扇動的な人が1 人いれば、独裁政治も発生しかねませんし､発生しているだろうと思います。
私たちが暮らしている複雑系の世界は、長期的に見ると、無秩序な状態（カオス）と安定している状態を交互に繰り返しています。日本の高度経済成長の時代は、ちょうど安定した状態でしたが、現在は臨界点に近づいています。今後、いったんは安定した状態が崩れることになるのでしょう。
では、そんな中でAIの進歩・普及によって社会がどうなるのか。AIの台頭によって臨界点を完全に抑え込めるとは言いませんが、それでもAIの助けによってカオス的状態を小規模に留め､かつ安定した状態に戻るまでの時間を短縮できるのではと考えています。例えばSNS 上の群集心理や暴力を必要に応じて遮断してくれるAIが登場するかもしれません。
慶應義塾大学理工学部教授
栗原聡氏
「AIの目的は単に人間を楽させることではない」という慶應義塾大学理工学部教授の栗原聡氏
おもてなしができることが自律型AIの証しに
――2050年に向けて、AIが社会の安定を取り戻す役割を果たすということですね。
栗原未来に起こり得る状況を考えたとき、AIは今後さらに進化し、大きな役割を果たすことになるはずです。カギとなるのがAIの「自律性と汎用性」です。私は人工知能を長年研究してきました。最近、AIの進化系として「AIエージェント」がちょっとしたブームになっていますが、実はエージェントについては1980 年から90 年代にかけて、おおかた議論し尽くされています。以前と異なるのは、ChatGPT のような高いレベルの大規模なAIが作れるインフラが実現されている点です。
現段階のAIは、人間が何かを“依頼” しないと助けてくれません。すなわちAIはツールであり、求められているのは正確性です。しかし自律型のAIが登場すれば、「今、相手はこういうことをしてほしいのだ」と推測して動いてくれるようになります。「おもてなし」や「忖度」ができるということですね。
ただ、そこで活躍する自律型のAIは、あらゆる要求をかなえてくれるわけではなく、コミュニティや社会全体に配慮して、人間に妥協を促すこともあるでしょう。人間に対して「我慢しろ」という言い方ではなく、「こうした方がよい」と伝えるのです。AIが自分の要求を全部受け入れてくれなくても「このAIは自分のことをわかってくれている。それならば信用しよう」と考えられればAIの提案を受け入れるはずです。
――AIの進化とともに、人々の価値観が変わっていくということですよね。
富士榮今の子どもたちは物心がついた時には生成AIが存在しています。そう考えると、これからの社会では、AIが組み込まれたライフスタイルに変わっていくかもしれません。価値観の大きな変化がありそうです。
私は20年以上にわたって、アイデンティティの研究をしてきました。その中でコンテクスト（メッセージの背景や文脈）が重要だと考えています。通常、私たちはコンテクストを柔軟に切り替えています。例えば、この対談で話している時と恋人と話している時では、私の話す内容は変わります。同じことを聞かれても違う答えを返すでしょう。AIエージェントがツールとしてではなく自律的な役割を果たしていけるかどうかは、コンテクストに応じて気遣いやおもてなし、忖度を表現できるかにかかってくると思います。
なお、CTCでは慶應義塾大学が2024 年に設立したAIセンターに研究メンバーとして参画し、研究員を派遣してAIに関する共同研究を進めています。研究テーマは「バディAI」とし、数年間をかけて研究を行う予定です。
CTC みらい研究所 所長
富士榮尚寛氏
「AIはバディとして機能する」というCTC みらい研究所所長の富士榮尚寬氏
――AIが気づかいをできるようになるにはどうすればよいでしょうか
栗原相手の意図を知るためには他者理解能力が必要です。相手が考えていることを推測し、してほしいと思われることを状況に合わせて提供できる能力です。AIが人と同じことを実行できるようにするためには、判断するAIに加えて、相手の思考をシミュレーションする別のAIが必要です。つまり、他者の思考のシミュレーション結果に基づいて自分がどう動くべきかを判断する､ということです。こうした考え方は新しい発想ではありませんが、以前なら単なる議論にとどまっていたものが、今では技術的に実現できるようになっています。私たちの世代からすると夢の実現とも言えます。
富士榮アイデンティティをデジタル化するときも同様ですが、私たち技術者がAIを作るときには、人間をしっかり組み入れて設計しなければ、望んでいる姿になっていきません。とはいえ、人間が建前で何かを言ったときの本音を推察することは、コンピューターには難しいことです。だからコンテクストを学習させたり、忖度や推測を組み入れたAIを作ったりしていく必要があります。検証しながら構築し、うまくいかなければまた戻るという繰り返しになります。
――おもてなしや忖度ができるAIが誕生したとき、我々の働き方や会社・自治体などの組織はどうなるでしょうか。
栗原アニメの「ドラえもん」は主人公がAIエージェントといえる作品ですよね。ドラえもんはぐうたらなのび太くんが「ジュースが欲しい」といっても持ってきてくれません。ジュースを手に入れるにはどうすればいいのか、のび太くんに考えさせるのです。
富士榮現時点のAIでは、人間と同等のレベルでおもてなしをしたり、人間の意図を汲み取ったり、コンテクストを理解したりする機能の実現は難しいと捉えています。いつかAIエージェントが自律的に判断できる日が来るまでの間は、共感を示す、おもてなしをするといった行為は人間に委ねられているのではないでしょうか。
栗原「AIが将来、感情を持てるか」と聞かれたとき、私は「はい」と答えています。AIを研究している私たちには、人を理解したいという願望が根本にあります。それは、人を哲学的に捉えるということではなく、人とはどのようなシステムなのかを考えるということです。すると、感情は単なる機能と見ることができます。感情は意思疎通の手段であり、人間が地球に1 人しかいなければ感情は不要です。共感も連携するために必要な機能の一つです。このように感情を機能と捉えれば、AIも人間と似た感情を持てるはずです。AIが人間と同様のメカニズムで感情を生み出すとは限りませんが、例えばAIが「明らかに楽しそうな」動作をすることは可能だと思います。
――私たちが2050 年の未来に不幸にならないためには、どのような世界を作ればよいのでしょうか。
栗原私たち人間は不完全であると自覚していて、常に変わり続けようとしてきました。AIはこうした人間の背中を押す存在になるでしょう。満足してしまえば人間は終わりかもしれません。
富士榮そうですね。不完全だと認識しているからこそ人間社会が発展し、進歩を続けていくのだと思います。一方、AIも不完全であることを私たちは認めなければいけません。AIが完全だと私たちが認めてしまったら、本当のディストピアが来ると思います。
AIは人間の“バディ” になれるか
――人間にとってAIは将来、どんな位置関係になるでしょう。教えを請う存在でしょうか。それとも対等な存在ですか。
富士榮ドラえもんではないですが、AI をバディ（仲間、相棒）と捉え、自分が考えを共有していくことが必要だと思います。「アイデンティティ」とは自分の中の変わらない部分と言えますが、AI が自分のバディとして機能するためには、こうしたアイデンティティや感情を共有する必要が出てきそうです。
他者に対する自分のコンテクストは自分にしかわかりません。ことによると自分の意識でも100％理解しきれていないかもしれません。そうしたコンテクストをAI エージェントとどう共有していくのか。電気信号的に「こう言われたらこう反応する」と学習していくなど、研究領域として何か成立させていくことができれば面白いかもしれませんね。脳科学や認知科学などの人間に対する研究と、人工知能の接点はどのような状況なのでしょうか。
栗原「共感」は比較的シンプルで、数学の問題を解く時の，単に「解けた」ではなく､「分かった！」という感覚と似たようなものだと思っています。「自分はこう思っているが、相手はこう思っているだろう。なので､私がこう言うと相手はきっとこう答えるだろう」などと予測し、相手からその通りの答えが返ってきたら自分の予想と「合っていた」ことになります。こうした予測の精度が高い状態の時、自分は「相手と共感している」と言えるのだと思います。このように「機能」と捉えることで、技術的には実現可能と考えられます。
富士榮栗原先生が述べられた中で、「相手がどう解釈するのか」と「人間がそれに対してどう行動するか」のギャップが面白いと感じています。表面的な共感に焦点を当てているだけでは、アウトプットとしてのおもてなしはできないでしょう。人間の知識や経験をいかに人工知能に持たせていくかが、バディとなり得るAI エージェントを作っていくためにに必要なことではないかと考えています。
――本日はありがとうございました。
