激しい変化に対応して競争力強化へ DX推進に欠かせない6つのポイント

生成AIをはじめとするテクノロジーの急速な進化により、ビジネス環境が大きく変化する今、企業や組織にとってデジタルトランスフォーメーション（DX）はますます欠かせないものになっている。一方、DX に取り組むものの、想定通りに推進できない企業も少なくない。DX に焦点を当てた「日本全国 6都市 JAPAN DX Conference」の中でも、各都市で行われた独立行政法人情報処理推進機構（IPA）の講演に注目し、様々な側面からDX 推進のヒントを探る。

AIの安全安心な利活用へ 正しい情報とガイドラインが重要に

「AIセーフティは、AI活用を進める中で押さえておくべきワードです。わたしたちAIセーフティ・インスティテュートの取り組みを紹介していきます」。講演の冒頭にこう語ったのは、IPAに2024年2月に設立されたばかりのAIセーフティ・インスティテュート（AISI）で事務局次長を務める小田切未来氏である。

小田切氏は、講演で伝えたいこととして3つを提示した。「1つ目は、AIの利活用を最大限に推進するために、AIセーフティが重要だということです。具体例を挙げますと、自動車が高速道路を運転するとき、ガードレールが無かったら安心して走行することができません。AIセーフティはまさにガードレールに相当するものです」（小田切氏）。AIを利活用して積極的に「攻める」ためには、「守り」が不可欠と語る。

2つ目は、AIの世界の変化に対するスピード感の必要性。小田切氏は「最速のスピードで最善手を打ち続けなければいけません。AIセーフティ・インスティテュートは、わずか2カ月で設立されたという意味で、世界レベルのスピードに合わせて活動していると自負しています」と語る。3つ目は、AIセーフティ・インスティテュートが、株式会社でも、府省庁や立法府でもないこと。「半官半民の組織であり、株主による利潤の追求ではなく公共の利益を追求するため、バランスの取れた活動ができると考えています」と、小田切氏は強調する。

小田切未来氏

IPAデジタル基盤センター 副センター長

AIセーフティ・インスティテュート（AISI）事務局次長

小田切未来 氏

AIのリスクを最小限にして価値を最大化

なぜ、AIセーフティ・インスティテュートのような機関が誕生したのか。小田切氏は「ChatGPTの登場などにより、AIの利用機会が拡大しました。同時に、数多くのAIリスクが顕著になったからです」と指摘する。そのリスクは、技術的リスクと社会的リスクに分けられる。

既存の大規模言語モデルに質問すると、堂々と間違った回答をする「幻覚（ハルシネーション）」が起き得ることはよく知られる。技術的リスクとして、利活用時に対応が求められるものだ。もう一方の社会的リスクの代表例として、小田切氏は「大統領などの偽の映像情報をAIで作って、話していない内容をいかにも話しているかのように偽装すること」と紹介する。いわゆるディープフェイクと呼ばれるもので、AIで偽の画像や映像を作って拡散し、社会的に大きな影響を引き起こす。

この2つのリスクに対して、各国や国際機関、民間団体、企業などは、「AI原則」を整備してきた。しかし、生成AIの登場により「最近はAI原則などの理念だけではなく、実践のためのAIガバナンスが求められるようになってきました。AIリスクを許容可能な最小限に抑えつつ、AIがもたらす価値を最大化することが目的です」（小田切氏）

AIセーフティの実現とAIガバナンスの実践に取り組む組織として、AIセーフティ・インスティテュートは2023年に英国、2024年初頭に米国で設立された。日本での設立は、これらに続く2024年2月のことである。「日本は、世界で3番目にAIセーフティ・インスティテュートを設立しました。総理大臣の設立表明からわずか2カ月のことでした」（小田切氏）

日本の強みにAIを組み合わせる

AIセーフティ・インスティテュートの役割は「AIセーフティに関する調査、評価手法の検討や基準の作成の支援などを通じて、AIセーフティを推進していくことです」と、小田切氏は語る。AIセーフティに向けた官民の取り組みのAIセーフティの情報ハブとして、また、国際機関と連携して国内へ情報を提供する窓口として活動していく。

AISI推進における各機関との協力関係

AISI推進における各機関との協力関係

実際、「AIセーフティの評価を行う際に考慮するのが望ましい基本的な考え方を提示する評価観点ガイドを作成することで、生成AI利活用の安全性を保てるように取り組んでいきます」（小田切氏）。さらに、安全性評価に係る調査、基準などの検討、安全性評価の実施手法に関する検討、他国の関係機関との国際連携などが活動として挙げられている。

今後は、日本が強みを持つ分野の特定や、情報発信の強化を進めていく。「例えば、日本ではデータ品質やロボティクス、IoTなどが横断分野での強みになると考えています。さらにAIを組み合わせることで工場やプラント、ヘルスケアなどの特定分野での応用が進むと考えています」（小田切氏）

設立から半年も経たずに多方面の取り組みを推進するAIセーフティ・インスティテュート。AIの安全安心な利活用を推進する企業や団体は、AIセーフティ・インスティテュートの取り組みを注視する必要があるだろう。