Angus
AIについて、誰が価値を得ているのか、なぜ価値を得ているのか、そしてその価値を実現するために何を行う必要があるのかを本当に理解するために、前提をしっかり整理したいと思います。このテーマについてはMcKinseyの優れた新しい調査があるので、このセッションではAIを本当に活用する方法と、その実践的な現実について掘り下げていきたいと思います。ご一緒いただく素晴らしいパネリストは、今中孝夫さんとドゥアルテ・ベゴーニャさんです。まずは簡単に自己紹介をお願いできますか。
Takao
NTTは日本の通信事業者であり、中期戦略として3つの柱を掲げています。1つ目は新たな価値を創造し、グローバルで持続可能な社会を加速させること。2つ目は顧客体験を高度化すること。3つ目は従業員体験を向上させることです。私たちは、AIが顧客体験の高度化と従業員体験の向上という2つの目標の達成を支援すると考えています。
私は個人的にはNTTグループ内のITサービス会社であるNTTコムウェアに所属しており、ITの観点からNTTの通信事業会社を支えています。また、当社のソリューションをグローバル市場に紹介する責任を担うグローバルビジネスオフィスの部長も務めています。私にとって重要なのは、パートナーとエコシステムをデジタルにつなぐために、市場をどのようにより有効活用できるかを探ることです。
Duarte
AIは現在、最も大きなテーマの1つであり、私たちは研究を拡大してきました。また、Quantum Blackという会社も活用しながら、ハイブリッド・インテリジェンスの力を引き出す支援を行っています。現在では、世界中で5,000人を超える人材がAIに携わっており、通信業界は私たちの取り組みにおいて大きな比重を占めています。
McKinseyから出ている新しい調査について説明していただけますか。 Duarte
この調査は、AI、特にAIをどのようにスケールさせるかという議論の高まりを受けて生まれました。私たちは、いわばハネムーン期をどう乗り越えるかに目を向ける必要があります。現実には、コップが半分満たされていると見るか、半分空いていると見るかは人それぞれですが、私はまだ少し空いていると感じています。
実際に、AIを本当にスケールできている組織はわずか10%であり、しかも成果も依然として非常に低く、多くの場合それ以上にはなっていません。より本気で取り組んでいる組織でも、成長への寄与は15%程度と見ており、私たちが各所で目にする4倍、5倍のインパクトには及びません。また、AIプロジェクトのうち実際に本番運用に入るのは10%にすぎないという点も興味深いところです。
GenAIではその半分の5%にとどまります。つまり、まだ初期段階にあるということです。現在は多くの実験が行われており、私たちはその理解を深めようとしている段階だと思います。CIOがGen AIのハネムーン期を乗り越えるための厳しい7つの真実があります。
ノイズを減らし、シグナルを見極める 重要なのは個々の要素ではなく、それらがどう組み合わさるか コストに管理される前に、コストを管理する ツールや技術の乱立を抑える モデルだけでなく、人材を結集する 完璧なデータではなく、適切なデータを手に入れる 再利用しなければ失う もう少し詳しく言うと、まず多くの組織はいまだにパイロット的なアプローチを取っています。まだ変革をどう実現するかという発想になっておらず、考え方を変え始める必要があります。
次に、重要なのは個々の要素ではありません。人、データ、コンポーネント、オーケストレーション、ビジネス、チェンジマネジメントをすべて結びつける仕組みを作る必要があります。しかし、こうした要素はしばしばサイロ化され、小規模なチームが全体として機能していないことが多いのです。
また、コストについても考え始める必要があります。こうしたパイロットの多くではコストが高くなりすぎます。モデリングのコストは全体の一部にすぎませんが、チェンジマネジメント、つまり導入・定着のコストは非常に大きいのです。したがって、構造的な取り組みをしなければ、組織にAIを導入するコストはかなり大きなものになります。
利用可能な技術も非常に多く、賢く選択し、注力すべき領域を見極める必要があります。そして、組織がそれを受け入れることを確実にしなければなりません。AIにおける問題の多くは導入・定着から生じます。どれほど優れたソリューションを構築しても、現場、つまり事業部門、ネットワーク部門、運用部門がそれを受け入れず、信頼しなければ成功しません。だからこそ導入・定着は非常に重要です。また、データ品質も重要なテーマです。データを正しく整える必要があります。AIを使ってデータを改善することもできますが、まずそれをやり切る必要があり、そのうえで毎回ゼロから作り直すのではなく再利用することが必要です。これらはすべて、AIを本当にスケールさせるために解決すべき課題だと私たちは考えています。
Angus
この調査で私が印象に残ったのは、企業のうち実際に損益、つまりEBITに対して本当の価値を生み出しているのがわずか15%だという点です。これを、ハイプカーブの頂点にいるのだから15%でも非常に良いと見ることもできます。一方で、機械学習からAIへの流れは以前から多くの事例があるので、そう考えると15%は非常に低いとも言えます。なぜ15%にとどまっていると思いますか。
Duarte
それは、実験中心の考え方にあると思います。人々は多くのパイロットや実験を行っていますが、どれも組織の課題を本当に変革するほどの規模にはなっていません。コールセンターのようにかなり成熟したユースケースでさえ同じです。私たちがコールセンターでこうした取り組みを行うとき、まず1つのコールセンターで始めます。最初は一部の顧客向けのパイロットですが、その後スケールしないことが多いのです。組織全体のコールセンターにも、他のすべてのコールセンターにも広がりません。なぜか。人々がリスクについて考え始め、疑問を持つからだと思います。
コールセンターやワークフォース最適化、さらにはマーケティングや営業など、さまざまな場面で横展開できるユースケースをスケール前提で考える必要があります。あるいはB2B営業のような特定のドメインや領域を取り上げ、AIでB2B営業そのものを変革すると決めることです。その一部だけではなく、全体を対象にする必要があります。
通信事業者が注力すべき大きなユースケースにはどのようなものがありますか。 Duarte
通信事業者が選ぶべきユースケースは、事業部門による導入の障壁が最も低い領域です。これは組織によって異なる可能性があります。事業部門が関与しやすい領域を選ぶべきであり、ここで言う事業部門には営業・商用オペレーションだけでなく、ネットワークエンジニアリング、人事、法務なども含まれます。
多くの場合、マーケティングや営業は導入に比較的前向きな領域です。これは、彼らがエンジニアのようには考えないからでもあると思います。エンジニアはあらゆることに疑問を持つため、AIの最大の導入者ではありません。私はネットワークエンジニアリングでこうした取り組みのいくつかを進めようとしていますが、本当に大変だと実感しています。一方で、マーケティングや営業の担当者は一般的により前向きです。したがって、そこは影響の大小ではなく、導入のしやすさという点で有望な領域です。
Takao
適用のしやすさと事業側の準備状況、この2つがAI施策の適切な重点領域を見つけるうえで主要なポイントだと考えています。たとえば、ITサービス会社であるNTTコムウェアとして、私たちもシステム開発の効率向上を目的にコード生成でAIを導入しようとしています。さまざまなプロセスにAIを適用できる可能性はありますが、まずは成果を得やすい適切な対象を見極める必要があります。
Angus
次に移りたいのは、AIのスケーリング、つまりパイロットでも実験でもなく、本当にスケールさせることについてです。そこではエンドツーエンドのプロセスにおける統合と自動化への投資が重要になります。ここには、ベクトルデータベース、モデル、ライブラリ、アプリケーションなど、さまざまなコンポーネントがあります。いわばサプライチェーン全体があるわけです。そして、あらゆるテストが新たなデータを生みます。コンポーネントを追加するたびに、あらゆるものの複雑性は指数関数的に高まります。したがって、本当の重労働はデータにあり、価値連鎖全体のエンドツーエンド自動化とテストにあるのです。
これを進めるうえで、NTTに何か得られた教訓はありますか。 Takao
NTT自身もまだその道のりの真っただ中にいます。変革を完全に成し遂げたわけではありませんが、エンドツーエンドの運用が非常に重要であることには同意しています。現時点でもNTTの中には多くのサイロ化したシステムがあり、あるプロセスには1つのシステム、別の提供には別のシステムが使われています。
したがって、同じプロセス内であっても、異なる提供内容に対応するために別々のシステムを使っています。こうしたサイロが、データ統合やデータ流通を妨げているのです。そのため現在、私たちはTM Forum ODAを活用してシステムの標準化と統合を進めています。最近ではRunning on ODAの認定も受けており、それがこの取り組みの最初の一歩となっています。
APIの重要性についてコメントいただけますか。 Takao
単一のシステムや単一のプラットフォームだけですべてのプロセスや運用を解決できないことは、私たち全員が理解しています。そのため、複数のシステムを単一のプラットフォーム上で統合したまま共存させる必要があります。したがって、APIを統合し、これらすべてのプロセスを中央でオーケストレーションすることは非常に重要です。現在NTTでも、その方向に進もうとしています。
Duarte
これはまさにAIファクトリーを構築することだと思います。それは、進化に必要なデータを取得するためのデータパイプラインから始まります。すべてのテストと監視を可能にし、そのうえでオーケストレーションのためのAPIを備える必要があります。しかし、APIは一方向であってはなりません。プロンプトからデータを取得するだけでは不十分です。プロンプトからのフィードバックも取得する必要があります。これは複雑な課題です。というのも、こうしたモデルの多くは学習する必要があるからです。したがって、プロンプトを生成する際にはユーザーに「このプロンプトは良いですか、悪いですか」と尋ねる必要があり、悪ければフィードバックを提供してもらい、それをモデルに戻して改善と学習につなげなければなりません。
このように、さまざまな要素を備えたファクトリー全体を組み立てることは非常に重要です。単にモデルのリポジトリを作ることではなく、スケールして利用できるエンドツーエンドの仕組みを構築することなのです。私たちがよく目にするのは、さまざまなものが部分的には存在していても、どこかが壊れているという状況です。その結果、新しいユースケースをより速く提供するまでに長い時間がかかってしまいます。
Angus
なるほど。これは5つ目の真実、つまり本当に価値を得ている企業が15%しかないという話に戻ると思います。そして、エンジニアは物事に異議を唱えがちだという点にもつながります。AIが技術プログラムとして運営されすぎていて、ビジネス主導が十分でないのでしょうか。戦略的というより戦術的すぎるのでしょうか。デジタルトランスフォーメーションに関して、優先順位はビジネスニーズが決めるべきだということを私たちはすでに学んできたはずです。それなのに、なぜ今なおこのような結果が見られるのだと思いますか。
Duarte
十分な投資をしていないからだと思います。ある領域でAIを大規模に展開している組織では、モデル構築に使う1ドルごとに、変革に3ドルを費やしています。皆さんは1ドルに対して3ドルを使っているでしょうか。実際には、モデルに1ドル使っても、変革にはその半分にも満たない額しか使っていないことが多いのです。この変革とは、ユーザーのフロントエンドにプロンプトを組み込むようアプリケーションを変更すること、つまり導入の遅れを解消するために、裏側でプロンプトを生成し、それをボタンとして組み込むようなことを指します。
結局はトレーニングに行き着きます。リスクを管理し、物事が正しく機能していることを確認するための取り組みが必要です。したがって、こうした変化を前もって本気で考えることが極めて重要です。私たちがよく目にするのは、多くのプログラムがAIチームによる良いアイデアから始まる一方で、どうやって導入を進めるのか、どうやってこうしたさまざまな要素を含めて予算化するのかを誰も考えていないということです。すると良いモデルはできても、組織の2%にしか使われません。スケールしないのです。良いプロジェクトではあっても、それ以上にはなりません。
Takao
私は、AI活用の成果は事業側が責任を持って担うべきだと強く信じています。したがって、事業側の関与をもっと高める必要があります。そして、その関与は現時点ではまだ低いと考えています。
AIをスケールさせるために、私たちはシステム環境をどのように整備すればよいのでしょうか。多くの企業はレガシーなシステム環境を抱えており、近代化には多大なコストがかかります。その古いシステム環境をAIの能力活用に備えるには、どのような解決策が最適でしょうか。
Takao
私は、これらすべての目的を達成する鍵はマスターデータ管理にあると考えています。なぜなら、マスターデータとトランザクションデータがサイロ化されていれば、この新しいテクノロジーから最善の成果は得られないからです。NTTにおいても、こうした目標の達成は依然として課題です。しかし私にとって、MDMは重要な推進要因の1つです。
Angus
その点については、別の見方もあると思います。つまり、まず基盤能力を構築して『作れば使われる』と考えるのか、それともユースケースごとに構築するのかという選択です。
Duarte
プラットフォームには2つのタイプがあると思います。1つはAIファクトリーの要素で、データを正しく整え、MLOps、オーケストレーション、すべてのAPIを備えることです。つまりデータ基盤の側面ですが、それは片側にすぎません。導入を進めたいなら、データを活用できるようにするために、レガシーシステムも変更する必要があります。
ここに多くの課題があります。非常に古いアプリケーションを使っていて、APIからデータを取り込む能力がない場合や、自社システムへの統合ができない場合、複雑さは大きく増します。私たちがよく見るのは、こうしたAIの導入を、より大きな変革の一部として束ねることが、アプリケーションの一部を置き換えたりリファクタリングしたりする良い口実になるということです。つまり、アプリケーション全体を変える必要はなくても、フロントエンドは変える必要があるかもしれない、なぜならバックエンドからのデータだけでなく、AIや他のものからのデータも取得できるようにするには、フロントエンドを疎結合にする必要があるからです。別のケースでは、データを取り込み、それをフロントエンドに持ち込むためのミドルウェアのようなコンポーネントを作る必要があります。これはコストが高くなる可能性がありますが、課題の一部だと思います。変革を考えるとき、それは単にファクトリーを作ることではなく、レガシーシステムのいくつかも変更する必要があるということです。
しかし、これが乗り越えるべき障壁であることには全面的に同意します。私たちが見てきたのは、多くの組織が、長い間先送りされてきた判断を今まさに迫られているということです。延期に次ぐ延期があり、もはやこれ以上遅らせる時間はありません。だから今こそ変えなければならず、それにもかかわらず、必ずしもそうした能力を持たないコンポーネントを再利用しようとしているのです。