■導入事例■【NTTドコモ様】全社的な業務効率化の加速のため、生成AI・LLMプラットフォームとしてAlli LLM App Marketを活用した取り組みを開始
株式会社NTTドコモ様は、個人向け通信サービス（5G・LTE等携帯電話サービス、光ブロードバンドサービスなど）や端末機器を提供するコンシューマ通信事業、金融決済サービスやコンテンツライフスタイルサービス（動画・音楽・電子書籍等配信サービス・ドコモでんきなど）などを提供するスマートライフ事業、法人向けの通信サービス（5G・LTE等携帯電話サービス、ユビキタスサービス、衛星電話サービスなど）や端末機器、オフィスリンクなど、通信を中心に多岐に渡るサービスを展開されています。
生成AI・LLMには2023年から積極的に取り組んでおり、現場部署での生成AI・LLMの一層の業務活用を目指した施策の1つとして、Allganizeの生成AI・LLMアプリプラットフォーム「Alli LLM App Market」を採用いただきました。
NTTドコモ社内での生成AI活用を推進されている、R&Dイノベーション本部 サービスイノベーション部 事業共創担当 主査 中村様、同主査 笛田様、稲子様にお話を伺いました。
目次
ー 皆様の役割についてお教えください。
中村氏：サービスイノベーション部では、既存のサービスから蓄積されるデータなどを活用し、新たなサービス開発を行なっています。私たちのチームでは、LLMを活用した事業共創として、各部署に伴走する形でLLMを使った業務効率化の支援に注力しており、プロンプトエンジニアリングのサポート、Alli LLM App Marketを使った生成AIアプリ開発のサポート、その他アプリ開発などを行なっています。
笛田氏：チームによって担当業務が分かれており、私の所属するDevRel (Developer Relations) チームでは、生成AIに関する研修やイベントの企画、支社支店の伴走支援を行なっています。
稲子氏：私も笛田さんと同じチームで、社内向けの生成AI活用に関するイベントの運営や支社支店の伴走支援、各部署から相談を受けた課題を解決するような生成AIアプリの作成を行なっています。
中村氏：私の所属するユースケースチームも各部署の伴走支援を行なっており、特に一般的なプロンプトエンジニアリングでは実現が難しいケースを担当しています。その中で、Alli LLM App Marketなどを用いた生成AIアプリの作成も担当しています。
生成AIによる業務効率化を推進するために、多彩なプログラムで社内の風土を醸成
ー これまでの生成AI・LLMに関するお取り組みについてお教えください。
中村氏：2023年8月に、NTT ドコモグループ3社（株式会社NTT ドコモ、NTTコミュニケーションズ株式会社、NTTコムウェア株式会社）にて、「LLM 付加価値基盤」を社内向けにリリースしました。独自技術を用いたRAGやLLMによる非倫理的な出力を検知する倫理チェック機能を備えており、セキュアな状態で生成AIを業務に活用できます。LLMはAzure OpenAI ServiceのGPTシリーズの他、NTT研究所のtsuzumiも利用できるようになっています。LLM付加価値基盤とさまざまなサービスとをAPIで連携させた利用も拡大しています。
笛田氏：さらに、社内の生成AI活用の啓発や活用促進、風土の醸成のため、関連する講習やイベントも数多く実施しています。
稲子氏：全社員が受講できる講座に、プロンプトの書き方講座も取り入れています。人気が高く、多くの社員が受講しています。
笛田氏：生成AIに触れる機会を増やしたり業務活用を促す取り組みも行っています。触れる機会を増やす取り組みはいわゆるプロンプトソンで、「LLMを使ったスケジュール調整」や「LLMを使ったアンケート分析」など開催回毎に違ったお題を出し、提出されたプロンプトを採点して表彰を行います。先日4回目が終了しました。参加者に自分のスキルを磨いてもらうだけでなく、有識者の知見を社員に共有していくことも目的としています。業務活用を促す取り組みについては社内で大規模なコンテストを行い、生成AIを活用した優秀なアイデアや事例を表彰しています。
プロンプトなしで利用できる生成AI・LLMアプリプラットフォームとして、Alli LLM App Marketの試行を開始
ー 自社の生成AI活用基盤や研修やイベントなど、積極的に生成AI活用を推進されていた中で、Alli LLM App Marketを新たに採用された背景などをお教えいただけますか？
中村氏：自社の「LLM付加価値基盤」に加えて、社内の生成AI活用を促進できるツールの1つとして、Alli LLM App Marketを採用しました。「LLM付加価値基盤」はチャットタイプのUIとなっており、利用者がプロンプトを都度入力しLLMに指示します。プロンプト集を呼び出したり、自分で作成したプロンプトを登録、またエクスポートしてシェアをする仕組みもあり、使いこなしている方も増えています。とはいえ、多種多様な業務で活用するとなると限界もあり、プロンプトを入力せずに簡単に利用できるLLMツールを探していました。
笛田氏：生成AI活用の推進イベントの一つとして、さまざまなワークショップも行なっています。Alli LLM App Marketの生成AIアプリはプロンプトが予めセットされているので、受講者のスキルを問わず利用できます。また、アプリのカスタマイズや新規作成も簡単で、ワークショップでの利用という観点でも適しています。
中村氏：エンジニアではない人でも容易にアプリを作成できるインターフェースのため、学習コストがほとんどかかりません。誰でも簡単に生成AIを使いこなせる仕組みにメリットを感じ、Alli LLM App Marketをいろいろな用途で試しているところです。現在は、LLM付加価値基盤にあるAzure OpenAI ServiceのGPTシリーズ・tsuzumiとのAPI連携、Okta認証の適用など、当社のシステムと接続する形態で、Alli LLM App Marketを利用しています。
Alli LLM App Marketを使って、生成AIに関するビジネスアイディアをその場で検証できる仕組みを作りたい
ー Alli LLM App Marketを使った生成AIワークショップを開催されていると伺いました。どのようなワークショップでしょうか？
笛田氏：自分自身でアイデアを形にできる社員を増やすことを目的に、Alli LLM App Marketを使ったワークショップを実施しています。「ノーコードでLLMアプリを作れる」を謳い文句にしていて、2時間のハンズオン形式です。
稲子氏：アプリのテーマを「QA」「VLM」で分け、複数回実施しています。QA回は、RAGを用いてドキュメントから回答を自動生成するチャットボットを作成し、VLM回では、グラフ画像などをLLMで解析して分析するアプリを参加者が実際に作成します。初回はQA回で、デフォルトの生成AIアプリをコピーして作るところから始め、最終的にRAGによる回答自動生成アプリを作成する、といった流れで進めています。
笛田氏：Alli LLM App Marketでは生成AIアプリを即座に作成できるため、モックアップを作ってアイディアをすぐに形にして試すことができます。今年度も生成AIの社内コンテストを企画中なのですが、ワークショップを通じて社内に Alli LLM App Market のユーザが増えていっていますので、アイディアの実現性・即効性が上がってくるのではないかと期待しています。
中村氏：Alli LLM App Marketを用いてそれぞれLLMアプリを作り、実際に動かしながらアイディアの有用性の確認や効果検証を行なうことで、机上の空論ではないリアルなビジネスインパクトの検討が可能になります。
ワークショップ終了後も、「こんなことは実現できないか」など、即時対応できないほど利用に関する相談が！
ー ワークショップの反響はいかがでしたか？
笛田氏：ワークショップは全4回で、初回は約60名が参加しました。業務時間中に気軽に参加できるよう、ワークショップ自体は2時間という短い時間で行います。そのフォローアップとして、ワークショップ参加者向けのコミュニケーションチャットを用意し、発行したAlli LLM App Marketのアカウントを使って個々に現場で使えるアプリ開発を進めてもらっています。開催後も捌ききれていない程の質問や相談がチャットに来ており、関心度や期待値の高さを実感しています。
中村氏：実は、参加者から類似質問が複数寄せられることを想定し、ワークショップの問い合わせ対応用にAlli LLM App Marketでチャットボットも作りました。運営面でもAlli LLM App Marketを活用しながら、ワークショップを行なっています。
笛田氏：コミュニティチャンネルでは、「こういうことをやりたいが、どうしたらいいか」など、積極的な質問がたくさん寄せられています。
現場から寄せられる相談をもとに、テストアプリを即座に作成できるため、スピーディな伴走支援が可能に
ー ワークショップのほかに、皆さんが社内の伴走支援をする中で実際に作成されたAlli LLM App Marketのアプリや、検討中のアプリを教えていただけますか？
笛田氏：支社支店では、総務への問い合わせなどにRAGで回答するアプリを作成しています。現在は、私たちが作成したアプリの精度検証と運用検証を行っているところです。まず、回答する側のスタッフが利用しながら回答に必要な情報を登録し、内容を充実させた後に社内展開していく予定です。先程のワークショップでも、RAGを使ったアプリの取り組み事例として紹介しています。
中村氏：いくつかありますが、ドコモショップスタッフからサポートセンター（代理店フロントサポートセンター) への問い合わせのチャットログ やサービスのマニュアルからQAを作成するアプリなどを運用しています。当社は通信サービスやd払いなど、提供しているサービスの種類が非常に多いため、QAの作成ニーズが高く、生成AIによる業務効率化の効果が高い業務です。
Alli LLM App MarketのRAGのRetriever最適化により、回答生成精度が30％向上
ー Alli LLM App Marketを実際にご活用いただき、率直なご感想はいかがでしょうか？
稲子氏：簡単にアプリを作れるメリットを感じています。先程のサポートセンターの対応ログからQAを作成するアプリは、アプリを利用するセンター担当者との約1時間の打ち合わせの中で作成しました。アプリビルダーでプロンプトを設定してテストアプリを作成し、すぐにユーザー部署に試してもらえるところが良いと思います。
笛田氏：LLMも完璧ではありませんので、そのギャップを埋めるアプローチとして、ドキュメントをハイライト付きでプレビュー表示させたり、東京メトロ様の事例のように、まずFAQから回答させるフローを構築できる点も、実際に使えるなと感じています。
中村氏：対応ログからQAを作成するアプリでは、ドコモショップスタッフからサポートセンターへの問い合わせのチャットログ を活用しており、毎月10時間程度のQA作成に関わる稼働時間削減に繋がっています。
また、Alli LLM App MarketのRAG機能は非常に良いと感じています。Retriever最適化機能を実際に試したところ、回答精度を30%程度向上できたものもありました。もちろんLLM付加価値基盤でもRAG機能を実装していますが、ユーザー側で簡単に精度を上げる仕掛けがあることも、Alli LLM App MarketのRAGの良さを感じています。
全社的な生成AI活用を推進する秘訣は、全社員が利用できるプラットフォームを提供と、活用を盛り上げるコミュニティづくり
ー ワークショップの反響も含め、現場部署から数多くの生成AI活用の要望が上がっています。どのように現場の方とコミュニケーションを取っていらっしゃるのでしょうか。
中村氏：笛田さんたちのイベント活動の影響も大きいと思います。研修やコンテストの他に、先日は「生成AIDay」というイベントを実施しました。生成AIDayは、LLM付加価値基盤に関する情報発信や社内活用例の紹介、LLMベンダーの取り組みの紹介など、生成AI活用に関する情報を多面的に発信するイベントで、LLMベンダーとして池上さんにも登壇いただきました。参加者は200名程度を想定していましたが、予想を遥かに上回る1,000名で。
笛田氏：参加者が1,000名を超えるとは全く予想をしておらず、それだけ社内の関心が高まっているのだと感じています。生成AIDayでAlli LLM App Marketについても紹介したので、参加者の中でも活用イメージが湧き、「こういうアプリを作りたい」といったリクエストが多く上がってきています。
中村氏：イベント以外でも、現場の各部署と打ち合わせをする際にアプリを紹介していますので、「自分たちも相談してみよう」「使ってみたい」という雰囲気が醸成されているのだと思います。
ー これから生成AI活用に取り組む会社様に向けて、全社的に推進する秘訣やアドバイスはありますか？
中村氏：全社員が申請不要で利用できる生成AI活用環境を用意することが重要だと考えています。当社は、LLM付加価値基盤のWebアプリを全部署が使えるようにしており、誰でも使えるプラットフォームが普及に役立つと考えています。
笛田氏：プラットフォームを用意した上で、イベントなどを行いながらコミュニティの形成を行うことも必要だと感じています。当社ではコミュニティチャンネルを作り、情報を発信したりクイズを出したりしています。利用のハードルを下げると同時に火を絶やさないことも大切ではないでしょうか。
ー Alli LLM App Marketの活用を進められる上で、Allganizeのご支援はいかがでしょうか。
中村氏：定例会や非同期でのチャット連絡で、不明点について迅速に回答していただいており、問題解決の助けになっています。また、アプリの編集権限機能の追加など、「これが欲しい」といった機能が実装されるまでのスピード感が非常に速いと感じています。また、LLM付加価値基盤や自社の認証サービスとAlli LLM App Marketの連携についても満足しています。
笛田氏：個別のアプリ作成の伴走支援サービスもあるとのことで、そちらにも期待したいです。
有効な生成AIアプリを社内展開して更なる業務効率化へ。新たな技術を取り入れながら、会社として最適な取り組みを実現
ー 今後の展望について教えてください。
笛田氏：ワークショップなどでさまざまなAlli LLM App Marketのアプリを作り、社内に横展開していきたいと考えています。例えば、社内の問い合わせ対応などは、支店支社問わずどの部署でも適用でき、導入効果も期待できます。このように有効なアプリや活用例を積極的に発信しながら展開し、更なる業務効率化に繋げていきます。
中村氏：今後も生成AI活用に関するナレッジを集め、社内の各部署に業務効率化施策として届けていきます。問い合わせ対応の他にも、翻訳、議事録作成など、生成AIにより効率化できることが飛躍的に増えています。当社では現在、生成AIツールとして、自社のLLM付加価値基盤を主に利用し、Alli LLM App Marketにも取り組み始めていますが、今後も新しい技術を取り入れ、会社として最適な取り組みを実現できるよう推進していきます。