■導入事例■【KDDI様】現場部署が生成AIアプリを作成。 生成AIを活用した全社的な生産性向上を目指す、KDDI様のチャレンジ

KDDI株式会社 経営戦略本部 Data&AIセンターでは、2023年夏頃から生成AI・LLMの業務活用について本格的に取り組んでいます。先進的な技術を好む人たちだけでなく、全社的に生成AIを誰でも利用できる環境を整えることで、会社全体の業務効率化の実現を目指し、多様な施策を積極的に展開されています。

生成AIの全社活用における取り組みの一環として、Allganizeの Alli LLM App Market も活用いただき、法務部による生成AIアプリ作成の検証や個別タスクアプリの展開などを実施いただいています。

今回は、 KDDI株式会社 経営戦略本部 Data&AIセンターのお取り組みについて、同部 柏本様にお話を伺いました。(※ インタビュー内 敬称略)


Allganize Japan 土井(以下、土井): 柏本様が所属されているData&AIセンターの生成AIのお取り組みについて、簡単にご紹介いただけますか?

KDDI 柏本(以下、柏本):社内の重要業務に関して、Data&AIセンターで旗振りする形で生成AIを利用できる環境を整えています。例えば、生成AIを活用した社内向けAIチャット「KDDI AI-Chat」、MicrosoftのCopilot、業務システムの生成AI機能の開発、Allganizeさんと進めている生成AIアプリもその一貫です。

土井:社内における活用を促進するために、工夫されていることはありますか?

柏本:そうですね、生成AIに限らず先進的なツールの導入時に良く起きるのが、「入れたはいいが使われない」という状況です。それを防ぐために、例えばCopilotの利用事例を社内発信したり、ワークショップを開いたりして、社員が自分の業務に活用しやすい状況を作っています。

土井:どのように使えるのか、どのような効果があるのか知ってもらうことは重要ですよね。多くの施策を実施されていらっしゃいますが、適用業務の傾向などはありますか?

柏本:例えば、CopilotはTeams会議の予約の自動化など、現場でも結構利用されています。一方で、社内にある様々なシステムと連携して動くようなタスクに関しては、Copilotでも実現可能ですが色々な課題も存在します。用途や実現方法に応じて、業務システム用の生成AI機能を開発したり、他のプラットフォームを活用しています。

KDDI株式会社 経営戦略本部 Data&AIセンター コアスタッフ 柏本様

非エンジニアでも、日常的に使いこなせる生成AIプラットフォームを探していた

土井:当社の Alli LLM App Market も、生成AIを業務活用するためのプラットフォームの一つとしてご活用いただいています。Alli LLM App Market を試してみようとご決断いただいたのはどういった理由だったのでしょうか。

柏本:Alli LLM App Market のパンフレットを見た時、「とてもシンプルに使えそう」というのが最初の印象でした。生成AIはテキストベースのやり取りなので、比較的分かりやすいものの、先進的な技術なので「とっつきにくい感じがする」「プログラムを組まないといけないのではないか」など、心理的な障壁が存在します。御社のシングルアクションアプリなどは、やりたいことをばっと書いてボタンを押すだけで業務で使える生成AIアプリが出来上がるので、かなり簡単だなと。インタフェースも使う側に配慮されていると感じたので、試してみようとなりました。

土井:ありがとうございます。確かに、これまでのAIだと「Pythonなどプログラミング言語のスキルが必要」「モデルを学習をさせないといけない」など、利用までのハードルが高かったですよね。それらに比べれば生成AIは取り組みやすいですが、「難しそう」と感じる方がいらっしゃるのもわかります。Alli LLM App Market は、管理者も利用者も使いやすいプラットフォームを目指しているので、頂戴したご感想はとても嬉しく思います。

Allganize Japan株式会社 Customer Success Senior Specialist 土井

土井:実際に Alli LLM App Market の検証をいただいた際には「ITに普段触れていない方でも、簡単に使えるか」というところが大きなテーマだったと思います。

柏本:はい。「エンジニアリングができない社員でも、生成AIを日常業務で使うための一助になりうるのか」「作成したアプリを社内に公開して業務利用できるプラットフォームなのか」という観点で検証を進めました。

土井:貴社の検証の観点について、さらに詳しく伺わせてください。生成AIにこれから取り組む会社様も多く、貴社のお取り組みを伺えますと嬉しく思います。

柏本:生成AIで効率化する場合、テキスト処理ベースの業務が主な対象になります。特に、「人間でも頑張ればできるが、AIに任せられる業務」が対象です。

生成AIに作業代行させるアプリを非エンジニアの社員が自ら作成でき、そういったアプリが社内に広がることで、全社的な生産性向上に繋がるかどうかをPoCのゴールに設定しました。実際に現場の方に取り組んでいただき、インタビュー形式でリアルな声を把握することも Alli LLM App Market のPoCでの大きな目的でした。

土井:社内の検証体制、チーム組成をどのように組まれたのかも気になっています。例えば、検証していただく現場の部署の選定はどのように行なったのでしょうか?

柏本:今回の検証では、法務部に協力していただきました。生成AIを活用すべき業務が多数ある中で、お客様に近いコールセンターなどは既にAIチャットボットが稼働していたり、事業部主導で生成AI活用が進みやすい傾向があります。一方で、「ミドル業務」といわれる社内向けの事務方の業務は、コールセンター等に比べ生成AI導入の費用対効果を算出しづらく、私たちが旗を振りながらAI活用に取り組んでいます。特に、弊社の法務部は大量の契約書に対処しており、それこそ法務部のメンバーが「人力チャットボット」のように日々社内対応を行っている状況です。

土井:契約書はテキストベースですし、生成AIによる効率化が期待できる分野ですよね。検証のチーム体制はどのようなメンバー構成だったのでしょうか。

柏本:完全な非エンジニアメンバーだけでなく、多少エンジニア知識があるメンバー、生成AIにも精通しエンジニアリングスキルがあるメンバーにも参加してもらいました。理由としては、Alli LLM App Market で生成AIアプリを作成する場合、どのようなスキルレベルが求められるのか見極めたかったからです。

土井:様々なスキルレベルの方に参加してもらうことで、客観的に求められるスキルセットを明確化されたのですね。

柏本:そうです。多少エンジニア知識があるメンバー、生成AIにも精通しエンジニアリングスキルがあるメンバーに関しては、DXパートナー企業に協力いただきました。事前に Alli LLM App Market でどのようなことができるのか、私たちと一緒に試してプラットフォームへの理解度を深めた上で、法務部にも実際にアプリを作成してもらいました。

土井:2ヶ月ほど Alli LLM App Market の事前検証期間を設けていましたが、どのようなことを実施されたのでしょうか。

柏本:法務部にアプリを作ってもらう前に、Alli LLM App Market の仕組みや、実現できることを私たちが理解しておく必要があります。実際に Alli LLM App Market を使って内部的にアプリを作成したりしながら、法務部へのレクチャー内容を整理していきました。

使い方のレクチャー後、たった10分で生成AIアプリを作成!

土井:内部的な事前検証の後、法務部の皆さんが対応されたのは1日のみだったかと思います。

柏本:はい。非エンジニアでも短時間で理解して使うことができるのかを確認したかったので、敢えて法務部の皆さんには1日で検証してもらいました。Alli LLM App Market について私たちから簡単なレクチャーをして、実際に業務に関する生成AIアプリを作ってもらいました。

土井:法務部の皆さんも簡単にアプリを作ることができたと伺っているのですが、詳しく教えていただいても良いでしょうか?

柏本:作成したアプリはリーガルチェックアプリ、法務関係の文章要約アプリなどです。作成にかかった時間は短いものだと10分程度で、非エンジニアでも簡単に作れることを確認できました。

土井:Alli LLM App Market の仕組みについて説明した直後に、アプリをすぐに作成できたのですね。

柏本:はい、その通りです。特に印象的だったのが、参加された法務部の方3名が黙々とアプリを作成していたことです。新しいツールを展開すると、普段ならば、「どう使ったらいいか分からない」「この表示はどんな意味か?」などの質問をたくさん受けるのですが、今回はそういったことが一切なく。簡単なチュートリアルを見せた直後に使いこなすという光景は、私としても初めての経験でした。

生成AIの分かりやすさももちろんありますが、Alli LLM App Market のプラットフォームとしての分かりやすさが大きいのかなと。非エンジニアにも寄り添ったUXになっているので、簡単に作れたのではと感じています。皆さんが何も言わずに即座に文章チェックアプリなどを作成していたので、正直びっくりしました。

土井:ありがとうございます。私たちは生成AIが台頭する以前からAIチャットボットを提供しておりますが、その頃からノーコード、例えば線で繋ぐだけでフローが組めるような簡単さを強みとしています。誰でも使えることを大切にしていますので、法務部さんの検証結果にも表れたのではないかなと感じました。

柏本:その後、法務部へインタビューを行いましたが、Alli LLM App Market の操作に関して心理的障壁もなく、問題なく利用できたそうです。生成AIアプリに設定するプロンプトを自分たちでも作っていけそうといった感想もあり、手応えを感じています。

土井:実際のお声はとても参考になります。弊社もアプリのテンプレートを多数用意していますので、貴社の様々な業務に活用していただけると思います。

Teams会議の議事録作成アプリを全社展開

柏本:法務部では、契約書チェックだけでなく、契約内容や法的事項を現場に分かりやすく説明するためにかなりの時間を割いています。今回のPoCを通して、生成AIを活用することで、法務知識がないメンバー向けのわかりやすい要約文の作成や、説明メッセージの作成など、生成AIの活用シーンを現場主導で考えることができました。現在は、生成AI活用において、検討事項を整理している段階です。

土井:その後も個別タスクを生成AIで効率化するアプリを検討いただいていますが、Alli LLM App Market で作成した議事録アプリが公開されたと伺いました。

柏本:はい。議事録アプリは全社にモニター利用の希望者を募ったところ、すぐに80名以上からリクエストがあり、先行利用を始めています。Teamsのトランスクリプト(Teams会議の文字起こし)をもとに、所定の議事録に情報をまとめるアプリで、私も使っています。

土井:実際に議事録アプリを使っていただいて、出力具合などはいかがですか?

柏本:問題なく利用できています。もともと自社で似たような議事録作成アプリを作っていましたが、クオリティをもう一段階あげたいと考えていました。Copilotの議事録作成もありますが、業務委託社員や派遣社員など、Copilotのライセンスを持っていないメンバーもいます。Alli LLM App Market の議事録アプリは誰でも利用でき、生成される議事録のクオリティも問題ないので、利用範囲を全社的にカバーするという意味でも求めていたものでした。

ノーコード生成AIアプリ開発プラットフォームとしての使いやすさ

土井:ノーコードの生成AIアプリ開発プラットフォームの有効性を確認できた点があったと思います。

柏本:この領域では、Alli LLM App Marketの他にも、Difyなども試用しています。Difyと Alli LLM App Market では使い勝手が異なる点があります。Difyもノーコードですが、ライブラリの設定などエンジニア知識が求められます。ゼロからコーディングするより開発の難易度を下げてくれる点は有用で、エンジニアをサポートするツールとして使いやすく、コーディングができるメンバーが利用しています。

土井:確かに、Difyは自身でコーディングできる方が利用すると実現できることの幅が更に広がる印象です。

柏本:そうですね。Copilot Studioも試してみましたが、Difyに近い印象があります。もう少しAllganizeさんのAlli LLM App Marketのように、エンジニアリング知識がなくても簡単に使えるのかと思いましたが、深く見ていくとコードが現れます。細かい設定や連携を行いたい時やエラーに対処する際などは、エンジニアリング知識のあるメンバーのサポートが必要かなと考えています。

土井:なるほど。Alli LLM App Market は非エンジニアが使いこなせるツールである一方で、システム連携なども簡易に作り込むこともできます。

柏本:そうなんですよね。そこも御社の面白いところだと思っていまして、色々と試していきたいと考えています。

AIが自律的にサポートするAIエージェントなど、未来を見据えながら積極的に取り組んでいく

土井:Data&AIセンターの生成AIに関する展望をお教えいただけますか?

柏本:色々な方向性があると考えていますが、最近話題になっているAIエージェントのように、プロンプトに詳しく指示を書かなくとも抽象的なタスクをこなす生成AIや、AIが全体像を把握して人間に追加情報提供を求めるような仕組みが実現する可能性があると思っていて、私たちがどのように取り組めるのかを見つけ出していきたいと考えています。

土井:AIエージェントは弊社も注力していて、徐々に機能を実装しています。例えば、タスクの内容によって最適なLLMモデルをAIが選んだり、実現したいことをテキストで入力いただくとその内容に合致した生成AIアプリを自動生成するといったところは既に実現しています。一緒に検討させていただけると嬉しいです。

柏本:Alli LLM App Market の活用というところでは、クリエイティブチェックなども行ってみたいと考えています。法務部のように、クリエイティブチェックも大変な作業なので、一次チェックを生成AIで行えるとよりいいのかなと考えています。

土井:既に薬機法チェックアプリなども公開していますので、貴社のクリエイティブチェックでもご活用いただけると思います。また、当社では、エージェントに加えてRAGにも注力しています。企業向けのRAGの精度を上げるための様々なアプローチを実装していますので、RAGの領域でもお力になれるのではと考えています。

柏本:先日発表されたAllganizeさんの日本語 RAG Leaderboadも見ました。利用者にとって使いやすいRAGを提供していきたいので、ベンチマークを取りながら検討していきたいですね。

土井:ぜひお願いします。他に、Allganizeに期待することはありますか?

柏本:御社のプラットフォームの良いところは、最新のLLMを業務アプリとしてすぐに試せるところです。新たなLLMモデルが次々とリリースされる中で、Allganizeさんは最新モデルをプラットフォームにいち早く取り入れています。私たちも Alli LLM App Market を通して、最新のLLMモデルの活用効果などをスピーディに試しながら、会社の生産性向上を実現していきたいと考えています。

土井:ご期待に応えられるよう、Alli LLM App Market をより良いものにしていきます。本日は貴重なお話をありがとうございました。

KDDI株式会社――Tomorrow, Together
KDDIの公式企業サイトです。KDDIの企業情報、ブランド、個人向け事業、法人向け事業、サステナビリティ、投資家情報、採用情報などをご紹介します。

関連リンク

Allganize | Alli LLM App Market(生成AI・LLMアプリケーションプラットフォーム)
Alli LLM App Marketは、企業向けの生成AI、LLMアプリを100個以上のテンプレートから選び、即座に業務に活用できるLLMアプリプラットフォームです。「契約書チェック」「クレーム対応メール作成」「特定文書の要約」「社内ドキュメントから自動応答」「新規事業アイディア提案」など、すぐに業務活用できる生成AI、LLMアプリのテンプレートを提供しています。
■お知らせ■日本語RAG性能を評価した「Allganize RAG Leaderboard」を本日公開
国内初、RAG性能に特化したLeaderboard(性能表)を公開。金融、情報通信、製造、公共、流通・小売の5つの業種ドメインにおける、主要なRAGソリューションの日本語RAG性能を評価。 Allganize Japanは、日本語RAG性能を評価した日本初の「RAG Leaderboard」を公開しました。 RAG(Retrieval Augmented Generation:検索拡張生成)は、社内ドキュメントや特定情報から信頼できるデータを検索の上で情報抽出し、同データに基づいてLLMに回答させる技術です。企業内部情報の生成AI・LLM活用や、ハルシネーション低減の役割で注目されています。RAGの実装方法は各社によって異なるため、採用するRAGソリューションによって回答精度は異なります。Allganizeでは、企業によるRAG活用の参考情報として、主要なRAGソリューションの日本語性能を評価した Allganize RAG Leaderboard を作成しました。本Leaderboardは、AIに特化したプラットフォームである「Hugging Face」にて本日より閲覧いただけま
■イベントレポート■【東京メトロ様ご登壇!】 生成AI・LLMで実現するコールセンター業務・CXの高度化〜業務効率化から新たな価値創造へ〜
Allganize Japanは、2024年9月20日(金)にコールセンター業務・CXの高度化をテーマにした生成AI・LLMに関するイベントを東京 渋谷で開催しました。今回は、当日の様子を簡単にご紹介します。(本レポートに記載している登壇者の所属等の情報は、開催当時の情報です) 東京メトロ様ご登壇! 生成AI・LLMで実現するコールセンター業務・CXの高度化 〜業務効率化から新たな価値創造へ〜お客様対応領域で大きなチャレンジを行っている東京地下鉄様(東京メトロ様)をゲストにお迎えし、お客様対応業務への生成AI活用への取り組みなどを伺います。また、生成AIのトレンドや潮流などもご紹介しながら、生成AIによるCXの高度化について考えてまいります。第二部では、登壇者も交えた参加者交流会も実施いたします。生成AI活用やCXのお取り組みのご参考に、ぜひご参加ください。 [ セッション1 ] 生成AI・LLMのトレンドや潮流 デロイト トーマツ ベンチャーサポート株式会社 スタートアップ事業部 マネジャー 伊達様に、最近の生成AI・LLMのトレンドや潮流をお話しいただきました。 生成AI