■新サービス■ 金融業界特化型LLM「Alli Finance LLM 」、提供開始!
Allganize、⾦融業界に特化したLLMモデル「Alli FinanceLLM」の提供を⽇本および韓国で開始!
Allganizeは、⾦融業界に特化した⾔語モデル「Alli Finance LLM」の提供を開始します。
Alli Finance LLM は⾦融領域特有の業界⽤語や慣習を理解しており、⾦融機関のさらなる業務⾃動化や⽣産性向上に貢献します。
また、Alli Finance LLM を簡易に業務活⽤いただけるよう、業務に適したLLMアプリを選択してすぐに使える、LLMアプリを簡単に作成できるアプリマーケット「Alli LLM AppMarket」に実装し、即時利⽤可能な形態で提供します。
Alli Finance LLM 提供の背景
OpenAI社のGPT-3.5やGPT-4をはじめとする汎⽤的な⼤規模⾔語モデル(以下、LLM)は、⼀般的な情 報や広く公開されている情報をもとに⾃然な応答を⾏うことに優れていますが、専⾨知識が求められる 場⾯ではより精度の⾼い応答が必要となるケースがあります。
⾦融業界は専⾨性が⾼く、特有の業界⽤ 語や慣習も多いため、汎⽤的なLLMで⾃動化可能な対象業務に限りがありました。
Allganizeは、これまで多くの⾦融機関様の業務効率化を独⾃のAIソリューションで⽀援しています。⾦ 融機関各社様のさらなる業務⾃動化を現実的に可能にするために、Allganizeが持つ⾦融業界に対する知 ⾒やノウハウを活かし、⾦融業界に特化した⾔語モデル「Alli Finance LLM」を開発しました。
Alli Finance LLM の特徴
⾦融業界特化型の"sLLM"
Alli Finance LLM は、オープンソースのLLMの中でも⾦融領域で⾼精度が⾒込まれると判断したMeta社 のLlama 2をベースに開発した⾦融業界特化型のsLLM(⼩規模な⼤規模⾔語モデル)です。
sLLMはパラ メータの規模がLLMより⼩さいものの、訓練のためのデータ・時間・費⽤などが⽐較的少なく、特定⽤途 のAIサービスの開発に適しています。 ⼀般⽤語と類似する⾦融業界⽤語も正しく認識 ⽂字表現が同じであっても、⾦融業界と業界外では、⽤途や意味が異なる⾔葉が存在します。
例えば「L TV」という略語は、マーケティング⽤語の「Life Time Value(顧客⽣涯価値)」を指す場合が⼀般的です。汎⽤的なLLMに「LTV」の意味を尋ねると、顧客⽣涯価値の略語である旨を答えます。⼀⽅、Alli Fin ace LLM に同様の質問をすると、不動産投資等で利⽤される「Loan to Value(総資産有利⼦負債⽐率) 」の略語であると返答します。
このように、⾦融業界特化型の Alli Finace LLM は業界特有の⾔葉の使い⽅を理解しており、⾦融機関が 基幹業務で利⽤しやすいsLLMとなっています。
オンプレミスなど、各社環境で利⽤可能
Alli Finance LLM はオンプレミスなど各社独⾃の環境で利⽤でき、⾼⽔準のセキュリティ要件が必要な⾦ 融機関でも安⼼してご利⽤いただけます。
実業務への導⼊が容易
Alli Finance LLM は、AllganizeのオールインワンLLMプラットフォーム「Alli LLM App Market」から活 ⽤できるLLMのひとつとして提供します。
Alli LLM App Market は「社内・特定情報からの要約や⽂章⽣ 成」「AIチャットボット」「コグニティブ検索」など、100以上のLLMアプリケーションを実装し、ユー ザーが業務に適したアプリケーションを選択して利⽤するサービスです。
各アプリケーションに適⽤す るLLMをユーザーが⾃由に選ぶことができ、Alli Finance LLM の他にOpenAI社のGPT-4など適したモデ ルを選択可能です。
Alli LLM App Marketの発表はこちら↓
ハルシネーションを低減する仕組み
LLM活⽤においては、AIが事実とは異なる内容を出⼒する「ハルシネーション」が課題として挙げられます。
Alli Finance LLM では、ハルシネーションを低減し精度向上を実現するために、Allganizeの強⼒な 「Retrieval Augmented Generation(以下、RAG)」を組み合わせています。
RAGは、ハルシネーションを改善する⼿段として注⽬されている技術です。外部の知識ソースから事実 データを検索し、検索したデータをLLMにプロンプトとして渡すことでプロンプト強化を実現します。
Alli Finance LLM ではRAGの適⽤により、⾦融商品説明書や業界レポートなど希望する⽂書を対象に、 ⽂書の中から関連する事実データを検索し、同データをもとに応答することができます。
⽤途や予算に合わせた2つのモデル
Alli Finace LLM はパラメータが130億(13B)、700億(70B)の2つのモデルを⽤意しています。プロ ジェクトの予算や、業務活⽤の難易度に応じてモデルを⾃由に選択できます。
Alli Finance LLM の活⽤例
⾦融関連情報をもとにした、様々なLLMアプリケーションに活⽤可能です。
活⽤例の⼀例
- 複雑な⾦融商品の約款等に対する質疑応答
- 経済⾒通しのレポートの要約
- 過去の業績や今後の展望をもとにした予測レポートの作成 等
Allganize Japan 代表取締役 佐藤康雄のコメント
Allganizeでは、グローバルで多数の⾦融機関様を⽀援してきた知⾒、技術ノウハウを活かし、⾦融業界 向けの Alli Finance LLM を開発しました。同LLMに Alli LLM App Market を組み合わせることで、⾦融 機関様に導⼊後すぐにLLMの実務適⽤、業務効率化の実現を可能としています。LLMの活⽤による業務⽣ 産性向上の効果は計り知れません。ぜひ、活⽤をいただきたいと考えています。
なお、Alli Finance LLM に続き、他業界向けにもsLLMの提供を⾏なっていきます。⾦融業界をはじめと して、多様な業界への⽀援をAllganizeでは実現していきます。