従来のRAGより応答速度が10倍！REAPERの仕組みやメリット、活用方法を解説
- REAPERとは、2024年7月に発表された新たなRAGの手法
- REAPER使用前後で10倍近く生成速度が変化する
- パーソナライズされた回答も可能
REAPERはRAGをより効率よく活用するために提案された手法です。Amazonの研究者らによって提案されたREAPERは、従来の応答速度の10倍近く高速化ができます。
本記事ではRAGの概要に触れ、REAPERの仕組み、REAPERの活用方法についてお伝えします。最後までお読みいただければREAPERについて理解できますので、ぜひ最後までお読みください。
REAPERとは
REAPERは従来のRAGをより速く効率的に使用するための新たな手法で、ユーザーからの複雑な質問に対して、迅速に対応するために提案されました。
カスタマーサポートやチャットボットなどのように、複雑な質問がくる上に正確になるべく早く回答しなくてはならないような場面でREAPERは活躍するでしょう。
RAGとは？
RAGとは、ユーザーからの質問に対して外部のデータソースを参照して回答ができるLLMを作成するための方法です。LLM単体では、LLM自体が学習していない分野についての回答は限定的ですし、ハルシネーションを起こしやすく、最新の情報を学習していないので回答情報が古くなってしまいます。
しかし、RAGを導入して外部のデータソースを参照できるようになれば、未学習の分野でも回答できるようになり、ハルシネーションは減少、最新の情報を回答に盛り込むことも可能です。
LLMが回答を生成するまでの過程として、ユーザーの質問を受け取る→回答生成→回答出力という大まかな流れがあります。
RAGを導入することで、ユーザーの質問を受け取った後、外部のデータソースから関連するドキュメントを参照して、ユーザーの質問に対する返答に関連するものを取得・抽出してから回答を生成することになります。
RAGについてはA Cheat Sheet and Some Recipes For Building Advanced RAGというサイトが非常によくまとまっており、わかりやすいと思います。※1
「Motivation」と書かれている図は、なぜRAGが必要なのかについて言及しています。記載されているのは、LLMはハルシネーションを起こす可能性がある・未学習データについては回答できない・最新情報について回答できない、ということです。
また、「Basic RAG」で言及されているのは上記3つの問題に対して、外部のデータソースを活用することで解決できる(≒RAGが必要)ということを述べています。
RAG導入のメリット
RAGを導入するメリットとしては大きく3つあります。
- ノイズを減らせる
- ハルシネーションを減らせる
- 最新情報・未学習分野について回答できる
RAGは外部のデータソースを参照することで、ユーザーの質問内容と関係のない文章を減らして回答を生成することが可能です。その結果、不要な情報(≒ノイズ)を最小限にできるため、RAG導入後の回答は、より精度の高い回答になります。
また、外部のデータソースを参照することで、LLMが知らない内容を勝手に生成して適当な回答をすることを防ぐことができます。データソースは単体ではなく、複数の情報を参照して回答ができるので、より精度高く回答可能。
さらに、LLMの学習していない分野や最新情報についても取り扱うことができるため、回答精度は高くなります。
REAPERの役割
REAPERはRAGシステムにおけるReasoning-Based Retrieval Planning（論理的な検索計画）です。REAPERが解決する課題は 複雑な情報検索の効率化。従来のRAGでは、シングルステップでの情報取得でしたが、REAPERはマルチステップでの情報取得です。
マルチステップで情報取得することにより、より複雑なユーザーからの質問に対して回答することができ、精度の向上も期待できます。
また、効率よく回答するためにはどうするべきか？といった計画を立てることもできるため、REAPERの役割は「ユーザーからの複雑な質問に対して効率的に外部のデータソースを参照するための計画を生成する」というものになります。
REAPERの仕組み
REAPERの仕組みは、ユーザーからの複雑な質問を複数の小さなタスクに分割するところからスタートします。
分割されたタスクを実行する順番に並び替え、後続のタスクが前の情報に依存する場合には、順番を考慮して計画を立案。計画の立案では、小型のLLMが活用されます。
この時の計画では、どのような外部データソースから情報を取得するのか、呼び出す際に必要なパラメータは何かなども決めています。
タスクの分割・実行する順番の計画ができたら、最初のタスクから情報を取得していき、各ステップで取得した情報をまとめ、次のタスクの入力データとして使用して、全ての情報が揃った段階でLLMを使って回答を生成。
REAPERについて記述されている論文では、ユーザーからの質問が「Samsung Galaxyのメモリ容量は？」というものであった場合、タスクは2つに分けられるとしています。※2
- タスク1：ユーザーの購入履歴を調査
- タスク2：該当デバイスのメモリ容量情報を取得
次にタスク1とタスク2、どちらを先に検索するかを検討しますが、後続のタスクが前の情報に依存する場合には、順番を考慮して計画を立てるため、先に「購入履歴」を取得してから「デバイス仕様」を検索することになります。
このようにREAPERは複雑なタスクをシンプルなタスクに分解することで、より効率よくRAGを活用することが可能です。
なお、AIエージェントとRAGの違いについて詳しく知りたい方は、下記の記事を合わせてご確認ください。
REAPERのメリット
REAPERのメリットは回答性能の向上・コスト改善・ハルシネーションの減少などです。
複雑な質問を小さなタスクに分割することで、従来のRAGでは対応が難しかった内容も対応することが可能となりました。特に上記の画像に示してあるように、個人の購入履歴などのパーソナライズされた回答ができます。
また、小さなタスクに分割することで、外部データソースの検索精度が向上し、回答性能も向上しています。
REAPERは他の手法に比べ、必要なトレーニングデータ量が少なく済みます。上記の画像だと、Customer Supportでは、Ensemble Classifierが24,621件のデータを必要とする一方で、REAPERはわずか1,127件でほぼ同等以上の性能を達成。
そのため、データ収集やトレーニング、運用コストなどを大幅に削減ができます。
さらにLLMの使用上の問題としてハルシネーションが話題にあがります。しかし、REAPERはファインチューニングと外部データソースの活用でハルシネーションを防ぐことが可能。外部データソースに記載されていない情報については「わからない」と回答することもできます。
REAPERと他のRAG手法の比較
REAPER以外にもRAGの手法はいくつかあります。
| RAG Fusion | Retrieval-Augmented Language Model Pre-Training | Retriever-Reader | |
|---|---|---|---|
| 機能 | ユーザーの質問に基づいて、LLMが関連する複数の新しいクエリを生成。 | 外部データソースをモデルの中に組み込む | RetrieverとReaderが分られており、効率的に回答の生成が可能。 |
| メリット | 複数のクエリを生成することで、元の質問よりも幅広く対応することができる。ハルシネーションを防げる。 | 外部データソースが事前に用意されているのでユーザーが外部データソースを提示する必要がない。 | RetrieverでSentence BERTを用いることで、質問と異なる表記の文書も正確に検索可能。 |
| デメリット | 複数のクエリに対してベクトル検索を行うので、計算コストが増加。また、LLMにクエリを生成させるので、API利用料も増加。 | リアルタイムでの情報更新はされないので、最新情報の反映が遅れる可能性がある。 | 特定ドメイン向けの追加学習やデータセットの準備が必要なため、導入コストが高くなる場合がある。 |
| 参考論文URL | https://arxiv.org/pdf/2402.03367 | https://arxiv.org/pdf/2002.08909 | https://www.anlp.jp/proceedings/annual_meeting/2023/pdf_dir/Q8-3.pdf |
REAPERの活用方法
REAPERはパーソナライズされた質問についても回答できるため、顧客履歴に基づくカスタマーサポートやチャットボット、研究支援などで活用できるでしょう。
例えば、「先月購入した商品の保証期間は？」といった質問に対して、REAPERが購入履歴を検索し、対象商品を特定。次に保証期間に関する情報を取得し、回答を生成できます。
また、過去に購入した情報などについても取得できるでしょう。
研究支援では、論文データベースのAPIを活用して、ユーザーの質問に対して関連する論文の取得、必要情報の要約、出力もできるでしょう。特に研究では論文レビューに膨大な時間をかけるため、REAPERを使って効率的に論文レビューを行えると、かなりの時間短縮になりますね。
なお、RAGの開発事例について詳しく知りたい方は、下記の記事を合わせてご確認ください。
REAPERを活用してみよう！
本記事ではRAGの概要に触れ、REAPERの仕組み、REAPERの活用方法についてお伝えをしました。LLMが小型になり、RAGに導入もしやすくなってきましたが、LLMのみでは解決できないこともあります。
RAGを活用することで複雑な質問に対して迅速かつ正確な回答を得られるため、業務効率化やカスタマーサポートの改善が期待できます。
最新の情報をリアルタイムで取り入れ、無駄な情報を削減することで、より精度の高いサービスを提供することが可能です。
最後に
いかがだったでしょうか？
REAPERを活用すれば、RAGの応答速度が10倍に向上し、パーソナライズされた回答も簡単に実現するでしょう。
株式会社WEELは、自社・業務特化の効果が出るAIプロダクト開発が強みです！
開発実績として、
・新規事業室での「リサーチ」「分析」「事業計画検討」を70％自動化するAIエージェント
・社内お問い合わせの1次回答を自動化するRAG型のチャットボット
・過去事例や最新情報を加味して、10秒で記事のたたき台を作成できるAIプロダクト
・お客様からのメール対応の工数を80％削減したAIメール
・サーバーやAI PCを活用したオンプレでの生成AI活用
・生徒の感情や学習状況を踏まえ、勉強をアシストするAIアシスタント
などの開発実績がございます。
まずは、「無料相談」にてご相談を承っておりますので、ご興味がある方はぜひご連絡ください。
「生成AIを社内で活用したい」「生成AIの事業をやっていきたい」という方に向けて、生成AI社内セミナー・勉強会をさせていただいております。
セミナー内容や料金については、ご相談ください。
また、サービス紹介資料もご用意しておりますので、併せてご確認ください。
