社内の資料をAIに参照させる：検索拡張生成（RAG）の考え方と注意点
公開日
RAGは「答える前に、資料を調べさせる」方法
検索拡張生成（Retrieval-Augmented Generation、RAG）は、AIが回答を作る前に関連する資料を検索し、その内容を文脈として渡したうえで答えさせる方法です。AIが学習済みの知識だけに頼らず、手元の資料を根拠にできるようになります。自社の料金表、手順書、よくある質問などをAIに答えさせたい個人や小さな会社が、まず知っておく考え方です。
この名前は、Patrick Lewis らが2020年に発表した論文「Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks」で広まりました。論文は、言語モデルが持つ知識と、外部の文書を検索する仕組みを組み合わせると、知識を必要とする課題で成果が上がることを示しています。
仕組みは4つの手順
実際の流れは、おおむね次のとおりです。
- 資料を適当な長さに区切って保存しておく
- 質問が来たら、質問に近い内容の区切りを検索する
- 見つかった区切りを、質問と一緒にAIへ渡す
- AIが、渡された内容を踏まえて答えを書く
AIの再学習はしません。資料を差し替えれば、次の質問から新しい内容が使われます。価格改定や規約の変更が多い事業では、この点が助けになります。
資料を渡しても、誤りがなくなるわけではない
RAGは誤りを減らす助けにはなりますが、ゼロにはしません。つまずきやすい点は3つあります。
一つ目は、検索が外れることです。質問の言い回しと資料の言葉が違うと、必要な箇所が見つからず、関係の薄い箇所をもとに答えてしまいます。二つ目は、資料が古いことです。古い料金表を入れておけば、AIは古い料金を自信ありげに答えます。三つ目は、区切り方です。表や条件が途中で切れると、前提を欠いた答えになります。
対策として、資料に更新日を入れる、答えと一緒に参照した箇所を示させる、資料にないことは「資料に記載がない」と答えさせる、といった指示が有効です。
社内資料を使うときの注意
資料を外部のAIサービスに渡すことは、情報を社外に出すことでもあります。次の点を、使い始める前に決めておきます。
- 顧客の氏名、連絡先、契約内容などの個人情報や機密を含めてよいか
- 利用するサービスが、入力内容を学習に使うかどうか。設定や利用規約で確かめる
- 取引先との契約に、資料の第三者への提供を制限する条項がないか
- 誰が、どの資料を、AIに参照させてよいかの範囲
個人情報の扱いは、法律上の義務が関わります。判断に迷う場合は、弁護士や個人情報保護に詳しい専門家に相談してください。
まず試すなら、顧客の情報を含まない資料、たとえば公開済みのよくある質問や商品説明から始めるのが安全です。
答えを確かめる習慣をつける
RAGを入れたあとも、人の確認は残ります。始めの数週間は、AIの答えを毎回、元の資料と見比べます。間違いが出た質問は記録しておき、資料の書き直しや指示の修正に使います。
お客様への返信にそのまま使う場合は、金額、日付、返金や保証の条件だけでも、人が目を通してから送る運用にします。
資料の書き方で、検索のしやすさが変わる
RAGの成否は、AIの性能より資料の整い方に左右される場合が多くあります。検索は、質問と資料の言葉の近さを手がかりにするため、資料側を整えるだけで答えが改善することがあります。
- 1つの項目は1つの話題にまとめ、見出しを付ける
- 「前述のとおり」「上記の場合」のような指示語を避け、条件を毎回書く
- お客様が使う言葉（「解約」「やめたい」など）も、資料の中に入れておく
- 表は、行の見出しを各行に繰り返すか、文章に書き直す
- 古い版は削除するか、「旧版」と明記して分ける
担当者の頭の中にだけある例外（「この商品だけ返品不可」など）は、資料に書かれていなければAIには届きません。答えの誤りを調べると、資料に書かれていない例外が原因だった、ということはよくあります。
次にやること
- AIに答えさせたい質問を10個書き出す
- その答えが載っている資料を探し、古い箇所と抜けている箇所を直す
- 個人情報や機密を含まない資料だけを選び、試す範囲を決める
- 使うサービスの、入力内容の扱い（学習への利用の有無）を規約で確認する
- 10個の質問を実際に投げ、答えを元の資料と照合して誤りを記録する