社内の資料をもとに答えるAIとは？RAGの仕組み

生成AIは、会社の中のことを知らない

ChatGPTのような生成AIは、大量の文章で前もって学習しています。自社の就業規則、商品の細かい仕様、取引先ごとの約束事のように外に公開していない情報は、ふつうその中に含まれていません。

デジタル庁の「テキスト生成AI利活用におけるリスクへの対策ガイドブック（アルファ版）」は、学習データに無い情報を聞くと、根拠のない事実と異なる答えを返すことがあると説明し、デジタル庁AI班の職員数を聞く場合を例に挙げています。学習データに情報があったとしても、確実に知識として学習できるとは限らないとも書いています。

そのため「有給休暇は何日前までに申請する？」と生成AIにそのまま聞いても、自社の規則どおりの答えは期待できません。答えの元になる社内の資料を、質問のたびに一緒に渡す仕組みが必要になります。

RAGは「探す」と「まとめる」の2段階で答える

RAGは日本語で検索拡張生成と呼ばれます。デジタル庁のガイドブックは、文章検索で関連文章を抽出し、それを大規模言語モデル（ChatGPTなどの中心にある仕組み）にプロンプト（指示の文章）として渡す手法と説明しています。

就業規則とよくある質問を登録した場合

次は当社が想定した例で、導入事例ではありません。就業規則のファイルと、総務によく届く質問とその答えの一覧を登録したとします。

「有給休暇は何日前までに申請する？」と聞かれると、まず検索で就業規則の休暇の条文が取り出されます。生成AIはその条文をもとに答えを書き、どの条文を使ったかを添えます。

規則が改定されたら、ファイルを新しい版に差し替えます。次の質問からは新しい条文が検索の対象になり、生成AIを学習し直す作業はありません。

「AIに覚えさせる」方法との違い

大規模言語モデルは、大量の文章による事前学習のあと、特定の作業向けに追加で学習させる事後学習（ファインチューニング）で調整することもできます。社内の資料を使うと聞いて、こちらを思い浮かべる人も多いはずです。

デジタル庁のガイドブックは、以前はこの事後学習でさまざまな作業に対応させる手法が主流だったものの、大規模言語モデルではプロンプトによる指示を変えるだけで対応できるようになったと説明しています。RAGはこの性質を使い、モデルそのものは学習し直さずに、質問のたびに資料を指示の中へ入れます。

規程や価格表のように内容が変わる資料は、差し替えるだけで答えの元を新しくできます。取り出した文章を記録しておけば、どの資料をもとに答えたかをあとから確かめられる点も、社内で使ううえで扱いやすいところです。

間違いは「探す」と「まとめる」のどちらでも起きる

RAGにしても、答えが必ず正しくなるわけではありません。デジタル庁のガイドブックは、RAGを使うシステムを確かめるときの観点として、次のようなものを挙げています。

向いている資料と、先に整える資料

ここからは、当社が考える目安です。答えが資料のどこかに文章で書いてあるかどうかが、分かれ目になります。

試す前に、質問と答えの場所を書き出す

社内の資料で答えるAIが役に立つかは、実際に聞かれる質問で確かめます。新しく入った人からよく聞かれる質問を20問ほど書き出し、それぞれの答えが載っている資料の名前と、ページや見出しを横にメモしてください。

このメモがあれば、AIが正しい資料を取り出したか、資料に無いことを答えていないかを1問ずつ照らし合わせられます。デジタル庁のガイドブックも、正しい知識が反映されているかを確かめる方法として、選択問題を用意して回答させるやり方を挙げています。答えが載った資料が見つからない質問が多いなら、先に資料を書き足すほうが効果があります。

お客さんの名前や連絡先を含む資料を登録する場合は、使うサービスが入力内容をどう扱うかを先に確かめます。生成AIに入れる情報の注意点は賃貸仲介の反響対応にAIはどこまで使えるかでも取り上げています。