スマートエイト トップページ
資料ダウンロード無料相談予約はこちら
AI研修・導入の選び方と費用

RAGとは?社内の資料で答えるAIの仕組みと、作る前に決める3つ

公開日:2026/11/16小坂井 聖也の写真執筆・監修:小坂井 聖也
RAGとは?社内の資料で答えるAIの仕組みと、作る前に決める3つ

はじめに

「RAG」という言葉を、AIの導入の相談や製品の説明で耳にする機会が増えていないでしょうか。社内の規程や手順書をAIに答えさせたいと調べ始めると、まず出てくるのがこの言葉です。

ところが解説の多くは仕組みや技術の話で、自社は今ある道具で足りるのか、作るべきなのかまでは分かりません。

本記事では、RAGとは何か、社内の資料で答えるAIがどう動き、どこで間違えるのかを、情報システムや業務の責任者の方に向けて、開発の言葉を使わずに整理します。スマートエイトは法人向けの生成AI研修と業務で使うAIの開発を行い、求人広告代理店Gでは、過去の原稿をAIに探させる仕組みも作りました。

結論を先に書くと、RAGは、AIが答える前に社内の資料を探し、見つけた箇所を根拠に答える仕組みです。作るか道具で済ますかは、技術より先に「どの資料で答えさせるか」「誰に、どの資料まで見せるか」「答えが正しいかを、どう確かめるか」の3つで決まります。3つの答えを今の道具の設定で表せるなら、道具で足ります。

本記事の道具の情報は、2026年11月15日時点の各社の公式ページをもとにしています。

RAGとは何か|AIが答える前に、社内の資料を探す仕組み

RAGとは、ChatGPTのようなAIが質問に答える前に、社内の資料から関係する箇所を探し、その箇所を読んでから答える仕組みです。社内の知識をAIに覚えさせず、聞かれるたびに資料を見に行かせる点に特徴があります。

RAGとは何の略で、何をする仕組みか?

RAGは、英語のRetrieval-Augmented Generationの頭文字を取った言葉です。日本語では「検索拡張生成」と訳され、資料を探す、見つけた箇所を質問に書き足す、それをもとに答えを作る、という3つの動きを指します。

名前は、2020年に発表された論文で付けられました。論文は、AIが答えの根拠を示すことと、AIの知識を新しくすることを、まだ解けていない課題に挙げ、その答えの1つとしてこの方法を示しています。

ChatGPTのようなAIは、そのままでは、学習した情報の範囲で答えます。規程のような社内の資料は学習に含まれていないため、「出張の日当はいくらですか」と聞いても、自社の答えは返せません。RAGは、質問のたびに社内の資料を探して渡すことで、この弱点を補います。

社内の資料は、どうやって探されるのか?

RAGの動きは、最初に行う準備と、質問のたびに繰り返す3つの工程に分かれます。社内規程への質問に答えるAIを例にすると、次の4つです。

  • 規程の文書を、段落ほどの小さなまとまりに分けて保存する
  • 質問が来たら、意味の近いまとまりを数か所探し出す
  • 見つけたまとまりを、質問と一緒にAIへ渡す
  • AIは渡された箇所を読んで答え、どの規程の何条かを添える
社内規程の文書を小さなまとまりに分けて保存する準備のあと、社員の質問「出張の日当はいくらですか」に意味の近いまとまりを数か所探し、質問と一緒にAIへ渡し、AIが出張規程の条文を添えて答える流れを左から右に並べた図

探す工程では、言葉が完全に一致しなくても、意味の近さで候補を選びます。「日当」と聞かれて、「出張手当」と書かれた条文を拾えることがあるのは、そのためです。

AIが読むのは、探し出した数か所だけです。資料の全部を読んで答えるわけではないので、探す工程で外すと、答えも外れます。

AIに覚えさせる方法と、何が違うのか?

AIに社内の知識を持たせる方法には、RAGのほかに、AIそのものに追加で学習させる*ファインチューニングがあります。社内の規程や手順書に答えさせる用途なら、RAGを選ぶのが基本です。

比べる点

RAG

ファインチューニング

資料が変わったとき

資料を差し替えれば、次の質問から答えが変わる

学習をやり直す

答えの根拠

どの資料のどこかを示せる

示しにくい

見せる範囲

聞いた人に合わせて、探す資料を絞れる

覚えた中身を人ごとに分けられない

向く用途

規程・手順書・過去の資料に答える

口調や書式をそろえる

規程は、改定のたびに中身が変わります。そのたびに学習をやり直すより、資料の差し替えで済み、答えの根拠も示せるRAGのほうが、社内の資料には合っています。

*ファインチューニング:用意した例文や資料で、AIそのものに追加の学習をさせる方法。口調や書式をそろえるのに向き、学習のたびに手間と費用がかかる。

RAGで何が変わり、どこで間違えるのか|答えの出来は資料に左右される

RAGを入れると、答えに根拠が付き、資料を直せば答えも変わります。その代わり、答えの出来は、探す先の資料と答えの確かめ方にも大きく左右されます。

RAGを使うと、社内の問い合わせはどう変わるのか?

社内規程への質問に答えるAIなら、社員が「出張の日当はいくらですか」と聞くと、出張規程の条文を探し、金額と条文の場所を添えて答えます。社員から聞かれた総務の担当者も、規程を開いて探す代わりに、添えられた条文が合っているかを見るだけで済みます。

答えに出典が付くことは、AIの*ハルシネーションへの心配に対する、実務の上での答えにもなります。AIの答えをうのみにせず、根拠の箇所を開いて確かめられるからです。

規程を改定したときも、資料を新しい版に差し替えれば、次の質問から新しい内容で答えます。AIそのものを作り直す必要はありません。

RAGでも、AIはどこで間違えるのか?

RAGを入れても、AIが間違えなくなるわけではありません。社内規程の例で起きやすい間違いを、起きる理由と並べると次のとおりです。

起きやすい間違い

起きる理由

改定前の古い日当で答える

古い版と新しい版の規程が、どちらも探す先に残っている

一部の人しか見られない資料の中身を答える

人事評価の基準のような資料まで、探す先に入っている

言い方の違う質問で、別の条文を引く

探す工程が、答えの載った箇所を拾えていない

資料に無いことを、それらしく答える

答えの載った資料が無いのに、AIが答えを作ってしまう

4つのうち、「改定前の古い日当で答える」と「一部の人しか見られない資料の中身を答える」は、探す先に何を置くかで起きるため、道具を替えるだけでは防げません。「別の条文を引く」と「資料に無いことを、それらしく答える」は、道具によって起きやすさが違うので、正しい答えが決まった質問で試して確かめます。

どちらの組も、道具を選ぶ前に、置く資料と確かめ方を決めておけば手を打てます。

*ハルシネーション:AIが、事実と違う内容をもっともらしい文章で答えてしまうこと。手元の資料に答えが無い質問で起きやすい。

RAGを作る前に決める3つ|答える資料・見せる範囲・正しさの確かめ方

2章の間違いを防ぐために、RAGを作る前、道具を選ぶ前に決めるのは、次の3つです。

  • どの資料で答えさせるか
  • 誰に、どの資料まで見せるか
  • 答えが正しいかを、どう確かめるか

3つは、資料と業務を受け持つ部署が決めます。情報システムの担当者は、部署が決めたことを、道具や仕組みの設定に移します。

社内の資料を探して答えるAIの流れの上に、置く資料に「どの資料で答えさせるか」、探す先に「誰に、どの資料まで見せるか」、答えに「答えが正しいかを、どう確かめるか」の札を重ね、それぞれの下に防ぐ間違い(改定前の古い日当で答える/一部の人しか見られない資料の中身を答える/別の条文を引く・資料に無いことを、それらしく答える)を置いた図

どの資料で答えさせるか?

最初に、AIに答えさせる質問の範囲と、根拠にする資料を組にして決めます。社内規程の窓口なら、「勤務・休暇・経費・出張の質問に、就業規則と経費精算規程と出張規程で答える」のように書き出します。

資料は最新の版だけを1か所に置き、改定したら古い版を外す担当者を1人決めます。2章の「改定前の古い日当で答える」間違いは、ここで防げます。

スマートエイトが求人広告代理店Gで作った求人原稿のAIでは、過去の原稿を職種のカテゴリで探し、応募率の高い順に手本にしています。手本を探させるなら、何を良い手本とするかの物差しを、ここでは応募率のように、資料と一緒に決めておきます。

入れない資料も、この段階で決めます。顧客の個人情報や、取引先から預かった機密の資料は、答えに要らなければ最初から入れません。

社内の知見はAIで使いたいが、お客様の情報は入れられないという悩みは、商談でも聞きました。

「機密情報であったりするので、簡単にはお客さんの情報を入れられない。とはいえ…気軽に使えるナレッジの情報として持っておきたいなっていうところはもちろんある」

— 専門サービスの会社のM&A部門の担当者(商談より、2026年8月)

答えに使う知見の資料と、入れない資料を先に分けておけば、2つの望みは両立します。

誰に、どの資料まで見せるか?

次に、答えに使う資料を、誰が見てよいかを決めます。全社員に向けた就業規則と、人事部だけが開ける評価の基準とでは、見せてよい相手が違います。

仕組みによっては、資料を開く権限の無い人にも、探し出した中身をそのまま答えてしまいます。見せる範囲が全員同じなのか、部署や役職で違うのかを先に決めておけば、道具の設定でそろえられるか、作り込みが要るかを判断できます。

社外のお客様に答えさせるなら、もう一段の線が要ります。資料そのものは見せずに、答えだけを返せるかを確かめておきましょう。

答えが正しいかを、どう確かめるか?

最後に、答えの正しさの確かめ方を決めます。決めるのは、答えに出典を必ず付けさせることと、使い始める前に、正しい答えが決まっている質問の一覧を作っておくことの2つです。

一覧には、過去に総務へ届いた質問から、答えと根拠の条文がはっきりしている物を集めます。「日当」を「出張手当」と言い換えた質問や、規程に答えの無い質問も混ぜておくと、2章の「別の条文を引く」「資料に無いことを、それらしく答える」間違いを見つけられます。

資料に答えの無い質問は、AIが「資料に無い」と返せば正解です。この一覧は、道具を選ぶときにも、資料を足したときにも、同じ問いで採点し直すのに使えます。

合格の線も、使い始める前に部署と決めておきます。例えば、答えのある質問は根拠の条文まで合い、答えの無い質問には「資料に無い」と返すことを、何問中何問で満たせば合格とするかです。

RAGは道具で足りるか、作るか|3つの答えで分ける

3章の3つの答えを今の道具の設定で表せるなら道具で足り、表せなければ作るのが向きます。

RAGの仕組みの説明を受けて、自社で作るのか道具を使うのかを聞き返す声は、商談でも出ています。

「さっきラグを構築してって…自社でチャットボットを作るみたいなそういう感じなんですかねそれとも何かツールを」

— 卸・小売の会社の担当者(商談より、2025年8月)

決めることごとに分けると、次の表になります。

決めること

道具で足りる

作るのが向く

どの資料で答えさせるか

資料が、契約している道具の読める場所にある。Microsoft Copilotならメール・チャット・ファイル、Gemini Notebookならドライブのファイル

資料が、契約している道具から読めない自社の業務システムにあり、自動で取り込み続けたい

誰に、どの資料まで見せるか

全員が同じ資料を見てよいか、今のファイルの権限がそのまま使える

今の権限では表せない線がある。社外のお客様に答えだけを返したい

答えが正しいかを、どう確かめるか

質問の一覧で採点して、合格の線に届く

質問の一覧で採点して、道具では合格の線に届かない

道具で足りるのは、どんな時か?

3つの答えがすべて表の「道具で足りる」の列に収まるなら、まず会社で契約している道具で始めます。

Googleを使う会社なら、NotebookLMから名前が変わった*Gemini Notebookが候補になります。答えは入れた資料をもとに作られ、答えの引用を選ぶと資料の該当箇所に移るので、同じ範囲の人で使う窓口に向いています。

ただし今は、Webの検索まで行う試験中のチャットの機能もあります。資料だけで答えさせたい窓口では、使い始める前に、答えの引用が入れた資料を指しているかを3-3の一覧で確かめてください。窓口の作り方は、NotebookLMのチャットボットの作り方にまとめました。

Microsoft 365を使う会社なら、Microsoft 365 Copilotから名前が変わった*Microsoft Copilotが候補です。有料の追加のライセンスがあれば、社内のメールやファイル、会議の内容を自動で探して答え、聞いた人がもともと開ける資料だけを読みます。共有の範囲が広すぎる資料は、もともと開けてしまうので、答えにも出てきます。

管理者の設定で、顧客管理のようなほかのシステムもつなげ、そのシステムの権限のまま読ませられます。つなぎ方は、Copilotに社内データを学習させる方法で解説しています。

作るのが向くのは、どんな時か?

表の「作るのが向く」の列に1つでも当たるなら、作ることを考えます。3つの答えとは別に、問い合わせのフォームのように、ほかの業務の仕組みに組み込みたい場合も、作る側に入ります。

作るといっても、全部を一から組むとは限りません。求人広告代理店Gでスマートエイトが作った3つのAIのうち、企画書と分析の2つは、会社で使っていたGeminiに指示を保存して使う機能と、Gemini Notebookの上に組みました。専用のWebアプリにしたのは、3-1で触れた求人原稿のAIだけで、使う社員をIDと権限で分けて管理しています。

海外で、社内の資料で答えるAIの道具を売る会社は、RAGそのものが自社の売り物でない限り、既製の道具を選ぶよう勧めています。

作った後の手間として、権限の合わせ込み、古くなった資料の入れ替え、答えの正しさの点検が、海外の比較の記事で繰り返し挙がります。どれも道具を売る側の記事ですが、作った後に手間が続く点はそろっています。作るなら、作った後の手入れを誰が受け持つかも一緒に決めます。

*Gemini Notebook:入れた資料をもとに質問に答えるGoogleのAIの道具。2026年7月に今の名前になった。 *Microsoft Copilot:WordやExcel、TeamsなどのMicrosoftのアプリで使える会社向けのAI。以前の名前はMicrosoft 365 Copilot。

よくある質問|RAGを社内で使う前に

RAGは何と読みますか?

「ラグ」と読みます。英語の3つの語の頭文字ですが、1字ずつ読むより、「ラグ」の読みで話されることの多い言葉です。

社内の資料をAIに渡すと、AIの学習に使われませんか?

今の道具のRAGは、聞かれたときに資料を探して読ませるだけで、AIそのものを学習させる工程はありません。学習に使われるかどうかは、使う道具の契約で決まります。

Microsoft Copilotでは、社内のデータを読んだときの質問と答え、読んだデータが、AIそのものの学習に使われません。

Gemini Notebookも、GmailやGoogleドライブを会社で使うGoogle Workspaceのアカウントなら、入れた資料や質問と答えは学習の対象外です。

RAGは無料で試せますか?

仕組みを体験するだけなら、Gemini Notebookは個人のGoogleアカウントの無料の範囲でも使えます。ただし、無料のプランには会社の情報を入れません。試すなら、会社の情報を含まない見本の資料を使うか、会社の契約のアカウントで試します。

業務で使うかを決めるのは、会社の契約のアカウントで、3-3の質問の一覧を使って採点してからにします。

作ると決めたら、何から始めればよいですか?

最初から全社の資料を対象にせず、1つの業務と1つの資料の束に絞って試作します。3-3の質問の一覧で、道具で試したときの点数と比べると、作った分の差が数字で分かります。

試作で見るのは、点数が合格の線に届くかと、資料の入れ替えや採点し直しの手間を受け持てるかの2つです。かけた費用に対して何が変わったかの測り方は、生成AIの費用対効果を測る4つの問いにまとめています。

さいごに

RAGは、AIが答える前に社内の資料を探し、見つけた箇所を根拠に答える仕組みです。答えに出典が付き、資料を直せば答えも変わる一方で、答えの出来は探す先の資料と確かめ方にも左右されます。

作るか道具で済ますかは、「どの資料で答えさせるか」「誰に、どの資料まで見せるか」「答えが正しいかを、どう確かめるか」の3つの答えを、今の道具の設定で表せるかで分かれます。まずは、よく届く質問を集め、正しい答えと根拠の資料を1問ずつ書き出してください。その一覧で手元の道具を試せば、足りるかどうかが点数で見えてきます。

道具では足りない会社には、スマートエイトが社内の資料で答えるAIの開発を、業務の棚卸しから支援します。道具で足りる会社には、社員が今ある道具に社内の資料を読ませて使う方法を学ぶ生成AI研修もあります。

※生成AI研修資料/導入事例も無料ダウンロードいただけます。

スマートエイト トップページ