RAG構築・導入の進め方【発注側向け】6つの手順と、1,000問で98.9%の検証

RAG構築・導入の進め方【発注側向け】6つの手順と、1,000問で98.9%の検証

発注・情シス担当者向けに、RAG構築の6つの手順と、外注で失敗しない判断を解説。1部署なら約2か月、外注の相場は300万〜1,000万円。社員がしそうな質問1,000問での検証と、精度が出ないときに直す順番まで。

RAGとは:社員が質問すると、AIが社内の規程やマニュアルから関係するページを探して読み、元の文書を添えて答える仕組みです(RAG=検索拡張生成)。人が社内の検索で上から数件を開き、読み比べて答えを書くのと同じことを、AIが数秒でやります。

RAGは、探してから答える仕組み。社員の質問「育休はいつまで?」→①探す:5件ほど探す→②読み比べる:AIが5件を読む→③答える:元の文書つき。人が社内検索の上から数件を開いて、読み比べて答えを書く。それと同じことを、AIが数秒でやります。

探すのを5件ほどにするのは、1件だけだと取りこぼしが増え、多すぎると関係のない部分が混ざって答えがぶれるためです。

この記事は、ARCHECOが自社で作って使い、大手企業の新規事業部門などにも入れている、社内の文書をAIが引けるようにする仕組み(intBB)の記録をもとに、RAGを入れるまでの手順と、精度が出ないときにどこから直すかを、発注を考える事業部門・情報システム部門の方向けに解説します。

6つの手順

  1. 本当に聞かれる質問と、答えがある文書の場所を確かめる
  2. 文書を集めて整える
  3. 採点に使う質問と正解を作り、合格の点数を決める
  4. 文書を探す仕組みを作る
  5. 答え方と、質問する画面を決める
  6. 採点して直し、使い始めた後も続ける

題名の「1,000問で98.9%」とは:社員がしそうな質問を約1,000問つくって試したところ、77.4%の質問は、手元の端末の中だけで、答えのある棚(案件・部署ごとの文書のまとまり)を探し当てました。そのうち98.9%が正しい棚でした。残りの22.6%は、外のAI(クラウド)に回して探しました。正しい棚や文書を探せないと、AIは正しく答えられないので、まずここを測ります。ただし、これは棚を当てた割合で、答えそのものが正しかった割合ではありません(詳しくは「精度が出ないときに直す順番」の節)。

持ち帰れるもの(記事の最後の「次の一歩」にも同じものがあります):採点表の雛形(Excel) / 構築のチェックリストと費用の目安(PDF) / 月の費用の試算ツール

RAG導入で変わること・向く業務・社内の体制

  • 変わること:調べものの時間が短くなり(大手企業の新規事業部門では、ファイルを探して約30分かかっていたのが、チャットの応答で1〜2分。使っている人の実感で、測定ではありません)、同じ質問に人が答える回数が減ります。答えに元の文書が付くので、新人でも根拠を確かめながら動けます。
  • 向く業務:社内規程・手順の問い合わせ(総務・人事・経理)、製品マニュアルを引くお客様窓口、不具合の報告書や過去の企画書を探す品質保証・企画の部門。
  • 社内の体制:使う部署の担当者1人(質問の確認と「違う」の報告を見る)と、情報システム部門の担当者1人(クラウドとログインの設定)がいれば進められます。

作る前に:RAGが要らない場合

文書が数十ページまでで、全員が同じ文書を見てよく、ほとんど改定がないなら、RAGを作る必要はありません。ChatGPT の社内データ連携や Copilot などの既製の機能(1人月3,000〜4,500円ほど)で足ります。部署ごとに見せてよい文書が違う、古い版が混ざる、業務の画面の中で答えたい、のどれかがあれば、作る価値があります。

手順1:本当に聞かれる質問と、文書の場所を確かめる

RAGを作るとき、多くの会社は基幹システムや共有フォルダの文書をつなごうとします。ところが、社員が実際に探しているのは、各自のPCにある資料かもしれません。

大手企業の新規事業部門では、使う5人それぞれのPCの資料(PDF・PowerPoint・Excel・Word)をつなぎました。1人あたり約7,500件、合わせて約3万件の規模です。調べものは、ファイルを探して約30分かかっていたのが、チャットの応答で1〜2分になったといいます(使っている人の実感で、測定ではありません)。

やること:社員数人に「最近、何を探すのに時間がかかったか」を聞き、その答えがどこにあるかを確かめます。頼む場合の御社の作業:聞き取りに応じる社員数人(1人30分)。

手順2:文書を集めて整える

古い版と重複を外し、表やスキャンした紙を、AIが読める形にします(スキャンした紙は文字の読み取り=OCR)。何千ファイルあっても、読み取りや古い版の洗い出しの多くは道具で自動でできます。セルを結合したExcelの表や、押印のあるPDFも対象です。手書きの文書が多い場合は、読み取りの確認に手間がかかるため費用が増えます。人が判断するのは「どちらが最新か分からない」ものだけです。

頼む場合の御社の作業:開発会社が洗い出した「最新か分からない文書」の一覧に答える(回数と時間は文書の状態で変わるので、見積もりの段階で開発会社に確かめてください)。

手順3:採点に使う質問と正解を作り、合格の点数を決める

社員が実際にする質問と、その正しい答え(どの文書の何条か)の組を作ります。作る前に合格の点数を決めておくと、「精度が高い」という感想ではなく、数字で本番に入れるかを判断できます。

質問正しい答え(根拠)AIの答え判定
育児休業は、いつまでに申し出ればよいですか開始日の1か月前まで(就業規則 第○条)開始日の1か月前までです(就業規則 第○条)○
出張の日当はいくらですか文書に記載なし規程に記載がありません。総務課へお問い合わせください○

何問作るか:本番の前は100問ほどが目安です。100問あれば「何が原因で外れたか」の傾向が見えます。ARCHECOが自社の仕組みを試したときは、社員がしそうな質問を約1,000問つくりました。2問目のように、文書に答えがない質問も入れます。

頼む場合の御社の作業:開発会社が聞き取りと文書から質問と正解の案を作るので、御社は迷うものだけを確かめます(時間は質問の数で変わるので、見積もりの段階で確かめてください)。採点表の雛形(Excel)

手順4:文書を探す仕組みを作る

御社がやる作業はありませんが、開発会社を選ぶときに「この3つをやるか」を確かめると、精度の差が分かります。

AIは長い文書を一度に全部は読めないので、文書を見出しや条ごとに小分けにして登録し、質問に関係する部分だけを探して渡します。

  • 小分けの単位(チャンク分割):規程なら「第○条」とその中の項を1つの塊にします。項だけを切り出すと、「前項による」の中身が分からなくなります。
  • 2つの探し方:「育休」と聞かれて「育児休業」の条を探す(意味で探す=ベクトル検索)ことと、「第12条」と聞かれて第12条を探す(言葉で探す=キーワード検索)ことの両方ができるようにします(ハイブリッド検索)。
  • 並べ直し(リランキング):探した候補を、質問に近い順に並べ直し、上の5件をAIに渡します。

頼む場合の御社の作業:ありません。

手順5:答え方と、質問する画面を決める

  • 元の文書を答えの下に並べ、ワンタップで開けるようにする
  • 文書に答えがないときは、作り話(ハルシネーション)をせず「記載がありません」と問い合わせ先を案内する
  • 結論を先に、数行で答える
  • いつもの道具(Teams・Slack・業務のシステム)の中で質問できるようにする

精度が高くても、使われなくなるRAGがあります。理由の多くは、質問する画面がいつもの仕事の道具から遠い、答えが長くて読まれない、元の文書をすぐ確かめられない、のどれかです。

手順6:採点して直し、使い始めた後も続ける

手順3の質問で採点し、外れた理由ごとに直します(次の節)。使い始めた後も、文書の更新と見てよい人の変更は毎晩自動で反映し、社員からの「違う」の報告を週1回直し、月1回採点し直します。

頼むと、2か月で使い始められる。1〜2週目:開発会社は聞き取り・場所の確認、御社は社員数人が30分ずつ答える。3〜4週目:開発会社は文書の整理・質問と正解の案、御社は最新が不明な文書と迷う正解の確認。5〜6週目:開発会社は探す仕組み・画面と試験、御社は作業なし。7〜8週目:開発会社は採点と手直し・使い始め、御社は使い始める部署で試す。御社の作業は、聞き取りと確認だけ(合わせて10時間ほど)。

頼んだ場合の2か月の流れ(目安)

時期開発会社御社
1〜2週目聞き取り、文書の場所の確認社員数人の聞き取り(1人30分)
3〜4週目文書の整理、採点の質問と正解の案づくり最新の版が分からない文書と、迷う正解の確認(数回、1回30分〜2時間)
5〜6週目探す仕組みと質問する画面、見てよい範囲の試験―
7〜8週目採点と手直し、使い始め使い始める部署で試す

精度が出ないときに直す順番:「1項目=1事実」の実録と、1,000問の検証

直す順番は、一般的に効く順があります。外れた理由を見て、上から直します。

順番外れ方の例直すこと
1 文書の整理と区切り方表が崩れて別の金額の行を拾う/改定前の規程を拾う表を行ごとに文章にする、古い版を外す、条とその中の項を1つの塊にする
2 言葉でも探す「第12条の申請期限は?」に、意味の近い別の条を拾う意味だけでなく、言葉の一致でも探す
3 並べ直し正しい文書は拾えているのに、5件の6番目以降に落ちる探した結果を、質問に近い順に並べ直す
4 答え方文書は正しいのに、条件を1つ落として答える答え方(条件を省かない、根拠を示す)を直す
最後 モデル上の4つを直しても外れるAIのモデルを替える

表の中の外れ方は、よくある例です。どの文書でも同じ順に効くとは限らないので、直すたびに手順3の質問で採点し直します。

実録:区切り方を直したら、答えの形が揃った(大手部品メーカーとの新規事業)

自動車部品のプレス加工会社に、取引先の設計・調達の担当者から技術の問い合わせが届きます(例:「板厚1.2ミリで、曲げはどこまで小さくできるか」「指定の鋼板が手に入らないが、別の鋼板で代わりになるか」)。答えるのは社内の技術営業2人で、元の資料は加工の基準書・金型の台帳・過去の回答メール(PDF・Excel・紙)です。どの資料をどの順に見るかは、2人の頭の中にしかありませんでした。

資料をもとに答えるAIチャットを試作する中で、資料を増やすと答えの形が毎回変わり、2日で29回、指示を書き直しても揃いませんでした。原因は資料の区切り方でした。1項目に1つの事実だけが入るように登録し直しました(例:「150トンのプレス4台」と「300トンのプレス2台」は、別々の1件にする)。これで直りました。探す仕組みは、何も足していません。この事例に、精度や時間の数字はありません。

多くの場合、先に疑うのは区切り方です。AIのモデルを替えるのは最後です。 区切り方が合っていないまま新しいモデルに替えても、混ざった塊がそのまま返ってきます。

検証:社員がしそうな質問1,000問で、棚を探し当てられたか

ARCHECOの仕組み(intBB)は、案件や部署ごとに分けた「棚」に文書を入れ、質問に合う棚を先に探します。社員がしそうな質問を約1,000問つくって試した結果は、次のとおりです。

社員がしそうな質問 約1,000問を試した。質問に合う「棚」(案件・部署ごとの文書のまとまり)を、先に探す。77.4%は、手元の端末の中だけで棚を探し当てる。そのうち98.9%が正しい棚。22.6%は、外のAI(クラウド)に回して探す。正しい棚や文書を探せないと、AIは正しく答えられないので、まずここを測る。ただし、棚を当てた割合で、答えそのものが正しかった割合ではない。
  • 77.4%の質問は、端末の中だけで、答えのある棚を探し当てました。そのうち98.9%が正しい棚でした。
  • 残りの22.6%は、外のAI(クラウド)に回して探しました。

棚を当てた割合の話で、答えそのものが正しかった割合ではありません。

3つの事例(社名は伏せています。文書の数はファイルの数)

対象と規模結果先方の声
大手企業の新規事業部門intBB を導入。環境づくりは1か月。使う5人それぞれのPCの資料(PDF・PowerPoint・Excel・Word)をつなぎ、1人約7,500件、合わせて約3万件。いまは RAG を使いながら、AIが自分で探し直して答える形(Agentic RAG)へ移している途中調べものは、ファイルを探して約30分から、チャットの応答で1〜2分(実感で、測定ではない)。1,000問の検証は上のとおり―
大手サービス業2026年11月に intBB を導入。2時間のワークショップで使い始めた数字はまだありません導入前:「自社PCを使う限りAIは厳しいという印象でした」。導入後(導入のワークショップでの声の要旨。言い回しは整えています):「社内でAIの答えの精度を上げようとすると、使うAIを替えるわけにはいかないので、難しいと思っていました。RAGでこんなに精度を上げられるとは知りませんでした」(大手サービス業 担当者)
大手部品メーカーとの新規事業(自動車部品のプレス加工会社)加工基準書・金型台帳・過去の回答メール。答えるのは技術営業2人「1項目=1事実」で登録し直して、答えの形が揃った。数字は無い―

ARCHECO社内でも、案件や部署ごとに分けた16の棚に、2024年11月からの会議の記録・チャット・資料 約7,000件を入れて、毎日使っています。

残りの外れと、どう付き合うか

RAGの答えには、文書のとおりではないものが残ります。上の検証でも、棚を当てた質問のうち1.1%は別の棚を選びました。外れがある前提で、使い方を決めます。

  • 答えには必ず元の文書を付け、社員がその場で確かめられるようにする
  • 金額・期限・人事のような大事な判断は、元の文書で確かめてから使う、と手順書に書く
  • 自信のない答えは、答えずに問い合わせ先を案内させる

見てはいけない文書を出さない

社内のRAGでいちばん大きな事故は、見てはいけない文書の中身が答えに出ることです。文書を登録するとき、元の置き場所(SharePoint・Box など)の「見てよい人」の設定も一緒に登録し、質問した人が見てよい文書だけを探します。Azure・AWS・Google Cloud のどれでも作れます。本番の前に、すべての立場(役職・部署)の試験用の利用者で、見てはいけない文書にだけ書いてあることを聞く質問を合わせて100件以上試し、試した範囲で中身が出ないこと(0件)を確かめます。

ChatGPTに資料を丸ごと渡すのと、何が違うか

ChatGPT にファイルを添付して聞く方法でも、数百ページの規程集にかなり正確に答えます。ChatGPT Business や Microsoft 365 Copilot は1人月3,000〜4,500円ほどの定額なので(2026年11月の各社の公開価格。Enterprise は個別見積もり)、文書が少なく全員が同じ文書を見てよいなら、それで足ります。ここで比べるのは、社内の仕組みや業務の画面に組み込むために、AIを使った分だけ払う形(API)で使う場合です。違いは2つです。

  • 費用(API で使う場合):規程300ページ(文庫本2冊ほど)に社員100人が1日10回聞くと、丸ごと渡す方法は質問のたびに2冊を読み直すので、AIの利用料が月約180万円(同じ文書を読み直すと入力が10分の1になる仕組みが使えれば約20万円)。RAGは関係する数ページだけを読むので、月約6万円です。どちらもAIの利用料だけの比べです。
計算の前提丸ごと渡すRAG
月の質問の回数100人 × 1日10回 × 20日 = 2万回同じ
1回にAIが読む量約24万字(規程の全部)約5,000字(関係する部分だけ)
単価2026年11月16日の gpt-5.4 の公開単価:読み込み 100万トークンあたり2.5ドル、答えを書く分 15ドル。1ドル150円で、日本語1文字を1トークンと高めに見積もった(実際は文章により0.5〜1トークンほど)同じ
月の費用読み込み 24万字 × 2万回 = 48億字で約180万円、答えを書く分(1回500字)を足しても約182万円読み込み 5,000字 × 2万回 = 1億字で約3.8万円、答えを書く分を足して約6万円

単価は変わるため、最新の価格表で確かめてください。

丸ごと渡す方法と、RAGの月の費用。規程300ページを、社員100人が1日10回聞く場合(AIの利用料だけ)。月約180万円:丸ごと渡す。質問のたびに規程の全部を読み直す。月約20万円:読み直しの割引。同じ文書の読み直しが10分の1になる仕組み。月約6万円:RAG。関係する数ページだけ読む。約30倍の差。30倍は、丸ごと渡す方法(月約180万円)とRAG(月約6万円)の比べ。2026年11月16日の gpt-5.4 の公開単価で計算。単価は変わります。

RAGの月の費用の試算

社員数と、1人が1日に質問する回数を入れてください。メールアドレスは要りません。

月の質問回数–
文書を探す仕組みと保管(固定)約3万円
AIの利用料(質問1回あたり約5円)–
月の利用料の合計
約3万円 + 質問の回数 × 約5円
–
運用をARCHECOに任せる場合
合計 + 月15万円から(任意)
–

毎月かならずかかる費用の目安です(税別・構築費は別)。文書が数千件を超えると、固定分が増えます。AIの単価は2026年11月の gpt-5.4 の公開単価をもとに高めに見積もり、1回に質問と文書の該当部分 約5,000字を読む前提です。運用を任せる場合は、文書の更新の確認、「違う」の報告の手直し、月1回の採点が含まれ、月15万円からです。例:社員300人・月3,000回で約4.5万円。株式会社ARCHECO

  • 使い方の決まり:見てよい範囲を人ごとに分ける、古い版を混ぜない、業務の画面の中で答える、は、ファイルを渡すだけでは作れません。

自分で作るか、頼むか

試作は、既製の道具を使えば社内でも数日で動きます。本番で難しいのは、見てよい範囲の試験、表やスキャンした紙の読み取り、更新への追従、使われ続ける画面の4つです。

既製の機能(Copilot など)社内で作る開発会社に頼む
最初の費用ほぼ0〜数十万円開発の担当者2人×3〜4か月の人件費(設計を担える中堅〜上級の外注単価の相場 1人月100万〜120万円なら、600万〜1,000万円ほど)本番 300万〜1,000万円(2026年11月に確認した公開価格の範囲)
月の費用1人あたりの定額 × 人数AIとクラウドの利用料(月数万円)+担当者の時間AIとクラウドの利用料(月数万円)+運用を任せるなら運用費
社内の手間設定と周知作る人の数か月分と、使い始めた後の手直し聞き取り・確認で合わせて10時間ほどと、使い始めた後の「違う」の報告の確認(運用を任せない場合)
向く会社文書が少なく、全員が同じ文書を見てよい開発の担当者がいて、上の4つに手を回せる担当者がいない、早く本番に入れたい

ARCHECOに頼む場合の費用は320万円から(税別)、期間は約2か月です。1つの部署が、1種類の文書(たとえば社内規程だけ)にAIで質問できるようにする場合の値段です。小の型の範囲(文書数千件・画面1つ・利用者300人まで)なら、320万円を大きく超えることはありません。範囲を広げる場合は、着手の前に見積もりで確定します。着手の前に、合格の点数(例:100問中85問が文書のとおり)・採点に使う質問・対象の文書を書面で決め、納品の時点で届かないときは、届くまでの手直しの費用はいただきません(納品から最長2か月)。ARCHECOは同じ仕組みを社内で毎日使い、AIの開発と画面の設計を同じチームで行っています。費用・事例・進め方はRAG構築の費用(サービスのページ)にあります。

まとめ

  • 作る前に、本当に聞かれる文書がどこにあるかを確かめる。基幹システムの外にあることが多い。
  • 採点の質問を先に作り、外れた理由ごとに直す。直す順番は、文書の整理 → 言葉でも探す → 並べ直し → 答え方。モデルを替えるのは最後。
  • 外れは残る前提で、元の文書を必ず付け、大事な判断は文書で確かめる決まりにする。
  • 見てはいけない文書は、探す前に絞り、全員の立場で試験する。
  • 精度と同じくらい、いつもの道具の中で使える画面が大事。

次の一歩

目的入口
社内で検討を始めたい構築のチェックリストと費用の目安(PDF) / 採点表の雛形(Excel) / 月の費用の試算ツールすぐに使えます
自社で作れるか、頼むならいくらか聞きたい30分のオンライン相談(無料・文書も決裁も不要)
自社の文書で確かめたい20問比較(無料・約2週間)御社の文書20問で、丸ごと渡す方法とRAGの正しさと月の費用を比べて報告します報告の見本。秘密保持契約を結び、文書は Azure 東日本で担当2名だけが扱い、報告から7日以内に削除して証明書をお渡しします証明書の見本。社外秘を出しにくい場合は、公開してよいマニュアルだけで試すことも、画面共有で文書を渡さずに比べることもできます

ARCHECOについて:株式会社ARCHECO(2014年7月設立・東京都渋谷区神宮前1-15-4)。秘密保持契約・国内の保存先(Azure 東日本)・削除証明書・御社のセキュリティのチェックシートへの回答に対応しています。

取引先

  • ホンダ
  • glamo
  • 富士通ロゴ
  • toshiba
  • shisedo
  • sharp
  • fujix
  • panasonic
  • space shower
  • CAC
  • sockets
  • globeTrotter
  • terraSky
  • emet
  • share
  • ntt
  • rakuten
  • KDDI

よくある質問

どのくらいの期間がかかりますか

1つの部署が1種類の文書(たとえば社内規程だけ)を使う場合で、2か月ほどです。

最新のAIに替えれば精度は上がりますか

先に文書の整理と区切り方を直してください。プレス加工会社の試作では、探す仕組みを何も足さず、資料の区切り方を直しただけで、答えの形が揃いました。

Copilotで足りますか

文書が少なく、全員が同じ文書を見てよいなら足ります。

ファインチューニングとの違いは

RAGは質問のたびに資料を渡す方法、ファインチューニングはAIに追加で学習させる方法です。変わる情報はRAGで渡し、RAGを使い続けてたまった質問と答えの記録で、御社の答え方をAIに覚えさせる、という順で組み合わせます。RAGとファインチューニングの違い

技術担当者向けの作り方は

最小構成のコードと実装の解説は、記事「RAGの作り方(Python)」を準備中です。

更新履歴:2026年11月15日 公開

関連記事:RAGとは/RAGの精度の測り方/RAGの権限設計/RAG構築の費用

出典:Li ほか「Retrieval Augmented Generation or Long-Context LLMs?」EMNLP 2024 Industry Track(英語の公開データと2024年のモデルによる評価)/OpenAI API 価格表(2026年11月16日確認)

You May Also Like
“AIエージェントを作れるコンサル”を信じてはいけない ― 分厚い提案書に、つい安心してしまう私たちへ

ベンダー選定とは|進め方3段階・9つの評価基準と失敗を避ける勘所

流暢に動くデモほど、本番で使われない。なぜなんでしょう。「分厚い資料ほど安心する」――そのよく知った感覚の正体から、「動くデモ」を「毎日使われる業務」に変える手順までを、一つのプロジェクトを最後まで追いかけて書きました。
View Post

プロトタイプ開発とは|進め方・費用とMVPへ進む基準

プロトタイプ開発とは、本開発に入る前に試作品(プロトタイプ)を作り、完成イメージと仕様を関係者で確かめながら進める開発手法です。目的は、動くものを早く見ることで認識のズレを潰し、手戻りのコストを本開発…
View Post