RAGとは？非エンジニアでもわかるAI連携の仕組み

要約

• AIが自社の質問に答えられないのは、社内資料を学習しておらず、知らないことでももっともらしい嘘を作ってしまうからです。
• RAGは、質問に関係する自社資料を探してAIに渡す仕組みで、AI本体を作り直さなくても、資料を追加するだけで最新の内容に答えられます。
• うまく使うコツは、登録する資料を整理して中身を充実させることと、重要な判断では人が最終確認をすることです。

ChatGPTのようなAIに自社の業務について質問したのに、まったく見当違いの答えが返ってきた、という経験はないでしょうか。便利だと聞いて使い始めたのに、肝心の自社の情報を知らないAIに、がっかりした方も多いはずです。

その悩みを解決するのが、今回ご紹介するRAG（ラグ）という仕組みです。この記事を読めば、専門知識がなくてもRAGの正体と、自社のAI活用がどう変わるのかがわかります。

AIに自社のことを聞いても、まともに答えてくれない

AIに「うちの就業規則ではどうなっていますか」と聞いても、AIは一般論しか返してくれません。自社の資料を読んでいないので、当然といえば当然です。

自社の情報を知らないAIは、一般論や事実と違う答えを返してしまいます。

さらに困るのが、AIがもっともらしい嘘を答えてしまうことです。実際には存在しない社内ルールを、さも事実のように説明されることがあり、そのまま信じると業務上のトラブルにつながります。

こうなると、せっかくのAIも「雑談相手」止まりで、本当の業務には使えません。多くの企業が、ここでAI活用をあきらめてしまっています。

関連: LangChainとPineconeとは？自社専用AIを支える「司令塔」と「記憶庫」の役割を解説 で詳しく解説しています。

なぜAIは自社のことを知らないのか

AIは、インターネット上にある大量の文章を学習してつくられています。つまり、学習に使われたのは世の中に公開された一般的な情報だけで、各社の社内資料は含まれていません。

そして、AIは学習したとき以降の新しい情報も基本的には知りません。昨日作った見積書や、今月更新した規定など、最新の社内データはAIの頭の中には存在しないのです。

先ほどの「もっともらしい嘘」も、ここが原因です。AIは知らないことでも、それらしい文章を作る性質があるため、情報源を持たないまま答えると事実と違う内容を返してしまいます。

必要なときだけ自社の情報を渡すRAGという仕組み

この問題を解決するのがRAGです。RAGとは、AIが質問に答える前に、自社の資料の中から関係しそうな部分を探し出して、AIに一緒に渡す仕組みのことを指します。

RAGは関係する社内資料を探し出し、AIに一緒に渡して回答を作ります。

イメージとしては、試験の前に丸暗記させるのではなく、AIに「カンニングペーパーを見ながら答えていいよ」と許可するようなものです。AIは渡された資料を読んだうえで回答するので、自社の事情に沿った正確な答えが返ってきます。

しかもAI本体を作り直す必要はなく、資料を後から追加するだけで対応できます。新しい資料を登録すれば、すぐに最新の内容で答えられるようになるのが大きな利点です。

関連: 専用ベクトルDBとは？非エンジニアでもわかるAIの仕組みをやさしく解説 で詳しく解説しています。

RAGを使ったAI連携の進め方

RAGの仕組みは、大きく分けると三つの段階で動いています。順番に見ていきます。

資料の準備、関係する情報の検索、回答の作成という三つの段階で動きます。

一つ目は「資料の準備」です。社内のマニュアルや規定、過去のメールなどを、AIが検索しやすい形にして専用の保管場所に登録します。たとえば就業規則のPDFや、商品の説明資料を一カ所にまとめて入れておくイメージです。

二つ目は「関係する情報の検索」です。社員が「有給は何日もらえますか」と質問すると、RAGはその質問に近い内容を、登録した資料の中から自動で探し出します。このとき、文章の意味が近いものを見つけてくれるため、言葉が完全に一致していなくても大丈夫です。

三つ目は「回答の作成」です。探し出した資料と元の質問をセットにしてAIに渡し、AIがその資料をもとに答えを文章でまとめます。結果として、「就業規則の第○条によると、有給は年○日です」といった、根拠のある回答が得られます。

なお、最初から完璧を目指す必要はありません。私はIT・Web・AIに35年以上携わってきましたが、まずは70%ほどの状態で運用を始め、実際の使われ方のデータを見ながら少しずつ改善していくほうが、結局うまくいくと感じています。

関連: RAG時代の終焉とエージェント型AI基盤 — フィリピン拠点で活きる知識コンパイル層の実務 で詳しく解説しています。

RAG導入でつまずきやすいポイント

最初の失敗でよくあるのが、登録する資料が整理されていないケースです。古い資料と新しい資料が混ざっていると、AIが古い情報をもとに答えてしまい、かえって混乱を招きます。

次に多いのが、資料の中身が薄いという問題です。そもそも答えが書かれていない資料しか登録していなければ、RAGを使ってもAIは正しく答えられません。RAGはあくまで「ある情報を探して使う」仕組みで、ない情報を作り出すものではない点に注意が必要です。

私自身、AI導入の初期に、AIが出した数値と実際の取引データが食い違い、クライアントへの報告に影響が出たことがあります。そのときは、データの出どころをはっきりさせ、いくつもの情報源を突き合わせて確認することで解決しました。RAGでも、登録する資料そのものが正確で整理されていることが、信頼できる答えの土台になります。

また、機密情報の扱いも見落としがちです。社外秘の資料を登録する場合は、誰がそのAIを使えるのか、データがどこに保管されるのかを事前に確認しておくことが欠かせません。

よくある質問

Q: RAGを使うには、プログラミングの知識が必要ですか

A: 利用するだけであれば、専門知識は必須ではありません。最近は資料を登録するだけで使えるサービスも増えており、仕組みづくりの部分を専門の会社に任せることで、社員は普段通りに質問するだけで使えます。

Q: AIの追加学習（ファインチューニング）とは何が違うのですか

A: 追加学習はAI本体に知識を覚え込ませる方法で、手間と費用がかかります。一方でRAGは、AIはそのままに、必要な資料を都度渡すだけなので、情報の更新が簡単で導入のハードルも低いという違いがあります。

Q: どんな資料でも登録できますか

A: 文章として読み取れる資料であれば、多くのものが対象になります。ただし、手書きのメモや画像だけの資料は、そのままでは扱いにくい場合があるため、事前に文字データへ変換するなどの準備が必要になることがあります。

Q: 嘘の回答は完全になくなりますか

A: 大幅に減らせますが、ゼロにはなりません。RAGは根拠となる資料をもとに答えるため精度は上がりますが、重要な判断に使う場合は、人が最終確認をする運用にしておくと安心です。

まとめ

RAGは、AIが答える前に自社の資料を探して渡すことで、自社の事情に合った正確な回答を引き出す仕組みです。AI本体を作り直さずに、資料を登録するだけで最新の情報に対応できる手軽さが魅力といえます。

私の経験から言うと、長年働いてきた世代ほど、何でもできる多機能ツールのマニュアルを開いた瞬間に手が止まりがちです。慣れた業務の流れは変えずに、AIを少しずつ取り入れていくことが、無理なく続けるコツです。

まずは、よく聞かれる質問とその答えが書かれた社内資料を一つ用意するところから始めてみてください。自社だけでの導入が不安な場合は、フィリピンでの業務に詳しい専門の会社へ相談することが、失敗を避ける近道になります。