AIアプリ開発の裏側：なぜLangChainとPineconeの組み合わせが選ばれるのか？

要約

• AIが自社のことを答えられないのは、社内資料を学習しておらず、必要な部分を自力で探せないことが主な原因です。
• 関連する資料だけを探してAIに渡すRAGという仕組みを使うと、でたらめな回答が起きにくくなります。その定番の組み合わせがLangChainとPineconeです。
• 資料を意味のまとまりで分け、正しく保管し、更新を続けることが精度を保つ鍵になります。まずは1つの資料で小さく試すのが始めやすい方法です。

自社の資料やマニュアルに答えてくれるAIチャットを作りたい。そう考えて開発を始めたものの、思ったような答えが返ってこないと悩む会社は少なくありません。世の中で話題のAIはとても賢いはずなのに、なぜ自社のことになると急に頼りなくなるのでしょうか。

この記事では、AIアプリ開発の現場でよく使われるLangChainとPineconeという2つの道具に注目します。この組み合わせがなぜ選ばれるのかを知れば、自社のAI導入で失敗しにくくなり、開発会社との打ち合わせもぐっと進めやすくなります。

自社のAIが「自社のこと」を答えられない

多くの会社がAIアプリでつまずくのは、AIが自社の情報を知らないという一点です。一般的なAIは世の中の膨大なデータで学習していますが、自社の社内規定や製品マニュアルは学習に含まれていません。

一般的なAIは自社の資料を学習していないため、社内のことになると急に頼りない答えを返します。

その結果、質問しても一般論しか返ってこなかったり、それらしいけれど間違った答えを自信満々に返してきたりします。この「もっともらしい間違い」はハルシネーションと呼ばれ、業務で使うAIでは特に困る問題です。

関連: 社内データを賢く探す仕組み｜LangChain×Pineconeで実現する高精度なAI検索 で詳しく解説しています。

なぜAIは自社の情報をうまく扱えないのか

原因のひとつは、AIが一度に読み込める文章の量に限りがあることです。何百ページもある社内資料を丸ごとAIに渡すことはできず、無理に渡そうとすると費用も時間も膨らみます。

もうひとつの原因は、必要な情報を探し出す仕組みが用意されていないことです。人間なら「この質問ならあの資料のあのページ」と見当をつけられますが、AI単体には自社資料の中から関連部分を選び出す力がありません。この2つの壁があるため、AIをそのまま業務に使うのは難しいのです。

必要な情報だけを渡す「RAG」という考え方

この問題を解く定番の方法が、RAG（検索拡張生成）と呼ばれる仕組みです。質問が来たときに、まず関連する資料だけを探し出し、その部分だけをAIに渡して答えを作らせるという流れになります。

関連する資料だけを探してAIに渡すRAGは、LangChainが流れをつなぎ、Pineconeが資料を保管する役割を担います。

このRAGを実際に組み立てるときによく使われるのが、LangChainとPineconeの組み合わせです。LangChainは全体の流れをつなぐ役割、Pineconeは資料を探しやすい形で保管する役割を担います。

LangChainは、AI・検索・自社データといった部品をつなぎ合わせる「まとめ役」の道具です。質問を受け取り、関連資料を探し、AIに渡して答えを作るという一連の流れを、少ないプログラムで組み立てられます。

Pineconeは、文章を「意味」で探せる形で保管する専用のデータベースです。ふつうの検索は言葉が一致するかどうかで探しますが、Pineconeは意味の近さで探すため、言い回しが違っても関連する資料を見つけられます。

私はマカティのリトルトーキョー近くにある小さな携帯ショップで、AIチャットを作る支援をしたことがあります。Messengerに届く「この機種はいくら？」「在庫はある？」といった決まった問い合わせに、店の情報をもとに自動で返信できるようにしたのです。言葉づかいが多少違っても質問の意図をくみ取れるので、タガログ語・英語・日本語のどれで聞かれても、かみ合った答えを返せるようになりました。

関連: LangChainとPineconeとは？自社専用AIを支える「司令塔」と「記憶庫」の役割を解説 で詳しく解説しています。

4つのステップで組み立てるAIアプリ

実際の開発は、大きく4つのステップで進みます。ここでは社内マニュアルに答えるAIを例に説明します。

資料を分ける、数字に変換して保管する、関連部分を探す、答えを作る、という4つの流れでAIアプリを組み立てます。

1つ目は資料を小さく分ける作業です。長いマニュアルをそのまま扱うのではなく、段落や項目ごとに数百文字程度の「かたまり」に分けます。

2つ目は、分けた文章を数字の列（ベクトル）に変換してPineconeに保管する作業です。この数字は文章の意味を表しており、意味が近い文章どうしは近い数字になります。

3つ目は、質問が来たときにPineconeから関連するかたまりを探し出す作業です。「有給休暇は何日もらえる？」と聞かれたら、休暇に関する部分だけが選ばれます。

4つ目は、探し出した文章と質問をまとめてAIに渡し、答えを作らせる作業です。この一連の流れをLangChainが裏で自動的につないでくれます。

例として「経費精算の締め日は？」と質問すると、Pineconeが経理マニュアルの該当箇所を選び、LangChainがそれをAIに渡し、根拠のある答えを返す、という動きになります。探した資料をもとに答えるので、でたらめな回答が起きにくくなるのが大きな利点です。

こうした仕組みは、実際のお店でも動いています。私はマカティのリトルトーキョー近くにある約80席の日系飲食店で、サイトにAIチャットボットを入れる支援をしました。よくある問い合わせはAIが答え、メニューはパソコンから簡単に書き換えられるようにしたところ、単純な問い合わせに人が対応することはほぼなくなり、その分の手間を大きく減らせました。

関連: RAG時代の終焉とエージェント型AI基盤 — フィリピン拠点で活きる知識コンパイル層の実務 で詳しく解説しています。

つまずきやすいポイントを先に押さえる

最初のつまずきは、資料の分け方が雑になることです。かたまりが大きすぎると余計な情報が混ざり、小さすぎると意味が途切れてしまい、どちらも答えの精度が下がります。

次に多いのが、文章を数字に変換する道具（埋め込みモデル）を途中で変えてしまう失敗です。保管したときと検索するときで別の道具を使うと、意味がかみ合わず正しく探せなくなります。

費用の見落としもよくある問題です。質問のたびにAIや検索へ料金が発生するため、利用者が増えたときの費用を最初に見積もっておくと安心です。

最後に、資料を更新したらPineconeの中身も更新する必要があります。古い情報が残っていると、AIが古い答えを返し続けてしまいます。

よくある質問

Q: LangChainとPineconeは必ずセットで使うのですか？

A: 必ずではありません。LangChainは他のデータベースとも組み合わせられますし、Pineconeも別の仕組みから使えます。ただし、扱いやすさと情報の多さから、この組み合わせが選ばれる場面が多くなっています。

Q: プログラミングの知識がなくても導入できますか？

A: 仕組みを理解するだけなら知識は不要ですが、実際の構築には開発の知識が必要です。社内に担当者がいない場合は、開発会社に依頼するのが現実的です。

Q: 無料で試すことはできますか？

A: Pineconeには小規模なら無料で試せる枠があり、LangChain自体も無料で使えます。ただしAI本体の利用には料金がかかる場合が多いので、小さく試してから広げるのがおすすめです。

Q: 自社のデータが外部に漏れる心配はありませんか？

A: どこにデータを預けるかによって変わります。保管場所や利用するAIの契約内容を確認し、機密情報を扱う場合は保管先の安全性を必ずチェックすることが大切です。

押さえておきたい要点と次の一歩

AIが自社のことを答えられないのは、自社情報を知らないことと必要な部分を探せないことが原因でした。この2つを解決するのがRAGという仕組みで、その定番がLangChainとPineconeの組み合わせです。

大切なのは、資料を丁寧に分け、正しく保管し、更新を続けることです。この土台さえ整えば、AIは自社の頼れる相談相手になっていきます。

IT・Web・AIの仕事を36年以上続けてきて感じるのは、最初から完璧を目指さないほうがうまくいくということです。まずは7割ほどの状態で使い始め、実際に使いながら少しずつ直していくと、無理なく精度を上げられます。

まずは、社内でAIに答えてほしい資料を1つ選び、小さく試すところから始めてみてください。うまくいく感触がつかめれば、次の展開もぐっと具体的になります。