第2回｜AIの出力を、どこで止めるか

会員向けの月刊実践レポート、第2回をお届けしました。この記事では、収録した内容のうち時期を問わず通用する部分を全文公開しています。実務への落とし込みと資料（PDF）は会員限定です。

要約

• AIは間違えるときも、自信のある文体で書式の整った答えを出します。おかしさが表面に出ないため、通読して違和感を探す確認は成立しません。
• 全体を見るのではなく、壊れると困る一点だけを必ず確認してください。金額、期日、宛先、法令の条番号です。
• AIには答えではなく根拠のある場所を出させます。どの資料の何ページかを示せない答えは、確認のしようがありません。

AIの答えを、どう確かめるか

前回は、AIを業務システムにつなぐ前に決めておく線引きを扱いました。今回はその次に必ず来る問題です。AIが出した答えを、人はどうやって確かめるのか。 ここでほとんどの現場がつまずきます。理由ははっきりしていて、AIの間違い方が人の間違い方と違うからです。人が疲れて間違えるときは、たいてい様子がおかしくなります。計算が途中で止まる、記入欄が空く、明らかに桁が違う。ところがAIは、間違えるときも自信のある文体のまま、書式も整った状態で出してきます。おかしさが表面に出ません。 だから「目視で確認する」という運用は、そのままでは成立しません。目視は、おかしさが表面に出ることを前提にした方法だからです。 うまくいかない確かめ方

• 出てきた文書を通読して「違和感がないか」を見る。整った文章ほど違和感は出ないので、見落とす。
• 全部を確認する。最初の2週間は続くが、量が増えると必ず形骸化する。「確認済み」の印だけが残る。
• AIに「合っていますか」と聞き返す。同じ材料から同じ推論をするので、多くの場合そのまま肯定が返る。 うまくいく確かめ方
• 全体ではなく、壊れると困る一点を決めて、そこだけ必ず確認する。金額、期日、宛先、法令の条番号。
• AIには「答え」ではなく「根拠のある場所」を出させる。どの資料の何ページかが示せない答えは、確認できない答えです。
• 確認する人と作った人を分ける。同じ人が続けて見ると、作ったときの前提をそのまま持ち込みます。 今日から使える一手
• ① AIに投げる指示の末尾に「根拠にした箇所を引用して示すこと。無い場合は無いと書くこと」を足す。
• ② 出力のうち確認する一点を先に決める。作業の後ではなく前に決めるのが肝心です。
• ③ その一点が合っていた／間違っていたを、1行でよいので記録に残す。

③の記録が、次の「2」につながります。1か月分たまると、自分の現場でAIがどこを間違えやすいかが、感覚ではなく事実として見えてきます。

記録がないと、改善も説明もできない

AIを使った業務で、記録を残していない事務所や会社が大半です。理由はもっともで、記録を取ること自体が手間だからです。効率化のために入れた道具に、追加の作業が生えるのは本末転倒に見えます。 しかし記録がないと、二つのことができなくなります。ひとつは改善です。どこで間違えやすいかが分からないので、確認の手を厚くする場所が決められません。結果として全部を確認するか、何も確認しないかの両極になります。 もうひとつは説明です。後から「なぜこの判断をしたのか」と問われたときに、答えられません。相手が顧客でも、監督官庁でも、社内の別部署でも同じです。

凝った仕組みは要りません。表計算ソフト1枚で十分です。重要なのは、記録が「後から責められる材料」ではなく「守ってくれる材料」だと全員が理解していること。そう伝わっていない職場では、記録は必ず美化されます。

参考・出典

• MCP仕様 改訂案（2026年5月21日公開／正式版は7月28日）: https://blog.modelcontextprotocol.io/posts/2026-07-28-release-candidate/
• 総務省・経済産業省「AI事業者ガイドライン 第1.2版」（2026年3月31日）: https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/pdf/20260331_1.pdf

この先は会員限定です

以下は会員ダッシュボードからご覧いただけます。資料はPDFで、印刷して手元に置ける形にしてあります。

関連: 第3回｜取引先に「なぜそうしたか」を説明できるようにする で詳しく解説しています。

• 「AIを入れたのに人が減らない」が起きる理由 — 導入から半年ほど経った会社でよく聞く声です。
• 集客側でも同じことが起きている — AIで記事や資料を量産できるようになった結果、量は増えたのに問い合わせが増えない、という相談が増えています。
• 今月の動き（2026年6月時点）
• まず着手すること（チェックリスト）

---

月刊実践レポートについて

関連: 月刊実践レポートとは — AI導入を進めている企業のご担当者に向けた月1回の実務資料 で詳しく解説しています。

月に1回、実務でそのまま使える資料をお届けしています。過去の号もすべて閲覧できるので、入会した時点で蓄積分がまとめて手に入ります。詳しくは会員登録のご案内をご覧ください。