どこまでAIに任せ、どこから人が承認するか──セキュリティ対応の線引きの決め方｜フィリピン日系企業向けケーススタディ

AIエージェントに任せる仕事の範囲が、「調べる」から「直す」へ広がりつつあります。セキュリティの分野でも、脅威を見つけるだけでなく、修正まで実行する製品が出てきました。この教材では、その動きを題材に、フィリピンの日系企業が「どこまでを自動で直させ、どこから人が承認するか」をどう決めるかを、具体的な手順に落として考えます。

公開されている案内によると、この種の製品では、攻撃者の視点で弱点を探す役、脅威を調査して優先度をつける役、そして修正を実行して守りを固める役という、役割の異なる複数のエージェントを連携させる構成が取られています。専用のセキュリティ向けモデルを用い、現在プレビューの段階にあるとされています。注目したいのは、その説明の中に置かれた条件です。影響の大きい操作はすべて人の承認を経る、そして守る側が目的と制限を設定するという2点が明示され、判断は範囲が限定され、追跡でき、後から再現できる形にする、と述べられています。本教材では、この考え方をPart 1〜4の順に、自社の状況へ当てはめて考えていきます。

Part 1: 読む → 自社への示唆を考える

Step 1: Pre-Reading(3分)

読む前に、自社に置き換えて考えてみましょう。

いまAIやツールが自動で実行している操作のうち、本番環境を変えるものはありますか。
その操作が誤っていた場合、誰がいつ気づきますか。
「これは人が承認すべき」と言える操作を、自社では文書にしていますか。

Step 2: First Reading(10分)

以下は、公開情報をもとに、フィリピン日系企業を主語として書き起こした架空の社内メモです。

社内向けメモ:セキュリティ対応をAIに任せる製品の登場と、当社が決めるべき線引き

セキュリティ運用をAIエージェントに任せる製品がプレビューに入ったと案内されています。注目したいのは3点です。

第一に、役割が分かれている点です。弱点を探す役、調査して優先度をつける役、修正を実行する役が別々に置かれています。1つのエージェントに全部をさせるのではなく、責任の範囲を分ける設計になっています。

第二に、「影響の大きい操作は人の承認を経る」と明示されている点です。提供する側が、自動で完結させないことを前提として設計しています。これは制約ではなく、この種の仕組みが企業で使われるための条件だと読むべきです。

第三に、目的と制限を決めるのは守る側だという点です。製品が判断の枠組みを持ってくるのではなく、使う会社が「何を達成させ、何を禁じるか」を設定します。つまり、線引きは自社の仕事として残るということです。

当社に引き寄せて考えると、問題はセキュリティに限りません。当社ではすでに、複数の業務でAIに作業を任せています。そのうち「本番環境を変える操作」がどれで、誰の承認を要するかを、文書にしていません。

当社への示唆は次の3点です。①AIやツールが自動実行している操作を一覧にします。②そのうち「影響が大きい」ものの基準を決めます。③承認する人と、記録の残し方を決めます。

出典: Project Perception — Microsoft Security

注記: 上記のビジネスシナリオは、公開されている情報をもとに学習目的で作成した架空の社内メモです。製品の仕様や提供条件は変わり得ますので、導入の判断は必ず一次情報と専門家の確認によってください。

Step 3: Comprehension Check(5分)

役割の異なる3種類のエージェントは、それぞれ何をするとされていますか。
「影響の大きい操作」について、どのような条件が置かれていますか。
目的と制限を設定するのは、提供する側と使う側のどちらだとされていますか。

Step 4: 3分ブリーフィング(10分)

このテーマを経営会議向けに3分で説明する練習をしましょう。「何が起きているか(守りの作業をAIが実行する段階に入った)→なぜ重要か(自動で直させる範囲を決めるのは自社の仕事として残る)→当社は何をすべきか(自動実行している操作の棚卸しと、承認の線引き)」の順で話すと伝わりやすくなります。

Part 2: 重要キーワード解説(経営者向け)

エージェント：目的を与えると、手順を自分で組み立てて実行する仕組みのことです。指示された作業だけを行う従来の自動化とは、この点が違います。

役割の分離：探す役、判断する役、直す役を別々に置く考え方です。1つにまとめるより、どこで問題が起きたかを追いやすくなります。権限も役割ごとに分けられます。

人の承認(sign-off)：機械が実行する前に、人が可否を判断する段階のことです。すべての操作に置くと現場が回りませんので、対象を絞る必要があります。

目的と制限(ガードレール)：何を達成させ、何を禁じるかをあらかじめ設定するものです。禁止事項を並べるだけでなく、達成すべき目的も設定する点が要点です。

追跡と再現：何をどういう理由で実行したかを記録に残し、後から同じ経路をたどれるようにすることです。事故が起きたときに、原因を特定できるかどうかを分けます。

Part 3: 自社への応用を考える

自動で実行している操作を書き出す

まず、いま自社で自動的に実行されている操作を一覧にしてください。セキュリティに限りません。請求書の登録、在庫の更新、顧客への返信、権限の付与——AIやツールが人の確認なしに完了させている操作は、思ったより多くあります。

導入した部署がばらばらで、全体像を誰も把握していない、という状態は珍しくありません。一覧がないと、次の判断ができません。

「影響が大きい」と判断する基準を3つ決める

すべての操作に承認を置くと、現場が止まります。対象を絞るために、次の3つの基準を使ってください。

元に戻せるか：戻せない操作は影響が大きいと考えてください。削除、送信、支払いが該当します。
社外に出るか：顧客や取引先に届く操作も影響が大きくなります。誤りが会社の言葉として扱われるためです。
金額の基準を超えるか：一定額を超える操作も同じ扱いにしてください。金額はご自身で決めて構いません。

この3つのどれかに当たるものだけを、人の承認の対象にしてください。3つとも当たらない操作は、自動で完結させて構いません。

承認する人を、役職ではなく業務で決める

承認者を役職で決めると、その人が不在のときに止まります。業務の内容で決めて、代理を必ず1人置いてください。

あわせて、承認の期限を決めておいてください。「24時間以内に承認がなければ実行しない」という形にしておくと、放置された案件が勝手に流れる事態を防げます。

記録の残し方を先に決める

記録は、事故が起きてから作れません。次の3点を、実行の記録に残す設計にしてください。

何を実行したか
どの根拠で実行したか
誰が承認したか(承認が必要な操作の場合)

この3点があれば、後から経路をたどれます。逆に、これがないと「AIがやりました」以上のことが言えなくなります。フィリピンの個人情報保護法(Data Privacy Act)の観点でも、個人データに触れる操作については記録が求められる場面がありますので、この設計は法令面でも意味を持ちます。

Part 4: よくある失敗パターン(NG集)

失敗1: 「大手の製品だから安全」で線引きを省く

提供する側が「影響の大きい操作は人の承認を経る」と設計していても、何を影響の大きい操作と見なすかは、自社が決める設定項目です。製品を入れただけでは線引きは完成しません。初期設定のまま運用に入ると、自社にとって影響の大きい操作が自動で流れる状態になり得ます。

失敗2: すべての操作に承認を置く

安全側に振りすぎると、承認待ちの案件が積み上がり、承認者が中身を見ずに押すようになります。これは承認がない状態より危険です。対象を絞ることが、承認を機能させる条件です。

失敗3: 承認者を1人に固定する

その人が休暇や出張に入ると、業務が止まります。止まると現場は迂回路を探し、承認を通さない経路ができます。代理を必ず置いてください。

失敗4: 記録を残す設計を後回しにする

「まず動かしてから、記録は後で」という順序にすると、事故が起きた期間の記録だけが存在しません。記録は最初から入れてください。後から追加するより、はるかに手間がかかりません。

失敗5: セキュリティの話として現場に伝えない

線引きを決めるのは管理部門でも、実際にAIに作業を任せるのは現場です。管理部門の中だけで整理を終えると、翌月には別の部署が同種の自動化を始めます。3つの基準と、承認が要る操作の一覧だけでも共有してください。

活用のコツ(3 Tips)

一覧を作るところから始める：判断は後で構いません。いま自動的に実行されている操作を書き出すところまでを、今週中に終えてください。
基準を社内の共通の言葉にする：「元に戻せるか・社外に出るか・金額を超えるか」の3つを社内の言い方にしておくと、以後の相談が速くなります。
一次情報にあたる：製品の仕様と提供条件は動きます。まとめ記事ではなく、提供元の案内と公式のドキュメントを確認してください。

ボーナス: PH AI Works 無料相談の活用法

「自社のどの操作が自動で流れているのか」「どこに承認を置けばよいのか」といった整理は、社内だけで進めると時間がかかります。PH AI Worksの無料相談では、フィリピンで事業を行う日系企業を対象に、自動実行されている操作の棚卸しと、承認の線引きの設計についてのご相談を受け付けています。製品の選定そのものより手前の、「何を任せ、どこで人が出るか」を決める部分をお手伝いします。