AIが感情を推定する仕組みの線引き──職場は原則禁止、顧客対応は通知義務｜フィリピン日系企業向けケーススタディ | ケーススタディ

AIが人の顔や声から気持ちを読み取る、という機能は、いまや珍しいものではありません。通話の分析、面接の支援、来店客の反応の把握といった形で、業務向けの製品にも組み込まれています。この教材では、EUのAI法（AI Act）がこの種の仕組みをどう扱っているかを題材に、フィリピンの日系企業が自社の仕組みをどう点検すべきかを、具体的な手順に落として考えます。

公開されている規定によると、扱いは使う場所によって大きく分かれます。職場と教育機関では、人の感情を推定するAIの使用が原則として禁じられています。この禁止は第5条に置かれ、医療上または安全上の理由による場合が例外とされています。いっぽう、それ以外の場面で感情認識システムや生体分類システムを使う場合には、対象となる人にその仕組みが動いていることを知らせる義務が第50条に定められており、この透明性に関する規定は2026年8月2日から適用されます。禁止のほうは先行しており、第5条は2025年2月2日から適用されているとされています。つまり、同じ「感情を読むAI」でも、従業員に向けるのか顧客に向けるのかで、求められる対応がまったく違います。本教材では、この線引きをPart 1〜4の順に、自社の状況へ当てはめて考えていきます。

Part 1: 読む → 自社への示唆を考える

Step 1: Pre-Reading(3分)

読む前に、自社に置き換えて考えてみましょう。

自社の業務で、人の表情・声・話し方をAIが分析している場面はありますか。
その分析の対象になっているのは、従業員ですか、顧客ですか。
対象になっている人は、その分析が行われていることを知っていますか。

Step 2: First Reading(10分)

以下は、規定の内容をもとに、フィリピン日系企業を主語として書き起こした架空の社内メモです。

社内向けメモ:感情を推定するAIの扱いと、当社が確認すべきこと

EUのAI法における感情認識の扱いを確認しました。注目したいのは3点です。

第一に、職場での感情推定は、通知すれば済む話ではないという点です。第5条では、職場と教育機関で人の感情を推定するAIの使用が原則として禁じられています。同意を取れば使える、という組み立てにはなっていません。医療上または安全上の理由による場合が例外とされていますが、業績評価や勤務態度の把握はここに含まれないと読むのが自然です。

第二に、顧客に向ける場合は通知が要るという点です。第50条では、感情認識システムや生体分類システムを使う側に対し、対象となる人にその仕組みが動いていることを知らせることが求められます。この規定は2026年8月2日から適用されます。

第三に、顔認証と感情推定は別物として扱う必要があるという点です。当社の勤怠管理で使っている顔照合は、本人かどうかを確かめる仕組みであり、感情を読み取るものではありません。一方、コールセンターで検討している通話の分析には、話し方から不満の度合いを推定する機能が含まれています。同じ「AIで人を見る」仕組みでも、位置づけが違います。

なお、当社が直接の対象になるかどうかは、EU域内で仕組みを使っているか、その出力がEU域内で使われているかによって変わります。ここは法律の専門家に確認が必要です。加えて、フィリピン国内では個人情報保護法（Data Privacy Act）が生体情報を機微な個人情報として扱っており、EUの規定とは別に確認が要ります。

当社への示唆は次の3点です。①人を分析している仕組みの一覧を作ります。②それぞれが「本人確認」「感情推定」「属性の分類」のどれに当たるかを分けます。③従業員に向けているものについては、目的と根拠を先に確認します。

出典: Article 5: Prohibited AI Practices — EU Artificial Intelligence Act / Article 50: Transparency Obligations for Providers and Deployers of Certain AI Systems — EU Artificial Intelligence Act

注記: 上記のビジネスシナリオは、公開されている情報をもとに学習目的で作成した架空の社内メモです。適用範囲や例外の解釈は変わり得ますので、自社が対象になるかどうかの判断は、必ず一次情報と専門家の確認によってください。

Step 3: Comprehension Check(5分)

職場での感情推定はどのように扱われており、例外として何が挙げられていますか。
職場以外で感情認識システムを使う側に求められることは何ですか。
本人確認のための顔照合と、感情推定は、なぜ分けて考える必要がありますか。

Step 4: 3分ブリーフィング(10分)

このテーマを経営会議向けに3分で説明する練習をしましょう。「何が起きているか（感情を推定するAIは、使う場所で扱いが分かれる）→なぜ重要か（職場向けは通知では足りず、原則として使えない）→当社は何をすべきか（人を分析している仕組みの棚卸しと、種類の切り分け）」の順で話すと伝わりやすくなります。

Part 2: 重要キーワード解説(経営者向け)

感情認識システム：表情、声の調子、話す速さといった生体情報から、人の感情や意図を推定する仕組みのことです。喜怒哀楽の判定だけでなく、疲労や集中の度合いを推し量るものも含まれ得ます。

生体分類システム：生体情報をもとに、人をなんらかの区分に振り分ける仕組みです。人種や政治的意見、労働組合への加入、信条、性生活、性的指向を推定するための使用は、第5条で禁じられているとされています。

本人確認（照合）：登録済みの本人かどうかを確かめる仕組みで、勤怠の顔認証や端末のロック解除がこれにあたります。感情の推定とは目的が異なり、規定上の扱いも別です。ただし生体情報を扱う以上、個人情報保護の観点からの確認は別途必要です。

利用者（deployer）：AIを自社の業務で使う側のことです。作って提供する側とは求められることが分かれており、通知の義務は主に使う側に置かれています。

機微な個人情報：フィリピンの個人情報保護法における区分で、生体情報が含まれるとされています。EUの規定とは別の制度ですので、両方を確認する必要があります。

Part 3: 自社への応用を考える

人を分析している仕組みを書き出す

まず、自社で稼働している仕組みのうち、人の顔・声・体の情報を扱っているものを一覧にしてください。勤怠の顔認証、入退室の管理、通話の録音と分析、来客の記録、面接の支援ツールといったところに含まれています。導入した部署がばらばらで、全体像を誰も把握していない、という状態は珍しくありません。

3つに分ける

一覧ができたら、それぞれを次の3つに分けてください。

本人確認：登録済みの本人かどうかを確かめるもの
感情の推定：気持ち・意欲・不満の度合いなどを読み取るもの
属性の分類：生体情報から人をなんらかの区分に振り分けるもの

分け方が決まると、確認すべき順番も決まります。2と3のうち従業員に向けているものが、いちばん先に確認すべき対象です。

製品の説明書を読み直す

導入した時点では「音声分析」としか説明されていなかった機能に、感情の推定が含まれていることがあります。契約している製品の機能一覧を取り寄せ、どの項目が感情や意欲の推定にあたるかを、提供元に文書で確認してください。口頭の説明だけでは後から追えません。

顧客向けのものには通知の文言を用意する

顧客対応で感情分析を使う場合、対象となる人に知らせる必要があります。通話の冒頭の案内、ウェブの利用案内、店頭の掲示といった形が想定されます。文言は短くて構いませんが、何が行われているかが伝わる内容にしてください。

Part 4: よくある失敗パターン(NG集)

失敗1: 同意を取れば職場でも使えると考える

これがいちばん危うい誤解です。職場での感情推定は、通知や同意によって適法になるという組み立てにはなっていません。雇用関係では同意が本当に任意といえるか疑わしい、という考え方が背景にあります。医療上または安全上の理由という例外はありますが、業績評価や勤務態度の把握を安全上の理由と説明するのは無理があります。

失敗2: 顔認証と感情推定を同じ話として扱う

勤怠の顔認証を止めるべきかという相談を受けることがありますが、本人確認の照合と感情の推定は別の仕組みです。まとめて判断すると、必要な仕組みまで止めることになりかねません。まず切り分けてください。

失敗3: 導入済みの製品を確認しないまま新規だけ気にする

これから入れるものだけを点検して、すでに動いているものを見落とす例が多くあります。感情の推定は、通話管理や勤怠の製品に後から機能追加の形で入ってくることがあります。既存の製品ほど、機能の一覧を取り直す意味があります。

失敗4: フィリピンの制度を確認しない

EUの規定だけを見て済ませると、足元の確認が抜けます。フィリピンの個人情報保護法では生体情報が機微な個人情報として扱われており、収集と利用にあたって別途の確認が必要です。EU向けの事業がない企業でも、この点は関係します。

失敗5: 現場に伝えずに管理部門だけで確認を終える

実際に製品を選び、設定を触るのは現場です。管理部門の中だけで整理を終えると、翌月には別の部署が同種の機能を有効にします。分類の3つの区分と、従業員に向けるものは事前に相談する、という2点だけでも現場に共有してください。

活用のコツ(3 Tips)

まず一覧を作る：判断は後で構いません。人の顔・声・体の情報を扱っている仕組みを書き出すところまでを、今週中に終えてください。
切り分けを社内の共通の言葉にする：本人確認・感情の推定・属性の分類という3つの区分を、社内の共通の言い方にしておくと、以後の相談が速くなります。
一次情報にあたる：例外の範囲やガイドラインは今後も動きます。まとめ記事ではなく、規定の本文と公式の解説を確認してください。

ボーナス: PH AI Works 無料相談の活用法

「自社の仕組みのどれが感情の推定にあたるのか」「製品の説明書のどこを確認すればよいのか」といった整理は、社内だけで進めると時間がかかります。PH AI Worksの無料相談では、フィリピンで事業を行う日系企業を対象に、人を分析している仕組みの棚卸しと、3つの区分への切り分けのご相談を受け付けています。法律上の判断そのものは専門家の領域ですので、私たちは「何が動いているかを把握し、社内の運用をどう組むか」の部分をお手伝いします。

参考・出典

Article 5: Prohibited AI Practices — EU Artificial Intelligence Act
Article 50: Transparency Obligations for Providers and Deployers of Certain AI Systems — EU Artificial Intelligence Act
Transparency obligations under Article 50 of the AI Act — European Commission, Shaping Europe's digital future
Data Privacy Act of 2012 (Republic Act No. 10173) — National Privacy Commission, Philippines