【Copilot】Copilotに顧客PII情報を入力させないガードレール設計と対処法

CopilotへのPII入力リスクとその背景

Copilotは、Microsoft 365内のデータ(Outlookのメール、Teamsのチャット、SharePointのドキュメントなど)を参照して回答を生成します。この参照範囲に顧客の個人情報(PII)や機密情報が含まれている場合、Copilotがそれを学習・利用し、意図せず外部に開示する可能性があります。

特に、ユーザーがCopilotに対して「この顧客の個人情報をまとめて」といった指示を出すと、Copilotは指示に従ってPIIを生成・提供してしまう危険性があります。これは、Copilotの学習能力と、ユーザーの指示に対する忠実さから生じるリスクです。

CopilotへのPII入力を防ぐガードレール設計

CopilotへのPII入力を防ぐためには、技術的な対策と運用・教育の両面からのアプローチが必要です。

Microsoft Purviewによるデータ損失防止(DLP)ポリシーの活用

Microsoft PurviewのDLPポリシーは、組織内の機密情報を保護するための強力なツールです。Copilot利用環境にもDLPポリシーを適用することで、PIIの入力を検知・ブロックできます。

1. Microsoft Purview コンプライアンスポータルへのアクセス
   管理者権限を持つアカウントで、Microsoft Purview コンプライアンスポータルにサインインします。
2. データ損失防止(DLP)ポリシーの作成
   「ポリシー」>「データ損失防止」を選択し、「作成」ボタンをクリックします。
3. ポリシーの適用範囲の選択
   「カスタム」を選択し、Copilotが利用されるMicrosoft 365サービス(Exchangeメールボックス、SharePointサイト、OneDriveアカウントなど)を選択します。
4. 機密情報の種類の定義
   「機密情報の種類」で、保護したいPIIの種類(例:個人識別情報、クレジットカード番号、パスポート番号など)を選択またはカスタム定義します。
5. ルールの設定
   PIIが検出された場合の「アクション」を設定します。ここでは「ブロック」を選択し、Copilotでの入力を防ぐように設定します。さらに、「ユーザーに通知する」や「管理者にアラートを送信する」といったオプションも設定できます。
6. ポリシーの適用
   設定内容を確認し、ポリシーを有効化して適用します。

Copilotが参照するデータソースの制限

Copilotは、ユーザーがアクセスできるMicrosoft 365内のデータソースを参照します。参照範囲を制限することで、PIIが含まれる可能性のあるデータへのアクセスを防ぐことができます。

1. SharePointサイトのアクセス権限管理
   機密情報を含むSharePointサイトへのアクセス権限を最小限のユーザーに限定します。
2. OneDriveの共有設定の確認
   OneDrive内のファイル共有設定を確認し、不必要に広範囲な共有が行われていないかチェックします。
3. Microsoft 365管理センターでの設定
   (管理者向け)Microsoft 365管理センターで、Copilotが参照できるデータソースに関するポリシーを設定できる場合があります。

プロンプトエンジニアリングとユーザー教育

技術的な対策だけでは限界があるため、ユーザーへの教育と安全なプロンプト作成の徹底が不可欠です。

1. 機密情報入力のリスク周知
   Copilotに顧客PIIや機密情報を入力することの危険性について、定期的な研修や通知を通じて従業員に周知します。
2. 安全なプロンプト作成ガイドラインの提供
   どのような情報が機密情報にあたるのか、どのようなプロンプトが安全かを示すガイドラインを作成し、共有します。
3. プロンプト例の提示
   機密情報を入力せずにCopilotを活用できる具体的なプロンプト例を提示し、模倣を促します。

Copilot Studioによるカスタムガードレールの実装

Copilot Studioを利用すると、Copilotの対話フローをカスタマイズし、PII入力を検知・ブロックするロジックを組み込めます。

1. Copilot Studioへのアクセス
   Copilot Studioにサインインします。
2. トピック(対話フロー)の作成
   新しいトピックを作成するか、既存のトピックを編集します。
3. PII検知ノードの追加
   ユーザーの入力に対して、PII(氏名、住所、電話番号、メールアドレスなど)が含まれているかをチェックするノードを追加します。正規表現やキーワードマッチングを利用できます。
4. ブロックアクションの設定
   PIIが検出された場合、ユーザーに応答をブロックするメッセージを表示させ、対話を終了させるように設定します。
5. Copilotへのデプロイ
   作成したトピックをCopilotにデプロイし、有効化します。

CopilotにPIIが入力された場合の対処法

万が一、CopilotにPIIが入力されてしまった場合、迅速かつ適切な対処が必要です。

DLPポリシーによる検知情報の確認と対応

Microsoft PurviewのDLPポリシーで設定したアラートを確認します。

1. DLPアラートの確認
   Microsoft Purview コンプライアンスポータルの「アラート」セクションで、Copilot関連のPII入力アラートを確認します。
2. インシデント調査
   アラートの詳細を確認し、どのユーザーが、どのような文脈で、どのPIIを入力したかを調査します。
3. 情報削除・修正の指示
   調査結果に基づき、該当ユーザーにPIIの削除または修正を指示します。Copilotの応答履歴から該当箇所を削除する操作も検討します。
4. 再発防止策の検討
   必要に応じて、DLPポリシーの強化やユーザー教育の見直しを行います。

Copilotの応答履歴からの情報削除

Copilotの応答履歴にPIIが含まれている場合、それを削除する手順はCopilotのバージョンや利用環境によって異なります。

一般的には、Copilotのチャットインターフェースから、該当する応答を削除またはクリアする機能が提供されています。しかし、Copilotが参照した元のデータソース(SharePoint、OneDriveなど)にPIIが残っている場合は、そちらも削除する必要があります。

Microsoft 365管理センターでのCopilot設定確認

(管理者向け)Microsoft 365管理センターで、Copilotのデータ参照設定や利用状況を確認できる場合があります。これにより、問題の根本原因を特定しやすくなります。

項目	Copilot Pro	Microsoft 365 Copilot
主な用途	個人利用、限定的な業務利用	法人利用、組織全体の業務効率化
データ参照範囲	Web検索、Microsoftアカウントに紐づくデータ	組織内のMicrosoft 365データ(SharePoint, OneDrive, Outlook, Teamsなど)
セキュリティ・コンプライアンス	個人レベルのセキュリティ	組織のセキュリティポリシー、DLP、コンプライアンス機能との連携
ガードレール設計	限定的(個人設定)	Microsoft Purview等による高度なガードレール設計が可能

Copilotへの顧客PII入力リスクは、適切なガードレール設計と運用によって大幅に低減できます。

Microsoft PurviewのDLPポリシー設定、データソース制限、ユーザー教育、Copilot Studioの活用を組み合わせることで、安全にCopilotを業務に導入できます。

万が一PIIが入力された場合は、DLPアラートの確認と応答履歴からの削除を迅速に行い、再発防止策を講じることが重要です。