【Copilot】Copilotプロンプトにガードレールを設定して安全な出力を得る手順

Copilotの活用範囲が広がるにつれ、意図しない不適切な内容が出力されるリスクへの懸念も高まっています。

特に、機密情報や個人情報を含む可能性のあるデータを取り扱う場合、出力内容の制御は不可欠です。

この記事では、Copilotプロンプトにガードレールを設定し、安全で信頼性の高い出力を得るための具体的な手順を解説します。

Copilot Studioの概要とガードレールの必要性

Microsoft Copilot Studioは、Microsoft 365 Copilotを基盤として、特定の業務プロセスや組織のニーズに合わせてカスタマイズされたCopilot(カスタムCopilot)を構築できるプラットフォームです。これにより、Copilotの応答範囲を限定し、より的確で安全な情報を提供できるようになります。

プロンプトにガードレールを設定する主な目的は、機密情報や個人情報、あるいは組織のポリシーに反する内容の出力を防ぐことです。例えば、顧客の未公開情報や社内秘のプロジェクト詳細についてCopilotが不用意に回答してしまうことを避けるために、ガードレールは重要な役割を果たします。

カスタムCopilotでガードレールを設定する手順

カスタムCopilotを作成し、ガードレールを設定する基本的な流れは以下の通りです。この手順は、Microsoft 365 Copilotアドオンを契約している法人ユーザーが対象となります。個人向けのCopilot Proでは、このレベルのカスタマイズはできません。

1. Copilot Studioへのアクセス
   Microsoft 365アプリからCopilot Studioを起動します。または、WebブラウザでCopilot StudioのURLにアクセスします。
2. 新しいCopilotの作成
   「新しいCopilotを作成」を選択し、Copilotの名前と説明を入力します。
3. トピックの定義と構成
   Copilotが応答する可能性のある質問や指示(トピック)を定義します。各トピックに対して、Copilotがどのように応答するか、または特定の質問には応答しないかを設定します。
4. トリガーフレーズの設定
   ユーザーがCopilotに話しかける際のきっかけとなるフレーズ(トリガーフレーズ)を設定します。ここで、機密情報に関連する可能性のあるフレーズを意図的に含め、それらのフレーズに対しては「その質問にはお答えできません」といった応答を定義することで、ガードレールとして機能させます。
5. アクションの設定
   特定のトピックに対して、外部システムとの連携や、あらかじめ用意された応答の実行などのアクションを設定できます。ガードレールの観点からは、不適切な要求に対しては「アクションを実行しない」という設定を行います。
6. 安全設定の構成
   Copilot Studioには、コンテンツのモデレーションに関する設定項目があります。これを利用して、不適切、攻撃的、または有害なコンテンツの生成を抑制する設定を有効にします。
7. テストとデプロイ
   設定したカスタムCopilotをテスト環境で十分に検証します。問題がなければ、組織内で利用できるようにデプロイします。

Copilot Studioでの具体的なガードレール設定例

機密情報へのアクセスを制限する

特定のプロジェクト名や顧客コードなど、組織内で機密情報として扱われるキーワードをトリガーフレーズに含めます。これらのトリガーフレーズに対しては、「その情報はお伝えできません」といった応答を定義します。

不適切な指示をブロックする

Copilot Studioの「安全設定」で、攻撃的、差別的、または性的なコンテンツの生成をブロックする設定を有効にします。これにより、ユーザーの意図しない不適切な出力リスクを低減します。

特定のトピックへの応答を拒否する

Copilotが回答すべきではない、あるいは回答できないトピック(例:個人的な意見、専門外の分野)に対しては、明示的に「このトピックについてはお答えできません」という応答を設定します。

生成されるコンテンツの長さを制限する

長すぎる応答は、意図せず機密情報を含んでしまうリスクを高める可能性があります。Copilot Studioの設定で、生成される応答の最大長を制限することも、間接的なガードレールとして機能します。

Copilotプロンプトのガードレール設定における注意点

過剰な制限による利便性の低下

ガードレールを設定しすぎると、Copilotが本来提供できるはずの有用な情報までブロックしてしまう可能性があります。必要な情報へのアクセスを妨げないよう、バランスの取れた設定が重要です。

対処法:

1. テストとフィードバックの収集
   カスタムCopilotをデプロイ後も、実際の利用状況を監視し、ユーザーからのフィードバックを収集します。
2. 設定の微調整
   収集したフィードバックに基づき、トリガーフレーズや応答内容を継続的に見直し、必要に応じて設定を微調整します。

設定漏れによるリスク

すべての機密情報や不適切な指示を事前に予測し、ガードレールに設定することは困難です。未知のリスクに対しては、完全な保護が難しい場合があります。

対処法:

1. 定期的な設定の見直し
   組織のポリシー変更や新たなリスクの出現に合わせて、ガードレールの設定を定期的に見直します。
2. ユーザーへの注意喚起
   Copilot利用時には、機密情報の入力に関する注意喚起を明示し、ユーザー自身のセキュリティ意識を高めることも重要です。

Copilot Studioのライセンス要件

Copilot Studioを利用してカスタムCopilotを作成・展開するには、Microsoft Copilot Studioのライセンスが必要です。これは通常、Microsoft 365 E5 ComplianceやMicrosoft 365 E5 Securityなどのエディションに含まれるか、別途アドオンとして購入する必要があります。Microsoft 365 Business Premiumなどのエディションでは、一部機能が制限される場合があります。

Copilot ProとMicrosoft 365 Copilotのガードレール機能比較

Copilot Proは個人向けのサブスクリプションであり、主にMicrosoft 365アプリ(Word, Excel, PowerPoint, Outlook, Teams)内でのCopilot機能の強化や、Web版Copilotの機能向上を提供します。一方、Microsoft 365 Copilotは法人向けのライセンスであり、組織全体のセキュリティポリシーとの連携や、Copilot Studioを用いた高度なカスタマイズが可能です。

機能	Copilot Pro	Microsoft 365 Copilot
カスタムCopilot作成	不可	可能(Copilot Studio利用)
組織ポリシーとの連携	限定的	可能(Azure AD連携、データガバナンス)
プロンプトガードレール設定	限定的(標準機能の範囲内)	高度に設定可能(Copilot Studio)
機密情報保護	個人レベルの注意	組織レベルでの管理・制御

Copilot Proでは、ユーザー自身がプロンプトの入力に注意することで、ある程度の安全性を確保できます。しかし、組織全体で一貫したセキュリティポリシーを適用し、未知のリスクにも対応するためには、Microsoft 365 CopilotとCopilot Studioの組み合わせが不可欠です。

Copilot Studioを利用してカスタムCopilotを作成することで、組織固有のニーズに合わせたガードレールを設定できます。これにより、Copilotの安全性を高め、より安心して業務に活用することが可能になります。

今後は、Copilot Studioの機能強化や、Microsoft 365のセキュリティ機能との連携がさらに進むことが予想されます。組織のセキュリティポリシーと照らし合わせながら、Copilotの活用範囲と安全性を両立させるための設定を検討しましょう。