契約書や重要文書をChatGPTに任せきりにしない原則

契約書や法的な重要文書を生成AIで作成・レビューする機会が増えています。ChatGPTやClaude、Geminiなどの生成AIサービスは文章作成を効率化しますが、契約書の内容を完全に任せきりにするのは危険です。本記事では、生成AIを契約書作成に使う際に絶対に守るべき原則と、注意すべきポイントを解説します。これを読めば、生成AIの限界を理解し、適切に活用できるようになります。

なぜ契約書を生成AIに任せきりにしてはいけないのか

生成AIは大量のテキストデータを学習して自然な文章を生成しますが、契約書のような法的文書には特有のリスクがあります。生成AIは法律の専門知識を持っているわけではなく、学習データに含まれる一般的なパターンから文章を生成しているにすぎません。そのため、最新の法改正や特定の業界の慣習に対応できない場合があります。例えば、2020年の民法改正に対応していない学習データを使っている可能性もあります。また、生成AIは自信満々に誤った情報を出力する「ハルシネーション」と呼ばれる現象を起こすことが知られています。契約書の条項が誤っていると、後々法的なトラブルに発展する可能性があります。さらに、生成AIは入力されたデータを学習に利用する場合があり、機密性の高い契約内容をそのまま入力すると情報漏洩のリスクが発生します。これらの理由から、契約書作成において生成AIはあくまで補助的なツールと位置づけ、すべての判断を任せるべきではありません。

生成AIを契約書に使う際の具体的なリスクと落とし穴

ここでは、実際に発生しやすいリスクを3つ紹介します。

落とし穴1: ハルシネーションによる条文の誤り

生成AIは存在しない法律や判例を引用することがあります。例えば、「民法第○○条に基づき」と書かれていても、実際にはその条文が存在しないケースがあります。契約書では正確な条文引用が求められるため、このような誤りは致命的です。必ず元の法律条文を確認する必要があります。また、生成AIが作成した条文の解釈が裁判例と異なることもあります。契約書の内容が法的に有効かどうかは、専門家による判断が必要です。

落とし穴2: 機密情報の漏洩リスク

契約書には企業の機密情報や個人情報が含まれます。多くの生成AIサービスは入力データを学習に使用する場合があり、意図せず他者に情報が漏れる可能性があります。例えば、ChatGPTやClaudeの無料版では入力データが学習に利用されることがあります。また、Geminiでも学習に使用される設定がデフォルトの場合があります。機密性の高い契約書を扱う際は、データが学習に使われないプラン(API経由や専用環境)を利用するか、プロンプトに機密情報を含めないように抽象化する必要があります。

落とし穴3: 法的要件の見落とし

生成AIは契約書に必要な形式要件や署名要件を理解していません。例えば、電子契約法に基づく電子署名の要件や、契約の成立に必要な当事者の意思表示の記録などは生成AIでは生成できません。また、国や地域によって契約書の様式が異なるため、汎用的なプロンプトでは適切な書式にならないことがあります。日本では実印や印鑑証明が必要な契約もある一方、米国では電子署名で十分な場合があります。こうした違いを生成AIは自動的に判断できません。

安全に契約書作成に生成AIを活用するための手順

以下の手順に従えば、リスクを最小限に抑えながら生成AIを活用できます。

1. 目的と範囲を明確にする
   例えば、NDAのひな形が欲しいのか、特定の取引条件を盛り込んだ契約書が欲しいのかを明確にします。生成AIには「NDAの一般的な条項を列挙してください」と依頼するにとどめ、具体的な条件は人間が追加します。
2. プロンプトに注意事項を明記する
   「これはあくまで草案です。法的な正確性は保証されていません。必ず弁護士のレビューを受けてください。」という一文をプロンプトの先頭に書きます。そうすると、生成結果にも同様の注意書きが含まれることがあります。
3. 生成結果をそのまま使わない
   生成された文書の条項を一つ一つ読み、矛盾点や不自然な表現がないか確認します。特に数値や日付、会社名は誤りやすいため注意します。例えば、「2024年1月1日」と書かれていても、実際は2025年が正しい場合があります。
4. 専門家によるレビューを必須とする
   生成AIの出力を社内の法務部門や外部の弁護士に見せ、法的に問題がないかチェックしてもらいます。生成AIはあくまでドラフトの叩き台であり、最終的な責任は人間にあります。
5. 機密情報を入力しない工夫をする
   仮の社名として「株式会社甲」「株式会社乙」、金額は「金XXX円」、住所は「東京都千代田区」などと抽象化して入力します。実際の情報は後で人間が差し替えます。また、APIを利用する場合はエンドポイントが暗号化されているか確認します。
6. 複数の生成AIで結果を比較する
   同じプロンプトをChatGPT、Claude、Geminiに入力し、出力を比較します。例えば、ChatGPTは条項を詳細に書く傾向があり、Claudeは簡潔に書く傾向があるなど、特徴をつかめます。3つの出力の共通点や相違点を確認することで、より信頼性の高いドラフトを作成できます。

生成AIと専門家の役割比較

よくある質問(FAQ)

Q1: 生成AIに契約書の全文を入力しても大丈夫ですか?
A: おすすめしません。機密情報を含む契約書をそのまま入力すると、情報漏洩のリスクがあります。また、生成AIの利用規約によっては入力データが学習に使用される可能性があります。機密情報は抽象化するか、専用のプライベート環境を利用してください。

Q2: 生成AIが作成した契約書にそのまま署名しても問題ないですか?
A: 問題があります。生成AIは法的要件を満たしているか確認できません。契約書の内容を人間が確認し、必要に応じて修正した上で、電子署名や押印などの適切な手続きを行う必要があります。

Q3: 生成AIを使って既存の契約書をレビューしてもらえますか?
A: 可能ですが、注意が必要です。生成AIは一般的な契約書のパターンを学習しているため、明らかな誤字脱字や体裁のチェックには使えます。ただし、法的な観点からのレビューはできません。特に不利な条項や抜け漏れの指摘は専門家に依頼してください。

Q4: 生成AIに契約書のリスク評価を依頼できますか?
A: 生成AIは契約書のリスクを表面的に指摘することはできますが、具体的な法的リスクの評価はできません。例えば、「賠償責任条項が不明確」といった一般的な指摘は可能ですが、自社にとってどの程度のリスクかは人間が判断する必要があります。

まとめ

契約書や重要文書を生成AIに任せきりにすることは、ハルシネーションや情報漏洩、法的要件の見落としなどのリスクを伴います。生成AIはあくまで下書き作成や表現の確認といった補助的なツールとして活用し、最終的な内容確認と法的な有効性の判断は人間と専門家が行う必要があります。本記事で紹介した原則と手順を守れば、生成AIのメリットを最大限に活かしながらリスクを低減できます。まずは自社の契約書作成フローを見直し、生成AIの適用範囲を明確に定義することをおすすめします。