【Windows】VPN接続時に「L2TP接続試行が失敗しました」と出る時のIPsec設定修正 | エラーコード:789

L2TP/IPsec方式のVPN接続で「L2TP接続試行が失敗しました」というエラーメッセージが表示され、エラーコード789に直面しているビジネスマンは多いのではないでしょうか。

この問題は、主にネットワーク環境とWindowsのIPsec設定の不一致が原因で発生します。

この記事では、エラー789が発生する原因を解説し、レジストリを修正してVPN接続を正常化する具体的な手順を説明します。

エラーコード789が発生する根本的な原因

エラーコード789「L2TP接続試行が失敗しました」は、L2TP/IPsec方式のVPN接続において、IPsecセキュリティアソシエーションIPsecSAのネゴシエーションが失敗したことを示しています。

この問題の主な原因は、ネットワークアドレス変換NAT環境下でのIPsecパススルーの不具合にあります。

特に、VPNクライアントPCとVPNサーバーの間にNATルーターが存在する場合、Windowsのデフォルト設定ではIPsecのNATトラバーサル機能が正しく動作しないことがあります。

これにより、IPsec通信に必要なポートが正しく開かれず、VPN接続の確立が妨げられてしまいます。

NAT環境下でのIPsec通信の課題

NATは複数のデバイスが単一のグローバルIPアドレスを共有するための技術です。

しかし、IPsecのようなプロトコルはIPヘッダー情報を変更しないことを前提としており、NATによるIPアドレス変換と相性が悪い場合があります。

IPsecのNATトラバーサル機能は、このような問題を解決するためにUDPポート4500番を利用してIPsecパケットをカプセル化し、NATを通過できるようにします。

しかし、Windowsの特定のバージョンや環境では、このNATトラバーサル機能がデフォルトで十分に有効になっていないことがあり、レジストリの修正が必要となるのです。

エラーコード789を解消するためのIPsec設定修正手順

エラーコード789を解決するには、Windowsのレジストリを編集し、IPsecのNATトラバーサルに関する設定を変更する必要があります。

レジストリの編集はシステムに大きな影響を与えるため、必ず事前にバックアップを取得してください。

レジストリのバックアップ手順

万が一の事態に備え、レジストリ全体をバックアップしておきます。

1. レジストリエディターを開く
   Windowsの検索ボックスに「regedit」と入力し、「レジストリエディター」アプリを右クリックして「管理者として実行」を選択します。
2. エクスポート機能の選択
   レジストリエディターのウィンドウ上部にある「ファイル」メニューをクリックし、「エクスポート」を選択します。
3. バックアップ範囲の指定
   「レジストリファイルの保存」ダイアログが表示されたら、「エクスポート範囲」で「すべて」を選択します。
4. ファイル名と保存場所の指定
   任意のファイル名例: registry_backup_YYYYMMDDを入力し、デスクトップなど分かりやすい場所に保存します。
   ファイルの種類は「登録ファイル *.reg」のまま変更しません。
5. バックアップの完了
   「保存」ボタンをクリックすると、レジストリのバックアップが開始され、指定した場所に.regファイルが作成されます。
   このファイルは、問題が発生した場合にレジストリを元の状態に戻すために使用できます。

IPsec設定のレジストリ編集手順

次に、IPsecのNATトラバーサル設定を有効にするためのレジストリ編集を行います。

1. レジストリエディターの起動
   Windowsの検索ボックスに「regedit」と入力し、「レジストリエディター」アプリを右クリックして「管理者として実行」を選択します。
2. 目的のパスへ移動
   レジストリエディターのアドレスバーに以下のパスをコピーして貼り付け、Enterキーを押します。
   HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Services\PolicyAgent
3. DWORD値の作成
   PolicyAgentキーを選択した状態で、右側の空白部分を右クリックします。
   コンテキストメニューから「新規」を選択し、「DWORD32ビット値」を選択します。
4. 値の名前の入力
   新しく作成されたDWORD値の名前をAssumeUDPEncapsulationContextOnSendRuleと入力し、Enterキーを押します。
   入力ミスがないように注意してください。
5. 値のデータの変更
   作成したAssumeUDPEncapsulationContextOnSendRuleをダブルクリックします。
   「DWORD32ビット値の編集」ダイアログが表示されたら、「値のデータ」に「2」半角数字と入力します。
   「表記」は「16進数」または「10進数」のいずれでも構いません。
6. 変更の適用とレジストリエディターの終了
   「OK」ボタンをクリックして変更を保存し、レジストリエディターを閉じます。
7. PCの再起動
   レジストリの変更をシステムに完全に適用するため、PCを必ず再起動します。
   再起動しないと変更が反映されず、問題が解決しない場合があります。
8. VPN接続の再試行
   PCの再起動後、再度VPN接続を試みて、エラー789が解消されているか確認します。

エラーコード789が解消しない場合の追加チェック項目

上記レジストリ修正を試してもエラーコード789が解決しない場合は、他の要因が影響している可能性があります。

以下の項目を確認し、問題の切り分けを進めてください。

VPNサーバー側の設定に問題がある

原因: VPNサーバー側の設定が正しくない、またはIPsecの事前共有キーや証明書がクライアントと一致していない可能性があります。
対処法: VPN管理者に連絡し、VPNサーバーの設定がL2TP/IPsec接続に対応しているか、クライアントに配布された認証情報が最新かつ正確であるかを確認してもらってください。
サーバー側のファイアウォールで必要なポートUDP 500、4500、1701が開放されているかも重要です。

ファイアウォールまたはセキュリティソフトがブロックしている

原因: Windows Defenderファイアウォールやサードパーティ製のセキュリティソフトが、VPN通信を不審なものとしてブロックしていることがあります。
対処法: 一時的にWindows Defenderファイアウォールを無効にしてVPN接続を試します。
「設定」アプリを開き、「プライバシーとセキュリティ」から「Windowsセキュリティ」を選択、「ファイアウォールとネットワーク保護」に進み、利用中のネットワークプロファイルを一時的にオフにします。
サードパーティ製セキュリティソフトを利用している場合は、一時的に機能を停止するか、VPN関連の通信を許可するルールを追加します。
問題が解決した場合、ファイアウォールの設定を見直し、必要なポートやプログラムを許可するように設定を調整してください。

ネットワークアダプターのドライバーが古い

原因: ネットワークアダプターのドライバーが古い、または破損していると、VPN接続に問題が発生することがあります。
対処法: デバイスマネージャーからネットワークアダプターのドライバーを更新します。
Windowsの検索ボックスに「デバイスマネージャー」と入力し、アプリを開きます。
「ネットワークアダプター」を展開し、利用しているアダプターを右クリックして「ドライバーの更新」を選択します。
インターネット経由で最新のドライバーを検索するか、メーカーのウェブサイトから最新ドライバーをダウンロードして手動でインストールします。

Windows 11とWindows 10のVPN設定画面の比較

項目	Windows 11	Windows 10
VPN設定画面へのアクセス	「設定」アプリ > 「ネットワークとインターネット」 > 「VPN」	「設定」アプリ > 「ネットワークとインターネット」 > 「VPN」
VPNプロファイルの追加	「VPNを追加」ボタンをクリックし、詳細設定を入力	「VPN接続を追加します」ボタンをクリックし、詳細設定を入力
UIデザイン	よりモダンでシンプルなデザインで、設定項目が整理されている	やや古いデザインだが、基本的な設定項目はWindows 11と共通
L2TP/IPsec事前共有キーの設定	VPNプロファイル作成時に「サインイン情報の種類」で「事前共有キー」を選択し入力	VPNプロファイル作成時に「サインイン情報の種類」で「事前共有キー」を選択し入力
レジストリ編集の必要性	エラー789の場合、本記事で説明したレジストリ編集はWindows 11でも必要	エラー789の場合、本記事で説明したレジストリ編集はWindows 10でも必要

Windows 11とWindows 10では、VPN設定画面へのアクセス方法や基本的な設定手順に大きな違いはありません。

UIデザインには若干の変更がありますが、L2TP/IPsecの事前共有キーの設定方法も共通しています。

エラーコード789の解決に必要となるレジストリ編集は、両方のOSで同様の手順で実施できます。

この記事で解説したレジストリ修正手順を実行することで、L2TP/IPsec VPN接続時のエラーコード789を解消し、業務に必要なVPN接続を確立できるようになります。

レジストリのバックアップを必ず行い、慎重に作業を進めてください。

もし問題が解決しない場合は、ファイアウォールの設定やVPNサーバー側の設定も確認し、最適なVPN環境を構築しましょう。