feat(test): VPN 黑盒/白盒测试工具 + 索引页 + 链路时序图与阶段拆解

- vpn_test.py(黑盒):站点矩阵连通/延迟(TLS 握手口径)/吞吐,落 tests/vpn/runs/
  并重建 index.html 索引(内嵌 meta、file:// 直开);索引含 cara→LA→Google 时序图
  + 步骤表
- vpn_whitebox.py(白盒):双 IP-echo 判国内是否被隧道 + 五段拆解;经控制面
  /v1/diag/egress 取出海段,自动算「接入段=整轮−出海段」,报告出「阶段拆解」表
  (对应时序图 橙=接入 / 绿=出海)
- tests/vpn/: runs 与生成的 index.html 为本地工件(.gitignore),README 说明用法
- docs/: vpn-testing-research.md(调研)+ vpn-test-plan.md(黑盒/白盒方案)

Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>
This commit is contained in:
wangjia
2026-06-22 14:12:46 +08:00
parent bc890974c0
commit a19406d041
6 changed files with 1148 additions and 0 deletions
+172
View File
@@ -0,0 +1,172 @@
# Pangolin VPN 测试方案 + 报告
> 两个方向:**黑盒**(用户视角,只看输入→输出)+ **白盒**(利用我们对客户端/节点/sing-box
> 的完全可见性,拆链路、看协议、做稳定性)。日期 2026-06-22。配套:`scripts/vpn_test.py`、
> 调研见 `docs/vpn-testing-research.md`。
---
## 一、测试方向总览
| | 黑盒 | 白盒 |
|---|---|---|
| 视角 | 用户视角,不看内部 | 工程视角,看内部链路/协议/状态 |
| 目的 | 能不能用、快不快(可用性 + 体验) | 慢在哪、走什么协议、稳不稳(定位 + 稳定性) |
| 数据源 | `curl` / `ping` 黑盒探测 | sing-box Clash API、libbox 命令服务、curl 五段拆解、节点侧探测、长跑监控 |
| 工具 | `scripts/vpn_test.py`(已实现) | 待实现:`scripts/vpn_whitebox.sh` + 稳定性长跑 |
---
## 二、黑盒测试方案
**对象:国内外常用站点矩阵**,开/关分流各测一遍,多时段(白天 / 晚高峰 20:0024:00)。
### 指标
- **连通性**:HTTP 状态码(能否访问)
- **延迟**:**TLS 握手时间(`curl time_appconnect`)= 统一延迟口径**;TTFB(`time_starttransfer`)作参考。见下方「延迟口径定义」。
- **下载速度**:固定大小下载 `speed_download`
- **上传速度**:POST 固定大小 `speed_upload`(待补)
- **DNS 解析时间**:`curl time_namelookup`
- **出口 IP**:是否 = 节点(走隧道)/ 本地(直连)
### 延迟口径定义(统一标准 ⚠️ 必读)
> **本项目所有"延迟"一律指 TLS 握手时间(`time_appconnect`);TTFB 仅作参考。
> 严禁用 `ping` 或 `tcp_connect` 当延迟** —— 经 TUN 代理时它们被隧道本地协议栈
> 就地应答(几 ms 的假象),不反映真实到目标的 RTT。
curl 各时间点都是**从请求开始累计**(非各段独立):
```
开始 → DNS解析 → TCP连接 → [TLS握手完成] → 发请求 → [收到首字节=TTFB] → 传输完 → 总时长
namelookup connect time_appconnect time_starttransfer time_total
```
| | **TLS 握手(`time_appconnect`)= 延迟口径** | **TTFB(`time_starttransfer`)= 参考** |
|---|---|---|
| 测到哪 | TLS/REALITY 握手协商**完成** | 收到响应的**第一个字节** |
| 含义 | TCP 连接 + TLS 协商往返;握手时服务器只做加密协商、**不碰业务逻辑** → **纯网络链路往返**(client→隧道→节点→目标 的 RTT × 握手轮数) | TLS 握手 + 发请求 + **目标服务器后端处理** + 回首字节 |
| 比对方多 | — | 比 TLS 握手多 **≈1 个 RTT(请求-响应)+ 目标站后端处理时间** |
| 受谁影响 | 只受**网络链路**影响 → 跨站可比、稳定 | 网络 **+ 目标站后端快慢/CDN** → 含站点自身因素 |
| 为何选它 | 不被目标后端污染,横向比较公平,衡量"我们隧道有多快"最干净 | 反映"打开体感",但混入站点因素,不当基准 |
**实测印证**(节点在洛杉矶):`google` TLS握手 424ms、TTFB 640ms,差 ~216ms ≈ 一个
中国→LA→google 往返(generate_204 后端处理≈0)。换 github 这类后端重的站,TTFB 会被
明显拉大,而 TLS 握手仍稳定反映链路。
**判定参考**(单程经隧道到国外):TLS 握手 <500ms 优 / 5001000ms 偏高 / >1000ms 差。
**真实到节点的直连 RTT**:须在 **VPN 全关后 `ping` 节点**测(开着 TUN ping 是本地假象)。
> 注:TLS 1.3 握手 1-RTT、TLS 1.2 为 2-RTT,故 TLS 握手 ≈ 链路 RTT × 握手轮数;同隧道内横向对比目标站公平。
### 站点矩阵
- **国外(应经隧道)**:google、youtube、github、cloudflare(speed.cloudflare.com)、netflix、openai
- **国内(开分流应直连)**:baidu、qq、bilibili、aliyun/清华镜像、taobao
- **测速点**:Cloudflare(国外)、清华/阿里镜像(国内,用 `-r 0-N` range 取固定大小)
### 方法
-**裸连基线**(不开 VPN 跑一遍存档)→ 再开 VPN 对比衰减。
- 每站取 中位数(多次),记录时段。
- 一条命令产报告:`vpn_test.py`(现覆盖连通/出口/DNS/可达/延迟/下载/IPv6;**待补:上传、ping TTL、站点矩阵扩展、多时段 cron**)。
---
## 三、白盒测试方案(重点,更细)
我们同时掌握**客户端(libbox 命令服务)+ 节点(sing-box Clash API :19090/:19091)+ 配置**,
可做黑盒做不到的链路拆解。
### 3.1 链路五段拆解(每个请求耗时花在哪)
`curl -w` 拆解一次请求的五个阶段,定位瓶颈在接入段还是出海段:
| 阶段 | curl 字段 | 含义 |
|---|---|---|
| DNS 解析 | `time_namelookup` | 域名→IP |
| TCP 连接 | `time_connect` | 到隧道/目标的 TCP 握手 |
| TLS 握手 | `time_appconnect` | TLS/REALITY 握手完成 |
| 首字节 TTFB | `time_starttransfer` | 服务器开始回数据(含出海往返) |
| 总时长 | `time_total` | 整体 |
→ TTFB 高 = 出海段慢;connect 高 = 接入段/节点慢;namelookup 高 = DNS 慢。
### 3.2 协议与出站选择
- 当前激活出站:`reality-out`(VLESS/REALITY,TCP 443)还是 `hy2-out`(Hysteria2,UDP 443)。
- `urltest`(auto)各成员探测延迟(决定选谁)。
- **数据源**:sing-box Clash API `GET /proxies`(看 `auto` 组的 `now` 与各成员 `history` 延迟);
或客户端 libbox 命令服务的 group/outbound 状态。
### 3.3 分段 RTT(定位瓶颈)
- **接入段**:客户端 → 节点 REALITY 端口 TCP RTT(`curl time_connect``节点:443`)。
- **出海段**:在**节点上**直接 `ping`/`curl` 目标站(节点 → 目标 RTT)。
- 对比:接入段快 + 出海段慢 → 节点出海链路是瓶颈;反之亦然。
### 3.4 流量与连接(实时内部状态)
- **Clash API `GET /connections`**:活跃连接列表,每连接的 目标 / 上下行字节 / 走哪个出站 / 命中哪条规则 / 建连时长 → 看分流是否如预期(国内直连、国外走代理)。
- **Clash API `GET /traffic`(SSE)**:实时上下行速率。
- **客户端 libbox**:`writeConnectionEvents` / `writeGroups` / 流量统计(stats EventChannel)。
### 3.5 sing-box 内部决策日志(debug)
- 路由命中:`router: match ... => route(outbound)` → 验证分流规则。
- DNS:`dns: exchange/exchanged ...` → 验证 hijack-dns + 解析路径。
- 连接生命周期:建连/关闭/错误。
- **方法**:配置 `log.level=debug` + `log.output` 落盘读(排障期已用过)。
### 3.6 路径 MTU / 分片
- `ping -D -s <size>` 二分探测路径 MTU,评估 TUN `mtu 9000` 是否导致分片/卡顿
(调研:运营商对大包敏感,业界常 clamp 到 1350)。
### 3.7 节点侧资源(瓶颈定位)
- 节点 CPU/内存/带宽(单核 512MB 是硬约束)、sing-box 进程占用、网卡流量。
- agent / 控制面健康。
### 3.8 稳定性测试(白盒重点)
- **长跑**:cron 每 15 分钟探测(出口 IP + 可达 + 延迟 + 丢包),持续数小时~数天,出趋势曲线。
- **掉线 / 重连**:监测 `NEVPNStatus` 变化,记掉线次数、自动重连耗时。
- **Kill switch**:强杀扩展进程 / 断节点,验证 `strict_route` 把流量掐断(不裸奔),恢复后能重连。
- **GFW 存活**:多日连续可达性;监测**三元组封锁特征**(突然全断 + 120–180s 后恢复);
REALITY 端口被动探测(用普通 TLS 客户端连 :443,应表现得像伪装站 www.apple.com)。
- **热重载**:节点 agent `SIGHUP` 重载 sing-box 后,客户端是否断流 / 平滑。
- **协议切换**:reality-out 不可用时是否切到 hy2-out(urltest 容灾)。
---
## 四、当前测试报告(2026-06-22,初轮)
### 4.1 黑盒(cara,macOS 15.3.2 Intel,白天)
`scripts/vpn_test.py` 全量:**15 PASS / 0 WARN / 0 FAIL**
- 连通性:扩展 `activated enabled`、tun `172.19.0.1`
- 出口 IP:`103.119.13.48`(= 节点,确实走隧道)✅
- DNS:github/google 解析+连通正常 ✅(服务端 `hijack-dns` 已生效)
- 国外可达:google/youtube/github/gstatic HTTP 200/204 ✅
- 国内可达:baidu/qq ✅
- 延迟:**真实 RTT 看 TLS 握手 / TTFB**。实测国外 TLS 握手 **~420490ms**、TTFB ~600715ms
(节点在洛杉矶,中国→LA→目标多次往返,符合预期)。
- IPv6:无泄漏 ✅
> ⚠️ **延迟测量教训(重要)**:经 TUN 代理时,`ping` 和 `curl time_connect` 会被隧道的
> 本地协议栈**就地应答**(0.3ms / 2-4ms 的假象),**不反映真实到目标的 RTT**。初轮误把
> `time_connect` 当延迟(2-4ms),实为本地值。真实延迟必须看 **TLS 握手(`time_appconnect`)**
> 或 **TTFB(`time_starttransfer`)**,或在 **VPN 全关后 ping 节点**测直连 RTT。`vpn_test.py`
> 已据此修正。
### 4.2 吞吐对比(关键)
| 路径 | 速度 | 说明 |
|---|---|---|
| **国外(经隧道)** Cloudflare 10MB | **~1017 Mbps**(多次波动:7.66 / 10.6 / 17.4) | 走 REALITY→节点→出海 |
| **国内(直连)** 清华镜像 10MB | **74.28 Mbps** | geoip-cn 命中 → 直连,不经隧道 |
| 国内 阿里云镜像 | 未测到(URL 失效) | 待换有效测速 URL |
**结论:**
1. **分流生效**:国内直连(74 Mbps)远快于国外经隧道(~10-17),说明 geoip-cn 直连正常。
2. **瓶颈在出海段**:国外吞吐受限于隧道——单核 512MB 联调节点 + 出海带宽 + 可能晚高峰。不是客户端/隧道软件问题。
3. **波动大**(7.66→17.4):需按调研文档**多时段、多次取中位数**,单点不可靠。
### 4.3 待补
- 黑盒:上传速度、ping TTL、站点矩阵扩展、**晚高峰复测**、裸连基线对比。
- 白盒:Clash API 拉连接/出站/urltest 延迟、五段拆解、分段 RTT(接入 vs 出海)、稳定性长跑、Kill switch、GFW 存活。
---
## 五、工具落地计划
1. **扩展 `scripts/vpn_test.py`(黑盒)**:加 上传测速 / ping TTL / 站点矩阵 / `--baseline` 基线 / 多时段 cron。
2. **新增 `scripts/vpn_whitebox.sh`(白盒)**:读节点 Clash API(连接/出站/延迟)+ curl 五段拆解 + 接入/出海分段 RTT + 路径 MTU。
3. **新增稳定性长跑**:cron 周期探测落 CSV,出趋势;Kill switch / 重连 / GFW 存活脚本。
+124
View File
@@ -0,0 +1,124 @@
# VPN 测试调研(测什么 / 怎么测 / Pangolin 测试工具设计)
> 目的:在动手写测试工具前,先搞清楚 VPN 该测哪些维度、行业与中国/GFW 场景怎么测,
> 再据此设计 Pangolin 自己的测试工具。日期 2026-06-22。
---
## TL;DR
VPN 测试 = **连得上 + 连得对 + 连得快 + 连得稳 + 不泄漏 + (中国场景)穿得过且不被封**
六大类:**连通性 / 正确性(出口·DNS·分流)/ 泄漏 / 性能(延迟·吞吐·丢包)/ 稳定性(掉线·重连·killswitch)/ 抗封锁(GFW)**。
Pangolin 是面向大陆、REALITY+sing-box、macOS 自研客户端,**抗封锁 + 国内分流正确性 + 晚高峰吞吐**是和通用评测最不同、最该重点测的。
---
## 1. 行业通用 VPN 评测怎么测
主流评测站(Security.org、Cloudwards、PCMag 等)的共识方法论:
| 维度 | 测什么 | 怎么测 / 工具 | 通过标准 |
|---|---|---|---|
| **速度/吞吐** | 下载、上传、相对基线的衰减 | Ookla/iperf,**多服务器距离**(本地/美/英/亚)、**多时段**(早/晚高峰)、先测裸连基线再测开 VPN | 近端衰减 <1020% 算优;远端单独看 |
| **延迟** | RTT(ping)、首包延迟 | ping / curl `time_connect` | 越低越好;近端 +几十 ms 可接受 |
| **DNS 正确性** | 域名能否解析、解析延迟 | `dig`/`nslookup`、curl `time_namelookup` | 能解析、不超时 |
| **IP 泄漏** | 真实 IP 是否暴露(IPv4/IPv6) | 访问 ipify/ifconfig.me/ipleak.net,对比开关 VPN 出口 | 出口必须是节点 IP,**不能是本机真实 IP** |
| **DNS 泄漏** | DNS 查询是否走了本地 ISP | dnsleaktest.com、Wireshark 抓 53 端口去向 | 查询只经隧道/指定 DNS |
| **WebRTC 泄漏** | 浏览器 WebRTC 暴露真实 IP | browserleaks.com/webrtc | 不暴露 |
| **IPv6 泄漏** | IPv6 绕过隧道 | test-ipv6.com | 无 v6 泄漏(或 v6 也走隧道) |
| **Kill Switch** | 隧道意外断开时是否阻断流量 | 强杀扩展/断网,看是否还能裸连出网 | 断开瞬间流量被掐 |
| **流媒体/可达性** | 能否访问目标站点 | 实访 Netflix/YouTube/Google 等 | 能正常打开/播放 |
| **稳定性** | 长时连接掉线率、重连 | 长跑数小时,周期性请求 | 不频繁掉线;掉了能自动重连 |
| **抓包审计** | 是否有明文/异常外联 | Wireshark/tcpdump | 无明文、无意外外联 |
要点:**先测基线(不开 VPN)再测开 VPN 做对比**;**多次/多时段**取分布而非单点。
---
## 2. 中国 / GFW 场景特有的测法(Pangolin 重点)
通用评测不覆盖、但对面向大陆的 VPN 是生死线:
- **抗 GFW 封锁(核心)**
- GFW 一旦判定某连接是代理,会对 **(client IP, server IP, server port) 三元组封 120180 秒**(期间丢所有包)。测试:连一段时间后看是否突然全断、过几分钟又能连——这是被三元组封的特征。
- **主动探测(active probing)**:GFW 会主动连你的端口探测。REALITY 的防御是把探测流量转发给真实伪装站(如 apple.com)。测试:用普通 TLS 客户端(curl/openssl)连节点的 REALITY 端口,应表现得**像真实伪装站**(返回真站证书/内容),而不是暴露代理特征。
- **全加密流量检测**:GFW 对"高熵全加密"流量有启发式封锁。REALITY/VLESS 借真证书规避。测试:长期存活率(连续几天能否一直连)。
- **晚高峰吞吐**:国内出海带宽晚高峰(20:00–24:00)严重劣化。**必须按时段测吞吐**(白天 vs 晚高峰),单测白天没意义。
- **MTU / 分片**:运营商(尤其移动 5G)对大包/分片敏感,会借此识别。业界经验 **MTU clamp 到 1350(IPv6 1280)** 降低被识别和卡顿。测试:大包传输是否卡顿、丢包率。⚠️ 我们 TUN 配的是 `mtu 9000`(sing-box 默认),需评估对 REALITY-over-TCP 的实际影响。
- **国内分流正确性(#5)**:`geoip-cn`/`geosite-cn` 命中应**直连**(不走隧道),国外才走隧道。测试:访问国内站(如 baidu)出口应是**本地 IP**,国外站出口是**节点 IP**——分流错了要么国内变慢、要么国外漏走直连。
- **协议可达性矩阵**:REALITY(TCP 443)、Hysteria2(UDP 443)分别在不同网络(电信/联通/移动、家宽/5G)下的可达性。
参考:GFW 对全加密/QUIC 的检测与封锁机制见 gfw.report 的 USENIX 论文。
---
## 3. Pangolin 该测什么(结合架构分层)
架构:macOS 客户端(NEPacketTunnelProvider 系统扩展 + 内嵌 libbox/sing-box)→ REALITY(TCP)/Hy2(UDP)→ 节点 → 出海。控制面 :8080 下发配置。
### A. 连通性(能不能起来)
- 系统扩展 `activated enabled`(`systemextensionsctl list`)。
- 隧道接口起来(utun + `172.19.0.1`)、NEVPNStatus = connected。
- 控制面可达(:8080)、REALITY 数据口可达(节点 endpoint 端口)。
- **首次连接耗时**(含批准)、**重连耗时**。
### B. 正确性(连得对)
- **出口 IP = 节点 IP**(`curl ipify`),证明真走隧道。
- **DNS 解析正常**(域名能开;`hijack-dns` 生效——这次的坑)。
- **国内分流**:国内站出口=本地、国外站出口=节点(开 smartRoute 时)。
-**IP/DNS/IPv6 泄漏**
### C. 性能(连得快)
- 延迟:到节点 RTT、隧道内到常见站 RTT。
- 吞吐:下载/上传速度,**白天 vs 晚高峰**,对比裸连基线。
- 丢包率、DNS 解析延迟。
### D. 稳定性(连得稳)
- 长跑掉线率、自动重连。
- Kill switch(`strict_route` 已开):强杀扩展后流量是否被掐。
- 节点 agent 热重载(SIGHUP)后客户端是否平滑。
### E. 抗封锁(穿得过)
- REALITY 端口被动探测表现(伪装站特征)。
- 长期存活率(多日)。
- 三元组封锁特征监测。
---
## 4. 测试工具设计建议
分三层,**先做能自动化、回报最高的"客户端侧黑盒探测脚本"**:
### 工具一:`scripts/vpn_test.py`(客户端侧黑盒,优先做)
在已连接的机器(本机/cara)上跑,一条命令出报告。覆盖 B+C 大部分:
- **出口 IP**:`curl ipify`,判定 = 节点 / = 本地 / 超时。
- **DNS**:解析 github/google + `time_namelookup`;开/关分流分别测国内外站出口。
- **可达性矩阵**:对一组目标(google/youtube/github/baidu…)测 HTTP 码 + 耗时。
- **延迟**:`curl time_connect` 到节点和若干站。
- **吞吐**:下载固定大小文件测 `speed_download`(用 cloudflare speed / 自建测速点)。
- **泄漏**:IPv6 出口、DNS 出口对比。
- 输出:表格 + 时间戳,可重复跑做时段对比。
- 复用本会话已验证的 `ssh cara '...'` 远程跑法。
### 工具二:节点侧探针(可选)
- REALITY 端口被动探测模拟(openssl 连 443 看是否像伪装站)。
- 三元组封锁监测(从国内 vantage 持续发包看存活)。
### 工具三:客户端内置自检(产品化,后续)
- app 内"诊断"按钮:跑连通/出口/DNS 自检,给用户一键报告(也利于支持排障)。
### 输出与判定
- 每项给 **PASS/WARN/FAIL** + 实测值 + 阈值。
- 支持 **基线对比**(先 `--baseline` 裸连存一份,再开 VPN 对比衰减)。
- 支持 **多时段**(cron 跑,产出趋势)。
---
## 5. 参考来源
- Security.org《Best VPN Services of 2026: 50+ VPNs Tested》— 速度/泄漏/流媒体方法论:https://www.security.org/vpn/best/
- Cloudwards《VPN Test: DNS Leaks, IP Address Leaks, Speed Issues》:https://www.cloudwards.net/vpn-test-guide/
- DoVPN《IP Leak Test Guide》:https://dovpn.com/ip-leak-test-guide/
- gfw.report — GFW 对全加密流量的检测(USENIX'23):https://gfw.report/publications/usenixsecurity23/en/
- gfw.report — GFW 对 QUIC/SNI 的封锁(USENIX'25):https://gfw.report/publications/usenixsecurity25/en/
- VLESS-REALITY 部署/绕过实践:https://greatfirewallguide.com/lab/vless-reality-vision