LeJEPA · Topic 5 · 定理 3

近似可识别性界 优雅降级

当对齐间隙 δ 与白化误差 ε 不为零时,恢复误差被界 D + (ε+D)² 控制(D = δ/(2ρ(1−ρ)))。拖动三个参数,观察 δ 是主因、ε 仅二阶。

误差参数
δ 对齐间隙0.018
ε 白化误差0.10
ρ 相关性0.90
δ=0 且 ε=0 时界=0,退化为定理1的精确恢复 h(z)=Qz。
归一化量 D = δ / (2ρ(1−ρ))
谱间隙 2ρ(1−ρ)0.18
D0.10
ρ 越大,2ρ(1−ρ) 越小,D 对 δ 越敏感。
误差上界
0.110
E[‖h(z)−Qz‖²] ≤ D + (ε+D)²

误差界的构成:D(一阶)+ (ε+D)²(二阶)

堆叠条 = 界的两部分;右侧曲面 = 界随 δ 的增长

定理 3 的界

E[‖h(z)−Qz‖²]
 ≤ D + (ε+D

D = δ / (2ρ(1−ρ))
D:来自对齐间隙 δ(线性主导项)
(ε+D)²:白化与 Procrustes 误差(二阶)
来源:JEPA/math/05_approximate_identifiability.md