LeJEPA · Topic 5 · 定理 3
近似可识别性界 优雅降级
当对齐间隙 δ 与白化误差 ε 不为零时,恢复误差被界 D + (ε+D)² 控制(D = δ/(2ρ(1−ρ)))。拖动三个参数,观察 δ 是主因、ε 仅二阶。
归一化量 D = δ / (2ρ(1−ρ))
谱间隙 2ρ(1−ρ)0.18
D0.10
ρ 越大,2ρ(1−ρ) 越小,D 对 δ 越敏感。
误差上界
0.110
E[‖h(z)−Qz‖²] ≤ D + (ε+D)²
误差界的构成:D(一阶)+ (ε+D)²(二阶)
堆叠条 = 界的两部分;右侧曲面 = 界随 δ 的增长
定理 3 的界
E[‖h(z)−Qz‖²]
≤ D + (ε+D)²
D = δ / (2ρ(1−ρ))
D:来自对齐间隙 δ(线性主导项)
(ε+D)²:白化与 Procrustes 误差(二阶)
来源:JEPA/math/05_approximate_identifiability.md