LeJEPA · Topic 2

OU 过程 与 Mehler 公式

正样本对 (z, z′) 由 OU 过程 z′ = ρz + √(1−ρ²)·η 生成。拖动 ρ 观察散点相关性与 ρᵈ 衰减——这正是「高阶成分被更强惩罚」的来源。

相关性 ρ
0.90 ∈ (0,1)
物理图像:弹簧拴住的粒子(均值回归 ρz)+ 随机扰动(√(1−ρ²)η)。ρ→1 视图几乎相同,ρ→0 趋于独立。
平稳性 & 相关性(实时统计)
样本数 N1500
Var(z)1.00
Var(z′)1.00
Cov(z,z′)0.90
无论 ρ 多少,z 与 z′ 都保持单位方差(平稳性);协方差 ≈ ρ。
演示

正样本对联合散点 (z, z′)

每点一个样本;越靠对角线 = 越相关
第 d 阶 Hermite 成分的相关性 = ρᵈ(线性 d=1 最大)

Mehler 公式

E[h(z′)·h(z)]
 = Σd≥1 wd·ρdρ

对齐损失下界

Lalign = 2n − 2Σ corri
  ≥ 2(1−ρ)n
来源:JEPA/math/02_ou_process_mehler.md