LeJEPA · Topic 1

Hermite 多项式 与 OU 过程的 ρᵈ 衰减

拖动相关性 ρ、切换不同阶数的 Hermite 成分,实时观察:为什么 LeJEPA 的对齐损失会只青睐线性成分——这正是「线性可识别性」定理 1 的核心直觉。

相关性 ρ(OU 过程)
0.70 ∈ (0, 1)
ρ 越大,正样本对 (z, z′) 越相似。第 d 阶成分的时间相关性为 ρᵈ,高阶随 d 指数衰减。
显示哪些 Hermite 成分
演示
自动模式下 ρ 在 0.05↔0.97 之间往返,观察条形图的相对高度如何变化。

前几阶 Hermite 多项式 Heₙ(z)

底纹 = 高斯密度 N(0,1),概率质量集中在 [-3, 3]
各阶成分对正样本对的相关性 = ρᵈ · (n! 归一化后)

实时解读

E[Heₙ(z′)·Heₙ(z)]
  = ρn · n!

谱权重的含义

w₁ = 1 → 100% 线性(想要的)
w_d>0 (d≥2) → 残留非线性
来源:JEPA/math/01_hermite_polynomials.md