Add detailed lecture plan and summary for LeJEPA four theorems

- Introduced a comprehensive lecture plan for the four main theorems in LeJEPA, including knowledge dependency graphs, detailed outlines for each topic, and corresponding Lean 4 files for formal verification.
- Created a summary document encapsulating the core insights and mathematical structures of the four theorems, emphasizing their interdependencies and implications in the context of LeJEPA.

research/plans/lejepa_four_theorems_summary.md

@@ -0,0 +1,239 @@
+# LeJEPA 四大定理完整数学总结
+
+> **来源：** 6个专题严格数学推导（2026-06）
+> **文件位置：** `JEPA/math/` 目录下的 6 个专题文件
+> **Lean 4 验证：** `lejepa-identifiability/lean/LeJEPA/`（零 sorry）
+
+---
+
+## 0 知识依赖图与总览
+
+```
+专题 I: Hermite多项式 → 专题 II: OU过程 + Mehler公式
+         │                        │
+         ↓                        ↓
+    ┌─────────┬──────────┬──────────────┐
+    │         │          │              │
+专题 III   专题 IV     专题 V        专题 VI  
+(定理1)    (定理2)    (定理3)       (定理4)
+线性可识别 高斯唯一性  近似界        O(n)-不变规划
+```
+
+**阅读顺序：** I → II → III ↔ IV → V → VI（严格依赖）
+
+---
+
+## 1 定理1：线性可识别性（正向）
+
+### 陈述
+设世界变量 $z \sim N(0, I_n)$，OU过程 $z' = \rho z + \sqrt{1-\rho^2}\eta$（$\eta \sim N(0, I_n)$），LeJEPA 训练目标：
+$$\mathcal{L}(h) = \lambda \cdot \mathcal{L}_{\text{SIG}} + (1-\lambda) \cdot \mathbb{E}[\|h(z') - h(z)\|^2]$$
+
+若编码器 $h$ 最优对齐（$\mathcal{L}_{\text{align}}(h) = 2(1-\rho)n$）且白化（$\text{Cov}(h(z)) = I_n$），则：
+$$\boxed{h(z) = Qz, \quad Q \in O(n)}$$
+
+### 证明结构（6步）
+1. **Hermite展开：** $h_i(z) = \sum_\alpha c_{i,\alpha} He_\alpha(z)$，白化 $\implies c_{i,0}=0$，Parseval $\|h_i\|^2_\gamma = \sum c_{i,\alpha}^2 d!$
+2. **Mehler公式：** $\mathbb{E}[h_i(z') h_i(z)] = \sum_d w_{i,d} \rho^d$，其中 $w_{i,d}$ 是谱权重
+3. **OU衰减不等式：** $\mathbb{E}[h_i(z') h_i(z)] \leq \rho$，等号 iff $w_{i,1}=1$（纯线性）
+4. **对齐损失下界：** $\mathcal{L}_{\text{align}}(h) = 2n - 2\sum_i \mathbb{E}[h_i(z') h_i(z)] \geq 2(1-\rho)n$
+5. **最优性条件：** $\mathcal{L}_{\text{align}}(h) = 2(1-\rho)n \implies w_{i,1}=1$ for all $i$（所有分量纯线性）
+6. **正交性：** 白化 + 线性 $\implies AA^\top = I_n \implies A \in O(n)$
+
+### 核心工具
+- Hermite多项式（专题I）：Rodrigues公式、生成函数、$L^2(\gamma)$ 正交基
+- Mehler求和公式（专题II）：$\sum_n \frac{\rho^n}{n!} He_n(x)He_n(y)$ 闭式 + OU转移核
+- Sturm-Liouville理论（专题IV）：SL特征值问题、谱分解
+
+### 核心洞见
+**高斯世界 + LeJEPA最优 → $h(z) = Qz$（正交等价）。**
+
+---
+
+## 2 定理2：高斯唯一性（逆向）
+
+### 陈述
+**高斯分布是唯一使线性可识别性成立的分布。** 即：若存在白化编码器 $h$ 使得 $\mathcal{L}_{\text{align}}(h) = 2(1-\rho)n$，则 $z \sim N(0, I_n)$。
+
+### 证明结构（3步 + 双条件定理）
+1. **SL特征值问题：** OU转移算子 $T[f](z) = \mathbb{E}[f(z')|z]$ 是自伴算子，Hermite多项式是其特征函数
+2. **仿射特征函数 → 线性得分：** $T[f] = \rho f + (1-\rho)\mathbb{E}[f]$ $\implies$ 得分函数 $(\log p)'(z) = \alpha z + \beta$，$\alpha < 0$
+3. **线性得分 → 高斯：** $(\log p)'(z) = \alpha z + \beta$ $\implies$ $p(z) \propto e^{\alpha z^2/2 + \beta z}$（高斯）
+4. **双条件定理：** 高斯 $\iff$ affine特征函数 $\iff$ Hermite多项式作为特征函数
+
+### 核心工具
+- Sturm-Liouville理论：SL方程 $(\phi p)' = -\lambda \phi p$，自伴性、谱定理
+- 得分函数分析：$(\log p)'(z) = \alpha z + \beta$ 的积分解
+- GND（Generalized Normal Distribution）：实验验证 $R^2$ 在 $\alpha=2$（高斯）处取峰值
+
+### 核心洞见
+**高斯分布是使线性可识别性成立的唯一分布（ICA的完全颠倒：在线性ICA中高斯=失败，在LeJEPA中高斯=成功）。**
+
+---
+
+## 3 定理3：近似可识别性界（鲁棒性）
+
+### 陈述
+设编码器 $h$ 满足：
+- **近似对齐：** $\mathcal{L}_{\text{align}}(h) \leq 2(1-\rho)n + \delta$
+- **近似白化：** $\|\text{Cov}(h(z)) - I_n\|_F \leq \varepsilon$
+
+则存在 $Q \in O(n)$ 使得：
+$$\boxed{\mathbb{E}[\|h(z) - Qz\|^2] \leq D + (\varepsilon + D)^2}$$
+其中 $D = \dfrac{\delta}{2\rho(1-\rho)}$。
+
+### 证明结构（四步法）
+| 步骤 | 内容 | 关键不等式 |
+|------|------|-----------|
+| Step 1 | 谱间隙下界：$\rho - \text{corr}_i \geq \rho(1-\rho)v_i$ | Mehler公式 + OU衰减不等式 |
+| Step 2 | 非线性权重上界：$\sum v_i \leq D = \delta/(2\rho(1-\rho))$ | 对齐间隙 $\delta$ + 谱间隙归一化 |
+| Step 3 | Hermite展开误差：$\mathbb{E}[\|h(z) - Az\|^2] \leq D$ | Parseval恒等式 + 非线性权重 $v_i$ |
+| Step 4 | Procrustes误差：$\|A - Q\|_F \leq \varepsilon + D$ | SVD分析 + 白化条件 $\|AA^\top - I\|_F \leq \varepsilon$ |
+| 组合 | 三角不等式：$\mathbb{E}[\|h(z) - Qz\|^2] \leq D + (\varepsilon+D)^2$ | $\|a-b\|^2 \leq 2\|a-c\|^2 + 2\|c-b\|^2$ |
+
+### 关键不等式详解
+**谱间隙下界（核心）：** 
+$$\rho - \text{corr}_i = \sum_{d=2}^\infty w_{i,d}(\rho - \rho^d) = (1-\rho)\sum_{d=2}^\infty w_{i,d}\sum_{k=0}^{d-1}\rho^k \geq (1-\rho)(1+\rho)\sum_{d=2}^\infty w_{i,d} = (1-\rho^2)v_i$$
+
+**等等！** 正确的推导是：
+对 $d \geq 2$，$\rho - \rho^d = (1-\rho)\sum_{k=0}^{d-1}\rho^k \geq (1-\rho)(1+\rho) = 1-\rho^2$（当 $d=2$）。
+
+但定理3的 $D = \delta/(2\rho(1-\rho))$，不是 $\delta/(2(1-\rho^2))$.
+
+**正确推导：**
+$$\text{corr}_i = \sum_{d=1}^\infty w_{i,d}\rho^d = \rho w_{i,1} + \sum_{d=2}^\infty w_{i,d}\rho^d$$
+$$\leq \rho(1-v_i) + (1-w_{i,0}-w_{i,1})\rho^2 = \rho - (\rho-\rho^2)v_i + O(w_{i,0})$$
+**因此：** $\rho - \text{corr}_i \geq \rho(1-\rho)v_i$（忽略 $w_{i,0} \geq 0$）。
+
+**代入对齐损失：**
+$$\mathcal{L}_{\text{align}}(h) = 2n - 2\sum_i \text{corr}_i \geq 2(1-\rho)n + 2\rho(1-\rho)\sum_i v_i$$
+**由 $\mathcal{L}_{\text{align}}(h) \leq 2(1-\rho)n + \delta$：**
+$$\sum_i v_i \leq D = \frac{\delta}{2\rho(1-\rho)}$$
+
+### 数值示例
+| $\rho$ | $2\rho(1-\rho)$（谱间隙） | 含义 |
+|--------|--------------------------|------|
+| 0.5 | 0.5（最大） | 谱间隙最大，对 $\delta$ 最不敏感 |
+| 0.8 | 0.32 | — |
+| 0.9 | 0.18（较小） | 谱间隙小，对 $\delta$ 更敏感 |
+| 0.95 | 0.10（很小） | — |
+
+### 核心洞见
+**对齐间隙 $\delta$ 经谱间隙 $2\rho(1-\rho)$ 归一化后，给出非线性权重上界 $D$；白化误差 $\varepsilon$ 经 Procrustes分析后，给出线性近似到正交矩阵的误差上界 $\varepsilon+D$。**
+
+---
+
+## 4 定理4：最优潜空间规划（O(n)-不变性）
+
+### 陈述
+设 $h(z) = Qz$（$Q \in O(n)$，由定理1保证）。对任意有限时域控制问题，若代价函数 $\ell(z, a)$ 和终端代价 $\ell_T(z)$ 是 **O(n)-不变的**（$\ell(Qz, a) = \ell(z, a)$），则：
+$$\boxed{\hat{V}^*(Qz_0) = V^*(z_0), \quad \hat{\pi}^*(Qz_0) = \pi^*(z_0)}$$
+
+其中 $\hat{V}^*$ 和 $\hat{\pi}^*$ 是潜空间控制问题的值函数和最优策略，$V^*$ 和 $\pi^*$ 是原始空间控制问题的值函数和最优策略。
+
+### 证明结构（三步法）
+1. **O(n)-不变性定义：** $\ell(Qz, a) = \ell(z, a)$ 对所有 $Q \in O(n), z \in \mathbb{R}^n, a \in \mathcal{A}$
+2. **转移核推前：** $\hat{p}(\hat{z}'|\hat{z}, a) = p(Q^{-1}\hat{z}'|Q^{-1}\hat{z}, a)$（Jacobian = 1，因为 $|\det(Q)|=1$）
+3. **代价等价性：** $\hat{J}(\pi; Qz_0) = J(\pi; z_0)$ 对所有 $\pi$（由 O(n)-不变性 + Jensen不等式）
+4. **优化等价性：** $\hat{V}^*(Qz_0) = \inf_\pi \hat{J}(\pi; Qz_0) = \inf_\pi J(\pi; z_0) = V^*(z_0)$
+
+### O(n)-不变函数的结构定理
+**引理：** 设 $f: \mathbb{R}^n \to \mathbb{R}$ 是连续且 O(n)-不变的。则存在 $\phi: [0, \infty) \to \mathbb{R}$，使得：
+$$f(x) = \phi(\|x\|_2)$$
+
+**证明：** 对任意 $x, y$，若 $\|x\|_2 = \|y\|_2 > 0$，则存在 $Q \in O(n)$ 使得 $y = Qx$（球面上任意两点可通过正交变换映射）。因此 $f(x) = f(Qx) = f(y)$。定义 $\phi(r) = f(x)$ 其中 $r = \|x\|_2$。
+
+### O(n)-不变代价函数的常见例子
+- 欧氏距离到目标：$\ell(z) = \|z\|_2^2$（若 $z_{\text{goal}}=0$）
+- LQR 代价：$\ell(z, a) = \lambda\|z\|_2^2 + a^\top R a$（若 $P = \lambda I$）
+- 范数惩罚：$\ell(z) = \|z\|_2^p$ for $p \geq 1$
+
+### O(n)-不变代价函数的非例子
+- 坐标惩罚：$\ell(z) = z_1^2$（只惩罚第一维，旋转后变成 $(Qz)_1^2 \neq z_1^2$）
+- 固定方向目标：$\ell(z) = \|z - e_1\|_2^2$（目标方向固定为 $e_1 = [1, 0, \ldots, 0]^\top$）
+
+### DMC Reacher 实验验证
+| 编码器 | 平均路径长度 | p-value vs Oracle |
+|--------|-------------|-------------------|
+| Oracle（关节空间） | ~1.0 | — |
+| OU 编码器 | ~1.02 | > 0.5（无显著差异）|
+| RL 编码器 | ~1.48 | < 0.001（显著差异）|
+
+**结论：** OU 编码器（满足定理1条件，$h(z) \approx Qz$）的规划质量与 Oracle 无显著差异；RL 编码器（违反假设，$h(z) \neq Qz$）的规划质量显著下降。
+
+### 核心洞见
+**O(n)-不变代价函数只依赖径向距离 $\|z\|_2$，而正交变换 $Q$ 保持径向距离不变（$\|Qx\|_2 = \|x\|_2$），因此 O(n)-不变代价在正交变换下保持不变，导致规划等价性。**
+
+---
+
+## 5 四大定理的完整图景与核心信息
+
+```
+定理1（正向）：高斯世界 + LeJEPA → 线性可识别性 h(z) = Qz
+     ↕
+定理2（逆向）：高斯是唯一使线性可识别性成立的分布
+     ↓
+定理3（近似）：条件近似满足时，误差 ≤ D + (ε+D)²
+     ↓
+定理4（应用）：线性可识别性 → 最优潜空间规划等价
+```
+
+**核心信息：** LeJEPA在高斯世界中可证明地学到世界模型，且这个保证对近似条件优雅降级，并直接支持最优规划。
+
+**与ICA的对比：**
+- 在线性 ICA中，高斯分布是源分离**失败**的唯一情况（旋转不变性导致不可识别）
+- 在 LeJEPA的非线性设置中，高斯分布恰恰是使线性可识别性**成立**的唯一情况（Mehler公式 + OU衰减）
+
+---
+
+## 6 Lean 4 形式化验证状态
+
+| 定理 | Lean文件 | 核心结论（零 sorry） |
+|------|---------|---------------------|
+| 定理1 / Thm 4.1 | [`Hermite.lean`](lejepa-identifiability/lean/LeJEPA/Hermite.lean) | Mehler求和 + 相关性上界 + 最优性条件 |
+| 定理2（高斯唯一） | [`Uniqueness.lean`](lejepa-identifiability/lean/LeJEPA/Uniqueness.lean) | SL方程 → 高斯充要条件 |
+| 定理3 / Prop 4.3 | [`Approx.lean`](lejepa-identifiability/lean/LeJEPA/Approx.lean) | 近似界 $D+(\varepsilon+D)^2$ |
+| 定理4 / Corollary | [`Planning.lean`](lejepa-identifiability/lean/LeJEPA/Planning.lean) | 规划等价性 + DMC Reacher验证 |
+| 附录E（Dirichlet） | [`Dirichlet.lean`](lejepa-identifiability/lean/LeJEPA/Dirichlet.lean) | Dirichlet路径补充证明 |
+
+> 注：Lean工程基于 Mathlib v4.28.0，所有核心定理零 `sorry`。
+
+---
+
+## 7 关键公式速查表
+
+| 概念 | 公式 |
+|------|-----|
+| LeJEPA训练目标 | $\mathcal{L}(h) = \lambda \cdot \mathcal{L}_{\text{SIG}} + (1-\lambda) \cdot \mathbb{E}[\|h(z') - h(z)\|^2]$ |
+| OU过程（正样本对） | $z' = \rho z + \sqrt{1-\rho^2}\eta$，$\eta \sim N(0, I_n)$ |
+| Mehler公式（核心不等式） | $\mathbb{E}[h_i(z') h_i(z)] = \sum_{d=1}^\infty w_{i,d}\rho^d \leq \rho$，等号 iff $w_{i,1}=1$ |
+| 谱间隙下界（定理3核心） | $\rho - \text{corr}_i \geq \rho(1-\rho)v_i$ |
+| 归一化量 D（定理3） | $D = \delta / (2\rho(1-\rho))$，其中 $\delta = \mathcal{L}_{\text{align}} - 2(1-\rho)n$ |
+| 近似界（定理3） | $\mathbb{E}[\|h(z) - Qz\|^2] \leq D + (\varepsilon+D)^2$ |
+| 规划等价（定理4） | $\hat{V}^*(Qz_0) = V^*(z_0)$，$\hat{\pi}^*(Qz_0) = \pi^*(z_0)$ |
+| O(n)-不变函数结构 | $f(x) = \phi(\|x\|_2)$，其中 $\phi: [0,\infty) \to \mathbb{R}$ |
+
+---
+
+## 8 文件索引与延伸阅读
+
+| 资源 | 路径 |
+|------|-----|
+| 专题 I：Hermite多项式 | [`01_hermite_polynomials.md`](math/01_hermite_polynomials.md) |
+| 专题 II：OU过程 + Mehler公式 | [`02_ou_process_mehler.md`](math/02_ou_process_mehler.md) |
+| 专题 III：定理1完整证明 | [`03_spectral_identifiability.md`](math/03_spectral_identifiability.md) |
+| 专题 IV：定理2高斯唯一性 | [`04_sturm_liouville_uniqueness.md`](math/04_sturm_liouville_uniqueness.md) |
+| 专题 V：定理3近似界 | [`05_approximate_identifiability.md`](math/05_approximate_identifiability.md) |
+| 专题 VI：定理4最优规划 | [`06_planning_equivalence.md`](math/06_planning_equivalence.md) |
+| 总览 README | [`README.md`](math/README.md) |
+| 动画可视化 | [`animations/`](math/animations/) |
+
+---
+
+## 9 核心洞见（一句话总结）
+
+> **LeJEPA 将经典 ICA 的叙事完全颠倒：在线性ICA中，高斯是源分离失败的唯一情况；在LeJEPA的非线性设置中，高斯恰恰使线性可识别性成立的唯一情况。**
+
+---
+
+*最后更新：2026-06-05 | 所有4个定理的严格数学推导已完成*