Learning the coupled dynamics of global climate modes

本文基于Learning the coupled dynamics of global climate modes，主要对文献中使用到的思想方法进行总结。

摘要

气候模态

反复出现的海气耦合模式所构成的网络系统，影响全球极端天气事件的形成

现有方法：将模态孤立处理或简化为成对关系 目标：将相互关联的系统进行整体预测 方法：UniCM全球气候模态预测模型 结果：将气候模态视为互联系统来学习其耦合动力学，能够释放涌现性的可预测能力，为统一预测及数据驱动的洞察奠定基础，从而深化我们对全球海洋-大气动力学的理解。

背景

季节到年际尺度大规模气候变率主要由海气耦合模式（即气候模态）组成的网络驱动，这些模态并非孤立演变，它们构成了一个动态关联的全球系统，通过复杂的遥相关在不同洋盆间交换能量，最终决定着全球季风、干旱和洪水的发生时机与强度。

• 太平洋厄尔尼诺-南方涛动（ENSO）
• 印度洋偶极子（IOD）
• 北太平洋经向模态（NPMM）
• 南太平洋经向模态（SPMM）
• 印度洋海盆模态（IOB）
• 南印度洋偶极子（SIOD）
• 热带北大西洋（TNA）变率

以往最先进模型：扩展非线性再充电振子模型（XRO）也会受到限制，尝试利用物理引导的深度回声状态网络（DESN）扩展ENSO可预测性，问题：多个气候模式作为相互关联的跨尺度系统之耦合动力学的更广泛挑战未根本解决 解决方案： 气候模态是从海表温度等物理场细粒度动力学中涌现出来的大尺度结构->UniCM用于全球气候模态预测的深度学习框架。 原则：候系统的可预测性是这些多尺度耦合的涌现属性。 通过（1）细粒度物理层与大尺度气候模式之间局部到全局涌现过程；（2）气候模态之间的非线性反馈。——双视图Transformer：

• Globalformer：对海表温度和表面风应力等细粒度物理场时空演化进行建模，捕捉大尺度气候模态涌现的自下而上过程。
• Modeformer：对气候模态的集体时间动力学和非线性相关作用进行抽象，形成耦合气候状态的紧凑系统级表征。通过跨视图耦合机制注入回物理场，调控Globalformer的学习与预测。 优势：>XRO、DESN(ENSO)、IOD(>7month)

预测全球气候的统一模型

多视角架构学习多尺度耦合动力学

多视角Transformer架构：

• Globalformer模拟物理场时空演化：输入海表温度(T)、层深度（hT）以及300米深度上层海洋温度（T300）——归一化、插值$5°\times 5°$网格编码（①与目标尺度匹配；②低通滤波一致天气尺度噪声）
• Modeformer模拟气候模式指数时间演化：ENSO、IOD、TNA、NPMM、SPMM、IOB、SIOD——海表温度场->3月滑动平均平滑处理

耦合感知机制

• 第一层耦合：在Modeformer中学习
• 第二层耦合：跨视角机制将高层系统状态与底层物理现实相连

结果

大致介绍模型优势部分，略过

讨论

基于观测再分析数据对预训练模型进行微调并未带来显著的性能提升——模型具有稳健的“从模拟到真实”的泛化能力。 可解释模型：为ESNO等事件预测提供可解释工具 缺陷：及其依赖模态，模态的可预测性本质上受到严格的季节性相位锁定和短去相关时间尺度的限制 后续方向：

• 整合跨时间尺度的过程——捕捉控制背景气候的跨时间尺度相互作用
• 基于注意力的见解与符号回归相结合——形式化动力学方程
• 应用UniCM预测人为变化下的气候变率

方法

数据

CMIP6中经过筛选的历史气候模拟数据进行训练+多个再分析数据集进行评估（也可以考虑用于Argo相关） 样本生成：步长为1个月的滑动窗口，每个样本包含一个12个月的输入序列和一个24个月的预测目标期

输入与预处理

历史气候模拟与再分析数据集输入数据流进行训练 物理气候场：五个物理变量，每个由张量$X^{(c)}$表示，预处理计算其月异常值，对每个日历月计算气候态均值$\mu$与标准差$\sigma$，进行标准化：

$$X_t^{(c)}=\frac{X_t^{(c)}-{\mu }_{\mathrm{month}(t)}^{(c)}}{{\sigma }_{\mathrm{month}(t)}^{(c)}},c\in \{1,...,5\}.$$

得到的场插值到覆盖全球海洋（从40°S到40°N）的规则5°×5°网格上。，划分为$p\times p$的空间块，进行张量转换：$(T_h,H,W,5)$->$(T_h,N_p,5)$的标记序列，$T_h$是历史时间步数，块数量$N_p=H/p\times W/p$，投影到$R^D$作为Globalformer的输入。 气候模态指数：依据其科学定义计算，采用3个月滑动平均平滑处理滤除高频噪声，得到$(T_h,M),M=7$作为Modeformer模型的输入。 统一的多视角Transformer架构：每一层内将空间和时间注意力解耦以降低复杂度 Globalformer分支：学习物理其后长演变过程。编码器接受$(T_h,N_p,D)$（即物理气候场）的补丁场数据序列。 每一层中：对每个空间补丁的时间序列独立应用时间注意力机制，随后对每个时间步图块进行空间注意力：

$$\begin{array}{rl}{Z}_{t,n}^{(t)}& ={\mathrm{MSA}}_{\mathrm{time}}(Z_{1:T_{\mathrm{h}},n}),\\ Z_{t,n}^{(s)}& ={\mathrm{MSA}}_{\mathrm{space}}\left({\mathrm{Z}}_{\mathrm{t},1:{\mathrm{N}}_{\mathrm{p}}}^{(t)}\right),\end{array}$$

并通过解码器自回归生成对未来物理场的预测 Modeformer分支：处理形状为(Th, M, D)的气候模式索引序列。空间注意力机制作用于不同的气候模式而非地理区域。 每个Transformer层交替进行时序和模式自注意力：

$$\begin{array}{r}{H}_{t,m}^{(t)}={\mathrm{MSA}}_{\mathrm{time}}(H_{1:T_h,m}),\\ H_{t,m}^{(s)}={\mathrm{MSA}}_{\mathrm{mode}}\left({\mathrm{H}}_{\mathrm{t},1:\mathrm{M}}^{(\mathrm{t})}\right),\end{array}$$

$MS{A}_{time}$对每个模式独立建模其时间演化，而$MS{A}_{mode}$捕捉模式间的动态相互依赖与耦合。输出同时作为Globalformer的高层级引导信号。 编码器-解码器架构：Modeformer的编码器通过堆叠的时空Transformer层处理历史模态索引序列。 后续具体架构之类的有点没懂，结合代码等进行理解。