题目:From PINNs to PIKANs: Recent Advances in Physics-Informed Machine Learning
论文地址:https://arxiv.org/pdf/2410.13228
代码地址:https://github.com/lululxvi/deepxde
• 引入了物理信息Kolmogorov-Arnold网络,基于Kolmogorov在1957年提出的表示模型,相比传统PINNs,PIKANs提供了有前景的替代方案,在某些问题上表现更优。
• 出XPINNs和cPINNs等域分解方法,支持并行计算,多保真度训练整合不同精度的数据提高预测准确性,软件工具开发推动了多个开源框架的发展。
本文采用系统性文献综述作为主要研究方法,通过全面梳理2017年至2024年间物理信息神经网络(PINNs)相关研究,从算法发展、理论分析、应用拓展三个维度构建分类框架,基于11000余篇引用文献的计量分析识别研究热点,结合作者团队在布朗大学应用数学与工程学院的原创性工作(特别是PIKANs架构的提出),对表示模型改进、优化算法创新、约束处理机制等关键技术进行实验验证与理论推导,最终形成涵盖生物医学、流体力学、地球物理等八大应用领域的方法论体系,并建立不确定性量化与计算框架的标准化评估体系。
物理信息机器学习训练框架示意图
本图系统阐释了物理信息机器学习(PIML)的闭环训练范式:以可微分表示模型 M(θ, x) 为状态近似器,通过自动微分精确计算时空导数,将控制方程、边界条件与观测数据统一转化为残差场;残差在损失函数中与物理定律及数据约束进行加权耦合,形成多目标优化问题;优化器依据该问题的梯度信息更新网络参数 θ,使表示解在迭代过程中同时满足物理一致性与数据匹配性,实现从部分信息到完整解的跨尺度重构。
物理信息神经网络与Kolmogorov-Arnold网络架构增强对比图
本图以层级化视角对比了PINN与PIKAN在表示模型增强方面的技术路径:左侧PINN通过输入变换与输出变换实现物理约束的硬编码,并借助权重归一化、自适应激活函数等感知机修正策略提升高阶导数精度;右侧PIKAN则基于Kolmogorov-Arnold定理,以可学习的单变量外函数Φ与内函数ϕ的复合结构替代传统线性加权,实现非线性逼近能力的阶跃,同时通过Chebyshev多项式等正交基展开保证高维谱逼近稳定性;两者通过残差连接与约束域映射共享信息,共同构建从输入空间到物理解空间的保结构同胚映射,实现物理定律与神经网络参数空间的深度耦合。
物理信息机器学习中的导数计算、定律嵌入与残差度量机制示意图
本图从计算实现角度系统刻画了PIML中“物理定律—数值残差—网络优化”三者间的耦合机制:在导数计算层面,通过链式法则驱动的自动微分获得精确高阶导数,同时兼容有限差分、蒙特卡洛等近似途径以应对分数阶、随机微分算子带来的计算瓶颈;在物理定律层面,以强形式残差r_e=F[u]−f与弱形式投影∫r_e v_j dΩ并存,支持对非维化、等价重构及多解同伦等方程变换的灵活嵌入,实现从经典整数阶PDE到分数阶FDE、随机SDE的统一表达,从而驱动网络参数在单一次反向传播中完成物理可行解的迭代逼近。
实验
该表格以编年史方式呈现了2017—2020年间物理信息神经网络从概念提出到理论成型的关键跃迁:2017年孪生arXiv论文首次确立“方程残差+数据拟合”的混合损失范式,将PINN定位为同时求解正逆非线性PDE的通用深度学习框架;2018年迅速向不确定性量化、分数阶微分算子及隐藏场推断三个维度拓展,引入权值归一化与贝叶斯推理以应对噪声与模型失配,标志着PINN由确定性求解器迈向概率建模工具;2019年方法学爆发式增长,多尺度特征嵌入、变分弱形式与算子学习(DeepONet)相继提出,既缓解高频信息丢失,又将网络输出由单点解升格为参数-解映射,为后续数字孪生奠定算子级基础,同期DeepXDE库的发布完成算法到工程平台的转化。