近年来,物理驱动深度学习方法非常热门,特别是在求解逆问题上有独特的优势。在该领域,很多研究者在不同数据集上已经提出了性能非常好的求解算法。但都在各自数据集和问题上进行测试比较,发展类似图像benchmark如CIFAR10等公开数据集,比较迫切。
现在,在AI求微分方程领域制作了一个PDEBench,该论文也是发表在了NeurIPS 2022。
为什么AI求解PDE如此热门
-
反问题计算上有比较大的优势。传统数值方法主要针对复杂问题的正计算,如已知边界条件、已知控制方程下的正计算,优势非常强。相比之下,在正计算问题上,深度学习方法逊色一些。但针对一些反问题,如已知一些测量数据和部分物理(方程中某些参数未知、边界条件未知),深度学习方法可以形成数据和物理双驱动的模型,比基于传统数值方法去做数据同化(data assimilation)效率更高。 -
需要做快速推断时,优势更明显。一方面,当面对一些数值问题,可以不需要熟悉数值方法背景(不必利用数值格式去推导求解),可以直接利用加物理损失的方法得到一个参考解;另一方面,当问题边界需要不停地换,或者很多源需要不停的变化的问题设定下,如果利用大量时间去训练一个网络,如利用lulu老师提出deeponet方法 [1](物理驱动的神经网络方法),在推断阶段就能实现快速预测。 -
高维问题上的潜在优势。神经网络确实能处理许多高维问题,但很难说神经网络方法在一些benchmark问题上已经完全超越了传统问题,还需要进一步讨论。
非常全面的AI偏微分方程基准
研究人员提出了一种名叫PDEBench的基准。PDEBench提供了当前现有的一些基准方法和未来的机器学方法,以及多个来自科学的难题数据集,包括二维和三维的波传播和湍流流动 。
此外,该PDEBench包括的所有数据集如下: 同时,PDEBench也提出了如下几个指标,用以更全面地对模型进行评估。 最后,PDEBench还包含了几种经典模型代码,并将它们作为评估其他模型的基准之一,包括现在比较热门的FNO、U-Net、PINN等。
该团队针对PDEBench的可扩展性进行了优化,可以在他们工作基础上加入更多的数据集、或是更多基准模型。
值得注意的是,团队也在PyTorch和JAX两种框架上运行几种预训练模型,发现JAX的速度大约是PyTorch的6倍。可见用JAX实现AI求解PDE在计算上存在较大优势。
参考链接
https://mp.weixin.qq.com/s/3WgMyJwMYKAxqb2M4mWGIw https://mp.weixin.qq.com/s/X4-OiRVxWJGFMN6h7M_upQ
|