从物理信息神经网络 (PINN) 到神经运算符，开发人员长期以来一直在寻求构建实时数字孪生的能力，这些孪生具有真实形式的渲染、强大的可视化以及通过流传输与现实世界中的物理系统同步实时传感器数据。Modulus 的最新版本让我们更接近这一现实。
Modulus 22.03是用于开发基于物理的机器学习模型的尖端框架，为开发人员提供了关键功能，例如新颖的物理信息和数据驱动的 AI 架构，以及与 Omniverse (OV) 平台的集成。
此版本通过 Modulus OV 扩展为工程师和研究人员构建精确的模拟和交互式可视化功能迈出了重要的一步。这种增强得到了新的人工智能架构的支持，该架构可以使用神经算子从数据中学习。在这个最新版本的 Modulus 中添加了其他增强功能，以促进对湍流等问题的精确建模，以及提高训练收敛性的功能。
1、全方位整合
通过 Omniverse 集成，训练和推理工作流基于 Python API，并且使用此扩展将生成的训练模型输出作为场景引入 Omniverse。
此扩展可以将模数训练模型的输出导入到常见场景的可视化管道中，例如流线和等值面。它还提供了一个界面，可以对设计变量和参数进行交互式探索，以推断新的系统行为。?通过利用 Omniverse 中的此扩展，你可以在数字孪生的上下文中可视化模拟行为。?
2、新的网络架构
Modulus 现在支持 FNO、AFNO PINO 和 DeepONet 架构等神经算子。这使得数据驱动的物理机器学习模型适用于有大量地面基准数据可供训练的用例。
- FNO：受物理启发的神经网络模型，它使用光谱空间中的全局卷积作为训练物理系统神经网络模型的归纳偏差。它结合了重要的空间和时间相关性，这些相关性强烈地支配着许多可以用偏微分方程 (PDE) 描述的物理系统的动力学。FNO 教程。
- AFNO： AFNO 转换器旨在对高分辨率输入进行操作，并有效捕获对 FNO 具有挑战性的远程空间依赖性。AFNO 提供连续全局卷积作为计算复杂的自注意力机制的替代方案。它基于对 FNO 的原则性修改，以提高表现力和鲁棒性。这些包括通道和令牌混合的稀疏化以及权重共享正则化。与算子学习的联系使 AFNO 变换器具有分辨率不变性，并利用大规模预训练来提高泛化能力。AFNO 教程。
- PINO： PINO 是 FNO 的明确物理信息版本。PINO 结合了操作学习和功能优化框架。在算子学习阶段，PINO 在参数 PDE 族的多个实例上学习解算子。在测试时优化阶段，PINO 为 PDE 的查询实例优化预训练的算子 ansatz。在此PINO 教程中了解更多信息。
- DeepONet： DeepONet 架构由两个子网络组成，一个用于对输入函数进行编码，另一个用于对位置进行编码，然后合并以计算输出。与全连接网络相比，DeepONets 通过使用归纳偏置来降低泛化误差。在此DeepONet 教程中了解更多信息。
Modulus 支持这些不同的架构，以使我们的用户生态系统能够选择适合其用例的正确方法。
3、更多关键改进
NVIDIA Modulus 现在 可 通过 NVIDIA 开发者专区免费下载。
- 两方程 (2-eqn.) 湍流模型
支持 2 方程湍流（ke 和 kw）模型，用于模拟完全发展的湍流。文档中包含使用墙壁功能的通道案例（1D 和 2D）的参考应用。其中展示了两种类型的墙功能（标准和 Launder-Spalding）。在这个2-eqn 教程中了解更多信息。
- 损失平衡的新算法
为了帮助提高收敛性， 引入了三种新的损失平衡算法，即 Grad Norm、Relative Loss Balancing with Random Lookback (ReLoBRaLo) 和 Soft Adapt。这些算法根据不同损失的相对训练率动态调整损失权重。
此外，还纳入了神经切线内核 (NTK) 分析。NTK 是一种神经网络分析工具，可以指示每个组件的收敛速度。它为不同损失项的权重提供了可解释的选择。对损失的均方误差进行分组可以动态计算 NTK。
- 支持新的优化器
Modulus 现在支持 30 多种优化器，包括内置的 PyTorch 优化器和 torch-optimizer 库中的优化器。它包括对 AdaHessian 的支持，这是一种二阶随机优化器，近似于 Hessian 对角线的指数移动平均值，用于梯度向量的自适应预处理。
