通过协作蚁群优化和物理信息神经网络对偏微分方程进行稀疏识别

《Expert Systems with Applications》：Sparse identification of partial differential equations via collaborative ant colony optimization and physics-informed neural networks

PDE自动发现框架融合蚁群优化与物理信息神经网络，分两阶段处理高维候选库和噪声数据，实现结构搜索与系数估计的联合优化，提升模型可解释性和鲁棒性。

　　本文介绍了一种用于发现偏微分方程（PDE）的两阶段框架，该框架结合了蚁群优化（ACO）和物理信息神经网络（PINNs）的优势。在复杂物理系统建模中，从数据中自动发现PDE已成为研究的热点。然而，主流的数据驱动方法存在一些显著的局限性，例如当候选库的项数较少时才能获得可靠的结果，而在较大的、高维的候选库中，有效筛选和系数估计往往难以实现，且对噪声的鲁棒性较差。为了解决这些问题，研究者提出了一种新颖的ACO-PINNs协同框架，旨在提高在噪声数据和大型候选库中的识别性能，同时确保模型的物理一致性和可解释性。

PDE是描述连续介质时空动态的基本数学工具，广泛应用于科学和工程的多个领域，如流体力学、固体力学、电磁学、热传导、生物扩散和金融工程等。传统上，PDE是通过物理定律从第一原理推导出来的，这种方法具有可解释性和严谨性，但对复杂或高维系统而言，过程可能成本高昂且需要专业知识。近年来，数据驱动的方法逐渐兴起，通过从观测数据中直接推断PDE的结构和参数，提供了一种灵活且高效的替代方案。目前主流的数据驱动PDE发现技术可以分为三类：稀疏回归方法、神经网络模型和基于种群的智能算法。

稀疏识别非线性动力学（SINDy）是一种常用的稀疏回归框架，用于PDE的发现。它通过构建候选库并应用稀疏回归技术，提取简洁且可解释的模型。然而，当需要求导信息时，SINDy依赖传统的数值微分方法，这使其对数据稀疏性、采样不均匀性和噪声高度敏感。为了克服这些限制，研究者提出了多种改进方法，如集成SINDy的Ensemble-SINDy、SINDy-PI、SINDy-SR3和Weak SINDy等。此外，其他稀疏回归变体，如最小绝对收缩和选择算子（LASSO）、顺序阈值岭回归（STRidge）和阈值稀疏贝叶斯回归等，也被应用于PDE发现任务。尽管这些方法在某些方面有所改进，但在可扩展性、对超参数的敏感性和数据依赖性方面仍然存在挑战。

在基于神经网络的PDE建模方法中，PDE-LEARN通过结合理性神经网络和稀疏回归，提高了准确性和鲁棒性。而Weak-PDE-LEARN则利用弱形式来更好地识别在噪声和有限数据条件下非线性PDE。另一方面，物理信息神经网络（PINNs）则通过在训练过程中嵌入物理约束，确保解的一致性，并在正向和反向问题，尤其是参数识别方面取得了显著成果。传统的PINNs通常假设PDE的结构已知，专注于估计项的系数，这在已知结构的设定下可以实现高精度。然而，当PDE的结构未知时，需要直接从候选库中推断出系数，这带来了诸多挑战，例如大型候选库会显著增加计算负担，并可能导致梯度失衡，使优化过程变得困难；而小型候选库则可能因缺乏强稀疏约束而保留冗余项。

稀疏回归方法通过强制稀疏性来筛选最相关的候选项，从而去除冗余项并保留关键的物理成分。然而，这些方法在缺乏显式物理先验的情况下，往往在噪声或稀疏数据条件下导致模型不一致。因此，将稀疏回归与PINNs相结合成为一种有效的解决方案。例如，DeepMoD通过整合稀疏回归和PINNs，提高了项选择的准确性，并在噪声和小数据条件下表现出较强的鲁棒性。PINN-SR则进一步通过“根-分支”架构、交替优化和预训练策略，提升了在噪声和低数据环境下的结构发现能力，同时保持模型的可解释性。尽管DeepMoD和PINN-SR在小候选库的PDE发现任务中表现出色，但当候选库的项数增加时，训练仍然面临挑战，系数估计可能会显著偏离真实值。

无论是稀疏回归还是PINNs，它们都需要预先定义的候选库来表示PDE的结构。小候选库可能遗漏关键的物理项，导致发现不完整；而大候选库则会增加冗余、多重共线性和计算成本，降低识别的准确性。为了解决这些问题，研究者提出了基于进化和遗传算法的方法。例如，EPDE利用进化算法生成候选项，从而发现复杂或非标准的PDE，但计算成本较高，特别是在高维系统中。DLGA-PDE则通过交叉和变异操作扩展候选库，而SGA-PDE将功能项表示为符号二叉树，以增强表达能力，后续研究（如Du et al., 2024和Zhang et al., 2024）进一步提升了灵活性。然而，这些方法扩大了搜索空间，增加了计算复杂性，并依赖于随机策略，这可能导致收敛不稳定和可靠性下降，特别是在噪声或数据有限的情况下。

ACO作为一种典型的启发式搜索算法，模拟了蚂蚁通过信息素进行通信的机制，具有强大的全局搜索能力和稳定的解决方案。它已被广泛应用于各种复杂的优化问题。近年来，虽然ACO在PDE求解方面取得了一定进展，但其在PDE发现中的潜力，尤其是在逆建模问题中，仍被低估。ACO在全局搜索和解决方案稳定性方面的优势，使其成为PDE结构识别的理想选择。它可以高效地探索高维的组合空间，识别在物理约束下控制系统演化的关键结构项。当与显式的候选库结合使用时，ACO能够聚焦于物理上合理的项组合，从而提高发现的PDE模型的可解释性和物理一致性。基于这些能力，本研究将ACO与高维候选库相结合，以提高复杂物理系统中PDE发现的准确性和鲁棒性。具体而言，我们提出了一种混合框架，称为ACO-PINNs，以解决数据驱动PDE识别中的常见问题，特别是噪声观测数据和大型候选库的挑战。

ACO-PINNs的PDE识别过程分为两个阶段。在第一阶段，ACO在预定义的候选库中搜索潜在的构成项。观察点在解域内随机采样，其时空坐标和观测值构成神经网络的训练数据集。通过自动微分，网络计算所需的导数以构建候选库。ACO随后在这些候选项中进行搜索，识别出最优的项组合。在第二阶段，选定的项作为缩减后的候选库，其中PINNs结合稀疏回归技术对第一阶段筛选出的项进行进一步筛选和精确系数估计，从而得到更准确且物理一致的PDE表示。

本研究的主要贡献包括以下几个方面：首先，提出了一种ACO-PINNs框架，这是一种两阶段的PDE发现方法，能够有效应对噪声数据和大型候选库的挑战。其次，设计了一种基于ACO的结构搜索策略，该策略利用神经网络提取的导数信息来指导概率项选择，从而实现对候选库的高效探索，并稳健地识别潜在的结构组件。最后，引入了一种物理信息稀疏优化阶段，该阶段结合了PINNs和稀疏回归技术，对第一阶段获得的结构进行进一步筛选，并精确估计对应的系数，确保发现的PDE在稀疏性和物理一致性方面达到平衡。

在实验部分，本文选择了多个具有代表性的PDE作为测试对象，包括Burgers方程、Allen–Cahn方程、Chaffee–Infante方程、Korteweg–de Vries（KdV）方程、波动方程和二维对流扩散方程。这些方程具有多样的数学结构，涵盖了从一阶到三阶的空间导数，以及一阶和二阶的混合项。通过在这些方程上的数值实验，研究者评估了所提出方法在结构识别任务中的有效性与鲁棒性。实验结果表明，ACO-PINNs在处理噪声数据和高维候选库方面表现出色，能够准确识别PDE的结构并估计其系数。

在结论与讨论部分，研究者指出，在现实世界中的物理系统中，由于缺乏对系统结构的先验知识，底层的PDE通常是未知的。构建一个包含高阶项、非线性项和特殊函数的丰富候选库可以提高发现真实PDE的可能性，从而更好地反映实际的工程和科学场景。然而，这样的全面候选库也带来了建模上的挑战。一方面，候选项的增加会显著提升计算负担，并可能导致梯度失衡，使优化过程变得困难；另一方面，小候选库可能因缺乏强稀疏约束而保留冗余项，影响模型的准确性。因此，如何在保证模型物理一致性的同时，有效控制候选库的规模，成为PDE发现研究中的一个重要课题。

本研究提出的ACO-PINNs框架在解决这一问题方面展现出良好的前景。通过将ACO的全局搜索能力与PINNs的物理约束优化相结合，该方法能够在处理噪声数据和大型候选库时保持较高的识别精度和鲁棒性。此外，ACO的引入有助于减少搜索空间，提高模型的可解释性。在实验中，ACO-PINNs表现出对复杂结构的识别能力，特别是在高维和噪声环境中，能够筛选出关键的物理项并准确估计其系数。这些结果表明，ACO-PINNs不仅能够克服传统方法在处理大规模候选库时的局限性，还能在保持物理一致性的同时，提高模型的准确性和稳定性。

综上所述，ACO-PINNs框架为PDE发现提供了一种新的解决方案，特别是在面对噪声数据和复杂结构时表现出色。通过将ACO与PINNs相结合，该方法在搜索效率、模型准确性以及物理一致性方面实现了显著的提升。未来的研究可以进一步探索该框架在更多实际应用场景中的潜力，例如在高维物理系统、非线性动力学和跨学科建模中的应用。此外，研究者还可以考虑如何优化ACO和PINNs之间的协同机制，以提高框架的适应性和泛化能力。同时，如何将该方法与现有的PDE发现技术相结合，以构建更加全面和高效的建模工具，也是值得深入研究的方向。