一种基于Attention-CNN-BiGRU并考虑物理约束的可解释钻孔状态识别方法

《Geoenergy Science and Engineering》：An explainable drilling status recognition method based on Attention-CNN-BiGRU with physics constraints

本文提出一种融合卷积神经网络（CNN）、双向门控循环单元（BiGRU）和注意力机制的平行混合网络模型，结合物理约束嵌入方法，解决了钻井状态识别中传统阈值方法适应性差和智能方法精度不足的问题。通过多阶段实验验证，模型在13种钻井状态分类中实现97%以上的实时识别准确率，并在跨区块测试中保持96.8%的稳定性能，同时有效缓解数据不平衡问题，为石油工程智能化监测提供了可靠解决方案。

　　在石油和天然气钻井作业中，识别钻井状态对于提高操作的安全性和效率具有关键作用。然而，现有的钻井状态识别方法仍然面临诸多挑战：传统的基于阈值的方法需要频繁调整参数，具有较差的迁移能力和较低的准确性；而智能方法则在识别精度和可识别状态的多样性方面存在局限，难以满足工程应用的需求。为了实现高效、准确的钻井状态自动实时分类，本研究提出了一种并行混合网络，该网络集成了卷积神经网络（CNN）和双向门控循环单元（BiGRU），并引入了注意力机制以提高模型预测的准确性。此外，基于钻井状态的转换规则，我们提出了物理规则嵌入方法，该方法在模型训练和预测阶段施加基于规则的约束，确保模型更加贴近客观的物理规律，从而进一步提升识别精度。测试结果表明，所提出的模型能够准确且可靠地实时识别13种钻井状态，整体识别准确率约为97%。我们还进行了泛化能力验证和实时数据测试，结果显示模型在不同测试场景中保持了超过96.8%的识别准确率，突显了其稳健性和优越的性能。最后，通过消融实验和权重可视化分析，本研究揭示了注意力机制和物理约束在模型中的作用，为智能钻井状态识别提供了更深入的理解。所提出的方法具有实时性、高准确性和强可扩展性，具有在实际钻井场景中应用的高潜力。

在石油勘探与开发过程中，钻井工程是不可或缺的环节。这一过程复杂且高风险，涉及多个环节和操作参数（Qiao等，2023；Li等，2020）。在钻井过程中，存在多种钻井状态，如起下钻、钻进、扩孔、钻井液循环等。每种状态对钻井设备和钻井液都有特定的要求。如果钻井状态无法准确识别，可能会导致操作不当，甚至引发事故（Yang等，2021）。此外，精准识别钻井状态有助于钻井后分析，使工程师能够评估和优化钻井过程。因此，识别钻井状态是确保钻井安全和提高钻井效率的基础。传统的钻井状态分类主要依赖于人工判断和基于规则的逻辑方法（Gao等，2023）。然而，这些传统方法容易产生误判，且存在显著的延迟，影响实时决策的准确性。此外，当应用于新的油田区块时，阈值参数通常需要重新调整，增加了工作量，降低了适用性和可扩展性。因此，迫切需要开发一种快速、准确且高度适应的钻井状态分类方法，以提升钻井作业的智能化水平，提高操作安全性和整体钻井效率。

目前，钻井状态分类的方法不断发展，可以分为两大类：基于经验的阈值判断和基于数据驱动的机器学习智能分类。阈值判断主要依赖于专家经验和物理模型来实现钻井状态分类（Wood，2024）。这种方法相对简单，但只能识别有限数量的钻井状态类别。Arnaout等（2012）提出了一种基于多项式逼近的数学模型，能够识别五种不同的钻井状态：钻进、起钻、下钻、循环和连接操作。Caldwell和Hinton（2015）引入了数据钻井的概念，用于油气行业的风险管理与安全问题。Khudiri等（2015）开发了一种数学算法，使用地表测量的操作参数来确定当前钻井状态，能够识别七种状态：钻进、正向扩孔、反向扩孔、连接、起钻、下钻和静止状态，准确率可达95%。尽管这些方法有所进展，但基于阈值的方法适应性不足。当应用于新井时，其阈值参数或公式通常需要重新调整，导致较高的维护成本和有限的适用性。

近年来，随着人工智能技术的发展，钻井状态的实时和智能化分类引起了越来越多的关注（Li等，2022；Li等，2023a，b）。与阈值判断方法相比，智能方法能够有效提取数据中的复杂关系，并在实时情况下产生更准确或更优的模拟组合结果。因此，智能方法在研究中越来越受到重视，重点在于使用机器学习技术进行钻井状态的实时分类。Sun等（2019）使用支持向量机模型识别了包括下钻在内的六种钻井状态，准确率达到了95%。Ben等（2019）提出了使用卷积神经网络模型识别17种钻井状态，准确率为90%。Tripathi等（2021）基于模糊规则和随机森林算法识别了10种钻井状态。Ge等（2022）提出了使用U-Net模型进行图像分割，以及注意力网络，实现了对六种钻井状态的分类。Gao等（2023）开发了一种基于堆叠模型融合的多分类智能算法，能够识别7种钻井状态，准确率达到了90%。对当前智能分类研究的回顾表明，需要科学设计的钻井状态分类方法。此外，大多数现有研究主要集中在将智能方法应用于钻井状态分类，而未充分结合物理和逻辑约束，这导致了性能瓶颈，进一步提高准确率变得困难。此外，没有研究提出这些模型的可解释性方法，导致分类准确率有限，模型预测与实际钻井状态之间可能存在差异，从而影响实际应用的可行性。此外，大多数现有模型依赖于单井数据进行训练和测试，缺乏在多个井场之间的验证和实时识别。截至目前，尚未有研究展示这些模型在实际油田应用中的成功部署，其稳健性和泛化能力的评估仍显不足。这一局限性引发了对当前智能分类模型实际可行性的担忧。因此，进一步的优化和验证对于提高其工程适用性和可靠性至关重要。

为了解决这一问题，本文提出了一种结合卷积神经网络（CNN）和双向门控循环单元（BiGRU）的并行网络，并引入了注意力机制和物理约束，以提高模型的准确性和可靠性。CNN最初由Lecun等（1998）引入，是深度学习中一种广泛成功的架构，用于特征提取和模式识别，特别适用于处理多维数据，通过卷积层捕捉输入数据之间的复杂关系（Oyewola等，2023）。自注意力机制是一种常用的注意力机制，主要用于处理序列数据（Vaswani等，2017）。它可以计算不同位置在不同时间步的注意力权重，从而整合和交互所有时间步的信息。此外，GRU网络由Cho等（2014）开发，因其门控架构而擅长处理时间序列信息。在本研究中，我们嵌入了控制钻井状态转换的逻辑规则，以确保模型能够学习和识别钻井状态的序列关系。在训练和应用过程中，这种方法使模型能够更准确地识别钻井状态的转换过程。通过这些改进，模型不仅能够捕捉钻井状态之间的内在关系，还能提高分类的稳定性和泛化能力。实验结果表明，所提出的模型成功地对13种钻井状态进行了分类，准确率接近97%，显著提高了智能分类的精度和可靠性。

本文提出了一种结合CNN和BiGRU的并行网络，该网络通过引入注意力机制和物理约束来提升模型的性能。CNN在处理多维数据时表现出色，通过卷积层能够有效提取特征，而BiGRU在处理时间序列数据时表现出强大的能力。通过并行结构，模型可以同时处理多个输入，从而提升特征提取的效率。在本研究中，我们通过消融实验分析了不同模块对模型性能的贡献，并确定了最优的网络架构。此外，我们还设计了一种物理规则嵌入方法，在训练和预测阶段对模型输出施加规则约束，从而确保模型更加符合物理规律，提高其识别精度。模型的泛化能力在独立测试数据集上进行了评估，并通过实际钻井操作的实时数据验证了其性能。最后，我们深入讨论了实验结果，并分析了物理约束和注意力机制对模型性能的影响，进一步阐明了它们在钻井状态识别中的作用和贡献。所提出的方法具有实时性、高准确性和强可扩展性，具有在实际钻井场景中应用的高潜力。

为了更好地利用额外的特征参数，挖掘数据中的隐藏信息，并提升模型的泛化能力，本文采用神经网络模型进行数据抽象、特征提取和分类。在本节中，我们构建了CNN和GRU神经网络，并比较了它们在串联和并联配置下的性能。最终，我们引入了注意力机制，并通过消融实验评估了其效果。所有实验均在配置一致的工站上进行，该工站配备了Windows 11操作系统、Intel Xeon E5处理器、128GB内存和NVIDIA RTX 2060 Super GPU（12GB VRAM）。本文中的模型是使用Python 3.7和PyTorch 1.10深度学习框架（GPU版本）实现的。在每项实验中，模型的架构和训练设置保持不变，以确保公平比较。所使用的数据集来源于塔里木油田的Manshen区块，包含约600,000条记录，涵盖了多种钻井状态。其中，30%（共计180,000条记录）被分配为测试集。为了保持所有消融实验的一致性，我们采用了相同的随机种子、超参数设置和训练流程。由于该任务是多类分类问题，因此采用了交叉熵损失函数（公式（13））作为训练和验证的目标函数。模型性能通过准确率进行评估，准确率定义为正确分类样本在总样本中的比例。详细的每个神经网络模块的超参数配置见表3。为了全面评估模型的泛化能力，我们进行了五折分层交叉验证，结果见表4。每个模型在每个折叠中训练了最多200个周期。我们采用了早期停止机制以防止过拟合：如果验证损失在连续50个周期内没有改善，训练将停止。保存了验证损失最低的模型权重。所有模型在五折分层交叉验证中的损失轨迹见图12。图12展示了五个模型在五折分层交叉验证中的训练和验证损失轨迹。基准模型A（仅CNN）表现出最高的验证损失，表明其存在欠拟合现象。在模型B和C中引入顺序和并行的BiGRU模块显著提高了时间建模能力，其中并行结构（模型C）略优于顺序结构（模型B）。引入注意力机制进一步提升了性能，如模型D和E所示。值得注意的是，模型E在所有折叠中均表现出最低的验证损失和最稳定的收敛趋势，确认了其在空间-时间特征融合和注意力优化方面的优越性，以及其良好的泛化能力和鲁棒性。

从表4中可以看出，各模型在分类准确率和稳定性方面存在显著差异，突显了每个架构组件对整体性能的影响。与基准模型A相比，模型B通过引入顺序BiGRU模块，将准确率从83.1%提升至86.0%，提升了2.9%。这表明时间建模在捕捉钻井操作的动态模式方面非常有效。模型C，采用并行CNN-BiGRU架构，进一步将准确率提升至88.2%，比模型A提高了5.1%，表明空间和时间特征的联合建模增强了模型的表示能力。在此基础上，模型D在BiGRU基础上引入了注意力机制，将准确率提升至91.5%，比模型B提高了5.5%。同样，模型E通过将注意力机制融入模型C的并行CNN-BiGRU结构，达到了最高准确率93.3%，比模型C提高了5.1%。这些结果清楚地表明，注意力机制显著提升了模型关注关键特征的能力，从而增强了决策准确率和鲁棒性。在稳定性方面，模型E不仅实现了最高准确率，还表现出最低的标准差（±0.5%），反映了其在不同数据分割中的强大泛化能力和一致性。相比之下，模型A的标准差最高（±2.2%），表明其稳定性较低，对数据分割更加敏感。

总体而言，采用并行架构（模型C和E）的模型在所有情况下均优于采用顺序架构（模型B和D）的模型，确认了并行设计在提取和融合多维特征方面的优越性。消融实验强烈支持了每个架构模块（BiGRU、CNN、注意力机制和特征融合策略）的必要性，以实现高精度的钻井状态识别。

在本文的研究中，我们还对模型进行了改进，以进一步提升其性能。先前的研究表明，将物理约束嵌入智能模型中可以帮助模型在训练过程中调整迭代路径，从而得到最优解（Chen和Zhang，2020；Xiao，2022；Liu等，2024）。因此，一个准确的智能模型应由物理约束和数据共同驱动。本文对钻井状态的特征和softmax激活函数的特性进行了深入分析，并提出了将物理约束嵌入神经网络的方法。我们通过引入钻井状态转换规则，确保模型的预测符合客观的物理约束，如图13所示。物理约束的嵌入包括训练阶段和预测阶段的两个关键部分。在训练阶段，我们在神经网络的损失函数中添加了一个约束项，确保模型不仅学习数据的内在模式，还满足物理约束，从而提升其预测的合理性。在预测阶段，神经网络输出首先乘以状态转换向量，然后通过softmax激活函数进行处理，将物理上不可能的状态的概率设置为零。这种方法确保了最终输出符合物理规律，有效地纠正了模型预测误差，提高了模型的可靠性和稳定性。

为了平衡这两个组件的影响，选择λ（惩罚权重）至关重要。如果λ太小，约束将几乎没有效果，导致方法无效。相反，如果λ太大，模型可能难以学习有意义的分类特征。当约束项的影响较弱时，模型可能会忽略它，导致输出违反物理规律或逻辑规则。另一方面，如果约束项主导损失优化，模型可能会牺牲分类性能以满足约束。因此，本文探索了λ的适当选择，以确保模型在保持合理状态转换的同时，仍然能够实现良好的分类性能。

在本研究中，我们设计了五组实验，分别采用λ值为0.0005、0.005、0.05、0.5和5，以寻找最佳参数。在实验过程中，我们密切监测了训练和验证阶段的惩罚损失，关注验证集损失的下降趋势。这使我们能够确定模型在训练过程中是否成功学习了状态转换规则。结果见图15。图15（a）展示了验证集上的物理约束损失变化。可以观察到，训练初期损失相对较高，随后迅速下降并逐渐稳定。在测试的λ值中，λ=0.005（红色曲线）达到了最低的损失，表明该值在验证集上具有最佳的优化效果。相比之下，其他λ值导致的损失相对较高，其中λ=0.0005（黑色曲线）表现出显著的波动。这表明，过小的λ可能阻碍模型有效学习物理约束的能力。

图15（b）展示了训练集上的物理约束损失。与验证集的趋势一致，λ=0.005（红色曲线）仍然表现出最佳性能，具有最低的损失。这表明该值在训练过程中有助于稳定物理约束损失的优化，帮助模型更好地学习物理约束。通过结合两个图表的观察结果，可以得出结论：λ=0.005在训练和验证集上均实现了最低的物理约束损失，表明该参数有效地维持了物理约束，而不会对整体训练过程产生负面影响。因此，λ=0.005被确定为本文研究中的最佳参数选择。

为了进一步纠正预测中的不合理状态并确保模型输出符合实际物理过程，我们在预测阶段应用了额外的物理约束。在生成最终预测结果之前，本文所使用的神经网络应用softmax激活函数进行归一化。softmax激活函数常用于多类分类问题，因为它可以将输入向量的每个元素映射到0到1之间的概率值，同时确保所有概率值的总和等于1。这一特性使softmax激活函数特别适合需要预测多个互斥类别的场景（Kanai等，2018）。softmax激活函数的定义如下：

通过将不可能的钻井状态的概率设置为零，可以利用钻井状态转换关系（见表5和图14）调整概率分布，确保模型的预测符合物理约束。具体过程见图16。在模型输出阶段，初始输出是Logits1。此时，应用softmax激活函数后，模型选择最高概率（0.3）对应的标签S2作为预测结果。然而，实际状态应为S1，其初始概率为0.2。在没有物理约束的情况下，模型可能会错误地输出S2。通过将Logits1乘以状态转换矩阵，我们得到调整后的Logits2。当这个调整后的输出再次通过softmax激活函数处理时，模型正确预测了S1。这一过程利用了状态转换规则，确保模型不仅由数据驱动，还受到物理规律的约束，从而提高了预测的准确性和可靠性。详细的实现过程见算法2。

通过状态转换矩阵P对模型预测施加约束，只允许物理上合理的钻井状态转换，从而增强了预测的物理一致性和科学性。在softmax计算中，较大的值对应较高的概率，而物理上不可能的状态应具有接近零的概率。因此，对于无效的状态转换（P[Z]=0），其值被设置为负无穷大（-∞），以确保在softmax计算后其概率接近零，防止在预测过程中被选中。因此，最终的模型预测S?仅包含符合物理约束和转换规则的状态，从而提高了预测结果的合理性、稳定性和工程适用性。

为了进一步验证所提出的神经网络模型在钻井状态识别中的优势，我们将其与AutoGluon进行了比较。AutoGluon是由亚马逊云服务（AWS）发布的一个开源AutoML框架，旨在通过最小的编码工作量提供高性能的机器学习和深度学习模型。它支持多种任务，包括表格、图像、文本和时间序列数据，并采用多层堆叠集成策略（Shchur等，2023）。该框架集成了诸如LightGBM、CatBoost、XGBoost和神经网络等多样化的基础学习器，并通过贝叶斯优化或随机搜索自动调整它们的超参数，根据用户指定的评估指标选择最佳组合。图21展示了其堆叠过程：在基础层，每个学习器独立地在原始输入特征上进行训练；在堆叠层，所有基础学习器的预测结果与原始特征拼接后，用于训练元学习器；最后，该框架通过加权组合所有模型输出生成最终预测。在本研究中，我们采用了与模型G相同的训练和测试数据集，并进行了五折交叉验证，配置了五个基础学习器（XGBoost、随机森林、LightGBM、FastAI表格神经网络和极端树）。然后，我们使用相同的评估指标对这两个模型进行了比较。详细的实验结果见附录B，统计摘要见表7。

如图22所示，模型G在召回率、精确率、F1分数和准确率方面均显著高于AutoGluon；此外，模型G的每个指标的标准差不超过0.004，表明其具有极高的稳定性，而AutoGluon的准确率标准差为0.037，表明其存在较大的波动性。在运行时间效率方面，模型G平均需要33.30±0.16秒，仅比AutoGluon的32.06±0.14秒多约1.24秒。鉴于模型G在准确率和鲁棒性方面的显著优势，这一微小的额外执行时间是完全可接受的。

在油田部署过程中，录井系统的数据传输速率显著低于模型的推理速度。根据12小时的现场测试结果，共传输了5152个数据点，每个数据点的平均间隔约为8.3秒。模型每个数据点的推理时间约为0.0009秒，表明所提出的模型在实际工程部署中具有很强的可行性和响应能力。

在本节中，我们分析了消融实验的数据结果，并讨论了物理约束和注意力机制对模型性能的影响，特别是在数据样本不平衡的情况下。我们定义了样本数少于10,000的集合作为小样本数据集。根据本研究中的消融实验，我们识别出五个小样本数据集：连接与断开、设置卡瓦、单纯钻井液循环、带钻井液循环的旋转钻柱和正向扩孔。我们选择了模型C（并行CNN和BiGRU模型）、模型E（并行CNN和BiGRU模型结合注意力机制）、模型F（并行CNN和BiGRU模型结合物理约束）和模型G（并行CNN和BiGRU模型结合注意力机制和物理约束）对这五个小样本数据集的召回率进行了深入分析和比较，并在图29中以可视化方式展示了结果。

图29展示了模型C、E、F和G在五个小样本数据集上的召回率分布。模型C的召回率范围最广，表明其在小样本场景中性能波动较大，稳定性相对较差。相比之下，模型F（引入物理约束）显示出改善的中位数召回率，但其广泛的四分位数范围表明，虽然物理约束提升了整体识别能力，但对性能稳定性的影响有限。模型E和G表现出显著更集中的召回率分布。特别是模型G实现了最高的平均召回率和最窄的分布范围，突显了其在所有小样本类别中的优越和一致的识别性能。模型E也显示出比模型C更明显的波动减少，证实了注意力机制在小样本情况下的关键作用，即在小样本条件下提高召回率和稳定性。总体而言，模型G在小样本分类任务中表现出最佳性能和鲁棒性，验证了其架构在处理复杂和数据有限的环境中的强大能力。

为了进一步探讨注意力机制对小样本数据的影响，本研究采用注意力权重可视化分析模型的中间计算过程，旨在直观观察注意力机制在模型中的具体作用。研究收集了13种钻井状态的数据，并对模型的注意力权重矩阵进行了可视化分析，结果见图30。其中，(a)至(m)对应于表2中定义的13种钻井状态。注意力矩阵的可视化展示了不同钻井状态下注意力权重的分布：横轴（目标位置）表示目标位置，指示不同时间步对最终预测结果的影响。纵轴（源位置）表示源时间步的特征，反映了不同时间步对目标变量的贡献，并指示了模型在预测过程中关注的时间步。此外，注意力权重的大小通过颜色强度表示，其中明亮的颜色（黄色）表示较高的注意力，而较暗的颜色（紫色）表示较低的注意力。这种可视化分析有助于更深入地了解模型如何在小样本数据中分配注意力，从而提高预测的准确性。

从图30可以看出，在小样本条件下（c、d、e、g、i），注意力权重表现出更明显的局部聚集现象。这表明，在数据有限的情况下，注意力机制可以自适应地增强关键模式，提高模型对特定钻井状态的敏感性。与均匀分布的权重分配相比，注意力机制在小样本场景中有效地聚焦于少数但高度区分的信息。相比之下，对应于大样本条件的热图显示了更均匀的颜色分布和明显的结构模式。这表明，当模型使用更大的数据集进行训练时，它能够学习更稳定的注意力模式，从而实现可靠的分类和状态识别。

尽管本文提出的结合物理约束的注意力-CNN-BiGRU模型在钻井状态识别中展现出良好的性能，但仍然存在一些局限性。首先，由于标签数据的限制，当前的分类方案并未涵盖某些关键的操作状态，如套管下放和测井。这些操作对于实现钻井全过程的智能化监测至关重要。未来的工作将把这些状态纳入识别系统，随着数据集的进一步丰富。其次，模型在识别钻井过程中遇到的罕见或异常情况时存在一定的局限性。这一局限性主要源于极端值显著超出正常操作参数，这可能对模型计算产生负面影响。例如，如果发生不当操作，如过大的钻井液压力或套管压力，或者出现异常情况，如卡钻导致过大的扭矩或在起下钻操作中异常高的钩载，神经网络的输入参数可能会严重偏离典型范围，从而影响预测的准确性和稳定性。第三，该模型不适用于Kelly驱动钻机，因为Kelly系统中钻柱旋转的间歇性和不连续性引入了钻井参数的不规则模式，这与用于训练模型的连续信号存在显著差异。

在钻井操作中实现准确的多类分类仍然是一个重大挑战。未来的工作计划包括将额外的钻井状态，如套管下放、固井和测井，纳入识别系统，同时持续优化模型架构，引入新的特征和物理约束，以实现钻井全过程的状态识别。虽然套管下放和起下钻（钻柱部署）表现出相似的操作特征和参数趋势，但关键差异仍然存在。值得注意的是，套管和钻柱的长度不同，导致每种操作中钩高变化的模式不同。通常，一次起下钻操作会使钩高下降约30米（不包括连接事件），而套管下放通常涉及每个套管接头的9.5米或13.5米的阶梯式下降。此外，从物理约束的角度来看，起下钻可以逻辑地转换为钻进操作，而套管下放则不能，它必须紧接着固井操作。这些领域特定的行为规则和物理差异为未来研究中钻井状态识别模型的进一步探索和增强提供了坚实的基础。

本文的主要结论如下：
1. 本文深入探讨了注意力机制、CNN和BiGRU网络的设计原则，以及它们与物理约束的整合。通过消融实验，我们验证了网络结构、注意力机制模块和物理约束对分类结果的影响，并量化了每个因素对模型性能的贡献。最终，我们构建了一个结合注意力机制和物理约束的并行CNN-BiGRU神经网络。
2. 提出的物理约束嵌入方法确保了神经网络模型在训练和预测阶段准确学习钻井状态的转换规则，从而显著提高了模型结果的可靠性。通过有效整合物理先验知识，该方法不仅提升了模型的泛化能力，还使其能够更稳健地适应复杂的钻井条件。
3. 所提出的方法实现了对13种钻井状态的实时识别，准确率接近97%。广泛的泛化测试确认了模型在不同区块中的稳健性，其准确率始终保持在约99%。在实际测试中，模型在12小时的时间段内达到了98.49%的识别准确率，有效满足了工程应用需求。
4. 在钻井过程中，13种钻井状态的数据分布存在显著的不平衡。研究表明，物理约束和注意力机制有助于缓解样本不平衡的影响，其中注意力机制的作用更为关键。权重可视化确认了它在小样本条件下使模型更有效地分配学习资源，提高低频率钻井状态的识别能力，从而增强整体分类的稳定性和准确性。
5. 与现有钻井状态分类方法相比，所提出的方法不仅实现了钻井状态的精确预测和分类，还展示了对各种钻井场景的适应性，显著提高了操作的安全性和效率。