探索基于决策的黑盒攻击下人脸伪造检测的对抗鲁棒性

《The Knee》：Exploring the Adversarial Robustness of Face Forgery Detection with Decision-based Black-box Attacks

差分隐私下基于有偏随机游走的图生成模型DPBRW-GGAN通过指数机制与特征向量中心性优化节点采样，结合BiLSTM与NetGAN缓解训练不稳定问题，在保障隐私的同时提升合成图数据质量。

　　在当今信息网络高度发达的时代，图结构数据已经成为研究和应用的重要组成部分。这类数据广泛存在于社交网络、知识图谱、生物网络等复杂系统中，反映了个体之间的关系和交互模式。然而，图数据往往包含大量敏感信息，如用户行为、社交关系、商业联系等，这些信息一旦泄露，可能会对个人隐私或企业机密造成严重影响。因此，如何在保证数据可用性的同时有效保护隐私，成为图数据发布过程中亟需解决的关键问题。

传统的隐私保护方法通常依赖于对原始数据进行直接处理，例如数据脱敏、数据模糊化或数据删除等。然而，这些方法在面对复杂的图结构数据时存在一定的局限性。一方面，简单的数据处理手段可能无法充分保留图数据的结构特征和语义信息，从而影响后续的数据分析和模型训练效果；另一方面，直接发布未经处理的图数据，也可能导致隐私泄露。例如，攻击者可以通过对图数据的分析，推测出某些节点是否存在，进而推断出这些节点的属性或与其他节点的连接关系。这种现象被称为成员推断攻击（Membership Inference Attack, MI Attack），是当前图数据隐私保护研究中的一个重要挑战。

为了解决这一问题，近年来研究人员开始探索将差分隐私（Differential Privacy, DP）技术引入图数据生成和发布过程中。差分隐私是一种形式化的隐私保护机制，它通过在数据发布或模型训练过程中引入随机噪声，使得攻击者无法准确判断某条数据是否被包含在训练集中。然而，直接将差分隐私应用于图数据生成模型（如NetGAN）时，可能会导致数据生成质量的下降，从而影响模型的实用性和效果。此外，由于图数据的结构特性，传统的差分隐私方法在处理图数据时也面临诸多困难，如如何在不破坏图结构的前提下实现有效的隐私保护，以及如何在保持数据效用的同时避免隐私泄露。

基于上述背景，本文提出了一种结合差分隐私与偏倚随机游走（Biased Random Walk, BRW）机制的图数据生成方法，即DPBRW-GGAN。该方法的核心思想是利用偏倚随机游走技术来提取图数据的结构特征，并在生成过程中引入差分隐私机制以增强隐私保护能力。具体而言，本文首先构建了一个基于差分隐私的偏倚随机游走模型，通过指数机制（Exponential Mechanism）调整访问重要节点的概率，以更好地捕捉图数据的结构信息并减少节点连接关系与真实图之间的偏差。其次，本文结合双向长短期记忆网络（BiLSTM）和NetGAN，构建了一个新的图数据生成模型，以提高生成图的效用并缓解由NetGAN与差分隐私机制结合所带来的梯度发散和损失函数值不稳定问题。最后，通过理论分析和实验验证，本文展示了DPBRW-GGAN在隐私保护与数据效用之间的良好平衡。

在图数据发布的过程中，隐私保护与数据效用之间的权衡一直是一个核心问题。一方面，为了防止隐私泄露，需要对数据进行一定程度的扰动或模糊处理，这可能会影响数据的可用性；另一方面，过度的隐私保护措施可能会导致生成数据与原始数据之间的差异过大，从而降低其在实际应用中的价值。因此，如何在两者之间找到一个合适的平衡点，是当前图数据隐私保护研究的重要方向。本文提出的DPBRW-GGAN方法，正是在这一背景下，试图解决图数据发布过程中隐私保护与数据效用之间的矛盾。

为了实现这一目标，本文首先引入了图节点的特征指标——特征向量中心性（Eigenvector Centrality）。该指标不仅能够衡量节点在图中的重要性，还能反映其邻居节点的影响力。通过将特征向量中心性作为指数机制的效用函数，本文能够更准确地选择节点的邻居，并调整访问概率，从而在随机游走过程中更有效地保留图的结构信息。此外，这种机制还能有效避免直接在梯度或目标函数中添加噪声所带来的问题，从而提高模型的收敛性和生成数据的质量。

接下来，本文将BiLSTM与NetGAN相结合，构建了一个新的图数据生成模型。BiLSTM作为一种能够捕捉序列数据中前后依赖关系的神经网络结构，在处理图数据时具有独特的优势。通过引入BiLSTM，模型能够更全面地理解图的拓扑结构，并在生成过程中更好地模拟原始图的特性。同时，NetGAN作为一种基于对抗训练的图生成模型，能够通过博弈机制生成高质量的图数据。然而，NetGAN在训练过程中对原始数据高度依赖，容易受到成员推断攻击的影响。因此，本文通过将BiLSTM与NetGAN结合，并引入差分隐私机制，构建了一个能够在保持数据效用的同时有效抵御隐私攻击的生成模型。

在实验部分，本文使用了三个公开的图数据集：Cora_ML、Citeseer和Amazon Photo Dataset。这些数据集分别代表了学术引用网络和社交网络等不同类型的图数据，能够全面评估所提出方法在多种场景下的适用性和有效性。实验结果表明，DPBRW-GGAN在数据效用和隐私保护方面均优于现有的方法。尤其是在小隐私预算（Privacy Budget）的情况下，该方法能够保持较高的生成数据质量，同时有效防止隐私泄露。此外，实验还验证了DPBRW-GGAN在抵御成员推断攻击方面的显著优势，表明其在实际应用中具有较高的安全性和实用性。

除了上述贡献，本文还对现有的图数据发布方法进行了系统性的分析和总结。现有的方法主要分为三类：基于差分隐私的图统计发布、基于差分隐私的深度学习方法以及基于差分隐私的生成对抗网络（GAN）方法。基于差分隐私的图统计发布方法通常通过扰动图的统计参数（如度分布）来实现隐私保护，但这种方法在实际应用中往往需要较高的隐私预算，且对图结构的保护效果有限。基于差分隐私的深度学习方法则通过在训练过程中添加噪声来实现隐私保护，但这种方法可能会影响模型的收敛性和生成数据的质量。基于差分隐私的GAN方法则试图在生成过程中引入隐私保护机制，但目前仍存在诸多挑战，如如何在不破坏图结构的前提下实现有效的隐私保护，以及如何平衡生成数据的效用与隐私需求。

本文提出的方法DPBRW-GGAN，不仅克服了上述方法的不足，还在多个方面进行了创新。首先，通过将指数机制与偏倚随机游走相结合，本文能够更有效地捕捉图数据的结构特征，同时避免直接在梯度或目标函数中添加噪声所带来的问题。其次，通过引入BiLSTM，本文能够在生成过程中更全面地考虑图的拓扑结构，从而提高生成数据的质量和效用。最后，本文的实验结果表明，该方法在数据效用和隐私保护之间实现了良好的平衡，尤其是在小隐私预算的情况下，能够保持较高的生成数据质量，同时有效防止隐私泄露。

总的来说，本文的研究成果为图数据发布提供了一种新的解决方案，即通过结合差分隐私与偏倚随机游走机制，构建一个既能保护隐私又能保持数据效用的图数据生成模型。该方法不仅在理论上具有创新性，还在实验中得到了验证，表明其在实际应用中具有较高的可行性和有效性。未来，随着图数据的广泛应用和隐私保护需求的不断增长，本文提出的方法有望在更多领域得到应用和推广，为图数据的安全发布提供有力的技术支持。