多任务学习的双重平衡机制

《Neural Networks》：Dual-Balancing for Multi-Task Learning

多任务学习通过共享模型提升参数效率，但任务损失与梯度的不平衡导致性能折衷。本文提出DB-MTL方法，从损失尺度与梯度幅度两个维度进行平衡：采用对数变换统一损失量纲，并归一化各任务梯度至最大范数。实验表明DB-MTL在多个基准数据集上显著优于现有方法。

　　多任务学习是一种旨在同时学习多个相关任务的机器学习范式，它在许多领域中都取得了显著的成功。然而，由于各个任务在损失和梯度尺度上的差异，往往会导致性能上的妥协，而如何平衡这些任务仍然是一个重要的挑战。本文提出了一种名为Dual-Balancing Multi-Task Learning（DB-MTL）的新方法，该方法从损失和梯度两个层面实现任务的平衡。具体而言，DB-MTL通过在每个任务的损失上进行对数变换，以达到损失尺度的平衡；同时，通过将所有任务的梯度归一化到相同的幅度，使用最大梯度范数作为基准，从而实现梯度幅度的平衡。大量的实验表明，DB-MTL在多个基准数据集上表现优于当前最先进的方法。

多任务学习（MTL）的核心思想是利用一个模型同时处理多个相关任务，相比为每个任务单独训练模型，这种方式能够提高参数的使用效率和推理的速度。通过共享模型，MTL可以提取任务之间的共同知识，从而提升每个任务的性能。在计算机视觉、自然语言处理和推荐系统等领域，MTL已经被广泛应用于实际任务中，取得了良好的效果。例如，在计算机视觉任务中，模型可以共享一个特征提取器，如ResNet，以提取任务间的通用特征，而每个任务则拥有自己的输出模块，如全连接层。在自然语言处理任务中，共享的模型可以处理不同的语言任务，如文本分类、命名实体识别和情感分析，而任务特定的参数则用于调整输出层以适应具体任务的需求。在推荐系统中，多任务学习可以结合用户行为预测、物品属性预测和点击率预测等多个任务，以提高推荐的准确性和多样性。

然而，传统的多任务学习方法在实际应用中常常面临一个关键问题，即任务之间的平衡问题。最简单的方法是等权重（Equal Weighting, EW），即对所有任务的损失进行相等的加权求和，然后最小化总损失。然而，这种方法往往无法有效平衡任务之间的性能，导致某些任务表现良好，而其他任务则表现较差。例如，在一些复杂任务中，某些任务可能更容易学习，而另一些任务则由于数据分布或任务难度的不同，难以获得满意的性能。因此，近年来许多研究者提出了动态调整任务权重的方法，以解决这一问题。这些方法可以分为损失平衡和梯度平衡两大类。损失平衡方法主要通过调整任务的权重，使得任务在损失层面达到平衡，例如基于学习速度或验证性能来调整任务的权重。梯度平衡方法则通过调整梯度的大小，使得任务在梯度层面达到平衡，例如通过缓解梯度冲突或强制梯度范数接近来实现。尽管这些方法在一定程度上缓解了任务平衡问题，但近年来多项广泛的经验研究表明，它们的性能仍然不够理想，表明任务平衡仍然是一个未解决的问题。

为了更有效地解决任务平衡问题，本文提出了一种新的方法——Dual-Balancing Multi-Task Learning（DB-MTL），该方法从损失和梯度两个层面同时实现任务的平衡。首先，在损失层面，DB-MTL通过在每个任务的损失上进行对数变换，使得所有任务的损失尺度变得相似。这种对数变换是一种非参数的方法，可以恢复IMTL-L中提到的损失变换。我们发现，这种对数变换不仅能够有效平衡损失尺度，还能够为现有的梯度平衡方法提供额外的帮助。其次，在梯度层面，DB-MTL通过将所有任务的梯度归一化到相同的幅度，使用最大梯度范数作为基准。这种方法是一种训练无关的策略，能够确保所有任务的梯度幅度一致，相比GradNorm等方法，它能够更有效地控制梯度的更新方向。经验上，我们发现归一化后的梯度幅度在模型性能中起着重要作用，而将梯度幅度设置为任务间最大梯度范数的方法表现最好。

为了验证DB-MTL的有效性，我们对多个基准数据集进行了广泛的实验，包括场景理解、分子属性预测和图像分类等任务。实验结果表明，DB-MTL在这些任务上的表现优于当前最先进的多任务学习方法。这说明，通过同时平衡损失和梯度，可以更有效地提升多任务学习的整体性能。此外，我们还发现，DB-MTL在保持模型结构简单的同时，能够实现较好的性能提升，表明其在实际应用中具有较高的可行性。

本文的主要贡献可以总结为以下几点。首先，我们提出了DB-MTL，一种新颖的双平衡方法，该方法通过两个关键步骤来解决多任务学习中的损失尺度和梯度幅度不平衡问题。第一步是通过参数无关的对数变换对每个任务的损失进行处理，以实现损失尺度的平衡。这种对数变换能够有效使所有任务的损失尺度趋于一致，从而避免某些任务在训练过程中主导模型的更新方向。第二步是通过归一化每个任务的梯度到相同的幅度，使用最大梯度范数作为基准，以实现梯度幅度的平衡。这种方法能够确保所有任务的梯度更新方向一致，从而提升模型的整体性能。其次，我们进行了广泛的实验，涵盖多个任务和数据集，验证了DB-MTL在这些任务上的优越性。实验结果表明，DB-MTL在多个基准数据集上表现优于当前最先进的方法，证明了其有效性。

在实验部分，我们对多个任务进行了评估，包括场景理解、分子属性预测和图像分类。在场景理解任务中，我们使用了多个基准数据集，如Cityscapes和ADE20K，这些数据集包含了丰富的场景图像和标注信息。实验结果表明，DB-MTL在这些数据集上的表现优于其他方法，特别是在处理复杂场景时，其性能提升更为显著。在分子属性预测任务中，我们使用了多个化学数据集，如QM9和MoleculeNet，这些数据集包含了大量分子结构和属性信息。实验结果表明，DB-MTL在这些任务上的表现同样优于其他方法，特别是在处理高维特征和复杂属性时，其性能提升更为明显。在图像分类任务中，我们使用了多个图像数据集，如ImageNet和CIFAR-10，这些数据集包含了大量图像和对应的分类标签。实验结果表明，DB-MTL在这些任务上的表现也优于其他方法，特别是在处理大规模数据集时，其性能提升更为显著。

通过这些实验，我们验证了DB-MTL的有效性。首先，我们比较了DB-MTL与其他方法在不同任务上的表现。结果表明，DB-MTL在多个任务上的表现优于其他方法，特别是在处理复杂任务和大规模数据集时，其性能提升更为显著。其次，我们分析了DB-MTL在不同任务上的表现差异。结果表明，DB-MTL在不同任务上的表现具有较好的一致性，这表明其方法具有较强的泛化能力。此外，我们还比较了DB-MTL在不同数据集上的表现。结果表明，DB-MTL在多个数据集上的表现优于其他方法，这表明其方法具有较好的适应性。

综上所述，本文提出了一种名为DB-MTL的新方法，该方法通过同时平衡损失和梯度，解决了多任务学习中的任务平衡问题。实验结果表明，DB-MTL在多个基准数据集上的表现优于当前最先进的方法，证明了其有效性。此外，DB-MTL在保持模型结构简单的同时，能够实现较好的性能提升，表明其在实际应用中具有较高的可行性。我们相信，DB-MTL为多任务学习提供了一种新的思路，有助于推动该领域的发展。