基于多任务学习的小样本条件下配电网短期负荷预测增强方法

《IEEE Potentials》：Multitask learning for enhanced short-term load forecasting in distribution networks under small sample conditions

为解决小样本条件下配电网短期负荷预测(STLF)的过拟合问题，研究人员开展基于多任务学习(MTL)的小样本学习方法(SSLM)研究。该方法通过序列相似性聚类识别相关任务，利用余弦相似度迁移共享层参数，结合集成学习最小二乘微调技术，显著提升了CNN、LSTM等人工神经网络(ANN)模型在小样本场景下的泛化性能。实验证明该方法在贵阳实际数据集上有效缓解了过拟合风险。

　　

随着电力系统智能化发展，短期负荷预测(STLF)已成为保障配电网安全经济运行的核心技术。然而，新建配电变压器往往仅积累数天至一个月的负荷数据，导致基于人工神经网络(ANN)的预测模型面临小样本过拟合的严峻挑战。传统方法在数据增强、迁移学习和集成学习等方面虽取得进展，但尚未充分利用配电网本地区域负荷序列的天然相似性。针对这一瓶颈，清华大学与香港理工大学联合团队在《IEEE Potentials》发表研究，提出了一种创新性的小样本学习解决方案。

本研究的关键技术突破在于构建了基于多任务学习(MTL)的小样本学习方法(SSLM)。该方法首先采用序列相似性评估对充足样本条件下的负荷序列进行聚类，识别具有相似特征的预测任务；其次利用余弦相似度判定小样本序列的簇属关系，确保MTL共享层的有效迁移；最后提出集成学习增强的最小二乘微调策略，在计算效率与泛化性能间取得平衡。研究团队在贵阳电网220台配电变压器实测数据集上验证了方法的有效性。

研究结果方面：

1. 1.
   性能对比实验显示，SSLM在200kVA、250kVA、315kVA等不同容量变压器场景下，均显著优于基线模型。以CNN模型为例，在200kVA场景下RMSE从5.41kW降至3.48kW，MAPE从14.91%优化至9.66%。

1. 2.
   消融实验证实余弦相似度优于欧氏距离，能捕捉负荷序列的趋势相似性而非数值差异。当Top-k=3时，余弦相似度筛选的源场景多样性更高，更符合集成学习要求。
2. 3.
   小样本规模影响分析表明，随着训练数据从5天增至15天，所有模型性能均提升，但SSLM在极端小样本条件下表现最为稳定。例如CNN-LSTM模型在5天训练数据下MAPE仍保持6.35%。

1. 4.
   计算成本实验显示，虽然MTL训练阶段耗时增加（Transformer模型从79.27秒增至98.11秒），但微调阶段仅需3秒，推理阶段小于0.1秒，具备工程应用可行性。

结论部分强调，SSLM通过融合MTL的表示学习优势与集成学习的方差缩减特性，为配电网小样本负荷预测提供了新思路。该方法不仅能有效缓解ANN模型的过拟合问题，其基于负荷相似性的任务聚类思路更可扩展至多能源系统预测等领域。未来研究方向包括探索更精细的相似性度量指标以及跨区域迁移学习机制。

本研究的重要意义在于：首次系统性地将MTL框架应用于配电网小样本负荷预测场景；提出的余弦相似度度量方法克服了传统欧氏距离对数值规模的敏感性；创新的集成微调策略为小样本学习提供了新的参数优化范式。这些突破对推进配电自动化系统建设具有实质性贡献。