评估分位数回归神经网络在异构平台上优化实时应用的效果

《Future Generation Computer Systems》：Evaluating Quantile Regression Neural Networks for Optimizing Real-Time Applications on Heterogeneous Platforms

分布式和连接智能部门，IKERLAN研究中心，巴斯克科技与研究中心联盟，西班牙 摘要：现代实时系统依赖边缘计算中的复杂AI算法，需通过异构MPSoC平台实现。本文提出动态WCET分析框架，利用量化回归神经网络（QRNN）预测多核系统内存争用对任务执行时间的影响，通过事件监控数据训练模型并实时调整WCET估计，实验验证其相比传统静态分析的预测精度和效率优势，适用于混合关键性系统优化。

　　在当今高度复杂的计算环境中，实时系统面临着越来越多的挑战，特别是在多核异构平台中。这些平台通常包含多个处理器和专用加速器，能够执行计算密集型任务，如人工智能算法和高级感知系统。然而，这种强大的计算能力也带来了新的问题，尤其是内存竞争（memory contention）对系统性能和最坏情况执行时间（WCET）估算的影响。内存竞争指的是多个处理单元争夺共享内存资源，如缓存或全局内存，这可能导致任务执行时间增加，从而影响系统的实时性和功能安全性。因此，如何高效、准确地评估WCET并应对内存竞争成为当前研究的重要课题。

传统的方法通常依赖静态分析，这种方法在面对复杂系统配置时变得不可行。为了应对这一挑战，研究人员提出了基于量化回归神经网络（QRNN）的分析和优化框架，能够根据系统配置重新评估WCET，从而更准确地反映内存竞争对异构平台的影响。QRNN作为一种机器学习方法，可以利用事件监控数据（Event Monitor data）来推断任务在特定配置下的内存竞争情况，从而提高预测的准确性。这种技术的核心在于其能够根据任务的执行模式，识别和量化内存竞争对执行时间的影响，从而在实时系统的设计和分析过程中提供更可靠的数据支持。

本文提出的框架通过将QRNN集成到实时系统分析和优化流程中，显著提高了预测的灵活性和准确性。QRNN模型在训练时考虑了多种任务的内存访问模式，并通过量化回归损失函数来优化预测结果。这种方法能够捕捉到不同任务之间的复杂交互关系，从而提供更加全面的内存竞争评估。此外，QRNN还能够通过调整量化参数，如90%分位数，来实现更保守的预测，确保在最坏情况下也能满足系统的需求。这种基于分位数的预测方式，使得QRNN能够在不依赖复杂的静态分析的情况下，提供一个动态、可调整的WCET估算方案。

在实际应用中，QRNN的预测结果能够与实际观测到的内存竞争保持较高的相关性，即使在某些情况下可能存在低估，但这种低估并不显著影响整体系统的可靠性。实验结果表明，QRNN模型在特定系统配置下表现良好，能够有效支持系统优化过程。同时，这种方法的可扩展性优于传统的经验测量，特别是在大规模系统优化中，其效率提升可达两个数量级。这使得QRNN成为实时系统分析和优化过程中一个非常有潜力的解决方案。

为了验证QRNN的有效性，研究者在NVIDIA Jetson AGX Xavier平台上进行了实验，该平台是一个异构计算平台，包含多个核心和专用加速器。通过执行不同任务组合的实验，研究者收集了大量事件监控数据，并利用这些数据训练QRNN模型。实验结果显示，QRNN模型在不同内存访问模式下表现不一，某些任务如涉及随机内存访问的任务，其预测误差相对较大，而顺序访问任务的预测准确性较高。这表明，QRNN模型在某些情况下可能需要进行任务特定的优化，以提高预测的准确性。

此外，研究还探讨了如何在不同的系统配置下使用QRNN模型进行WCET估算。通过将任务的事件监控数据与系统配置结合，QRNN能够动态调整预测结果，从而更好地反映实际的内存竞争情况。这种方法的优势在于，它不需要对每个可能的系统配置进行实时测试，而是通过预先训练的模型，快速提供WCET估算。这种预测方法不仅减少了实验的时间成本，还提高了系统的可扩展性，使其能够适应更加复杂的优化需求。

研究还指出，虽然QRNN能够提供高效的WCET估算，但在某些情况下可能会低估实际的内存竞争。因此，在使用QRNN进行系统优化时，需要采取保守策略，确保预测值能够覆盖最坏情况。这可以通过选择较高的分位数（如90%）来实现，从而在不影响系统性能的前提下，提供更加安全的估算结果。同时，研究者还建议在系统优化过程中，如果发现模型的预测误差较大，应重新训练系统特定的模型，以提高预测的准确性。

在实际应用中，QRNN的集成不仅提高了实时系统分析的效率，还为系统优化提供了新的思路。通过将QRNN模型与现有的分析和优化工具（如MAST）结合，可以实现更加灵活的系统设计。这种框架的灵活性和可扩展性，使其能够适应不同类型的系统需求，包括功能安全要求较高的系统。尽管在某些情况下可能需要额外的验证步骤，但QRNN的预测结果仍然能够为系统优化提供有价值的参考。

总的来说，本文提出了一种基于QRNN的分析和优化框架，能够在不依赖复杂静态分析的情况下，动态评估实时系统在不同配置下的WCET。这种框架不仅提高了预测的准确性，还显著降低了优化过程的时间成本，使其在大规模系统优化中具有重要的应用价值。此外，研究者还探讨了QRNN在不同任务访问模式下的表现，并提出了任务特定和系统特定两种模型的使用策略，为实际应用提供了更多的选择。随着多核异构平台的不断发展，QRNN方法在实时系统设计和分析中的应用前景十分广阔。