潜变量回归建模中零空间与正交空间的等价性研究及其在工业过程优化中的应用

这篇研究通过数学证明和案例研究揭示了潜变量回归建模中零空间(NS)与正交空间(OS)的等价性。文章创新性地桥接了偏最小二乘(PLS)模型反演与正交PLS(O-PLS)建模方法，证明二者在单响应情况下本质相同，为工业过程优化（如产品设计、工艺放大）提供了更简化的计算框架。研究通过模拟和实际催化燃烧案例，图形化展示了NS与OS在PLS和O-PLS模型空间中的完全重叠特性。

　　

潜变量回归建模中的空间等价性突破

ABSTRACT

研究首次通过数学证明揭示了潜变量回归建模中两个核心概念——零空间(NS)与正交空间(OS)的本质同一性。在工业过程优化领域，偏最小二乘(PLS)模型反演产生的NS与正交PLS(O-PLS)建模衍生的OS，长期以来被视为独立发展的数学工具。这项研究通过严格的线性代数推导，证实二者在单响应情况下实为同一线性空间，为工业数据分析提供了新的理论基础。

1 Introduction

现代工业中，潜变量(LV)回归模型已成为从历史数据提取操作信息的关键工具。其中PLS回归因其独特的因果性保持能力，既能用于常规的前向预测，又能通过Jaeckle和MacGregor开创的反演方法解决工程逆问题。当LV维度超过响应矩阵Y的秩时，PLS反演会生成包含无限解的NS——该子空间内的任何输入变化都不会影响输出预测。

与此同时，O-PLS作为PLS的变体，通过改进NIPALS算法分离出与响应正交的系统变异。其生成的OS明确包含不引起输出变化的输入组合。尽管NS和OS具有相似的功能定义，但二者的数学关联始终未被揭示。

2 Mathematical Background

2.2 PLS回归

单响应PLS(PLS1)通过最大化X与y的协方差提取潜变量。当进行模型反演时，由于A>1导致的欠定问题会产生(A-1)维NS。通过奇异值分解(SVD)可获得NS基向量矩阵V₀，其与y载荷向量q满足V₀^Tq=0的严格正交关系。

2.3 O-PLS建模

O-PLS(1;A-1)模型显式分离正交变异：X=T_pP_p^T+T_oP_o^T+E。其OS基可直接从正交权重矩阵W_o获得，且具有W_o=W_PLS(:,2:A)的对应关系。

3 数学等价性证明

研究通过七步严谨推导建立NS与OS的等价性：

1. O-PLS正交得分矩阵T_o与y的天然正交性

2. 预测值?_OPLS与T_o的零相关性

3. ?_OPLS≡?_PLS的预测一致性

4. 推导出W_o^Tq=0的关键等式

5. 证明OS基在PLS空间中与q正交

   最终结论：NS和OS不仅张成相同子空间，在保证期望响应y_t的平移位置上也完全重合。

4 几何诠释

4.1 案例研究1

采用Palací-López的5变量仿真数据，2LV-PLS与O-PLS(1;1)模型展示：

• 二者累计R²均为0.9714(X)和0.9359(y)

• 当y_t=0时，NS基[-0.1553;0.9879]与OS基[1]在相互投影后完全重叠

4.2 案例研究2

基于9971批次的催化燃烧数据，3LV-PLS与O-PLS(1;2)模型显示：

• 三维空间中NS平面与OS平面完全重合

• 正交得分T_o与非正交得分U_2:3的线性对应关系验证了附录A的替代证明

5 Conclusions

该研究首次建立PLS反演与O-PLS建模的数学桥梁，证明NS与OS的等价性使O-PLS反演成为更优选的工程解决方案——其显式分离正交变异的特性，将传统PLS反演涉及的复杂矩阵运算简化为单次除法运算。这一发现为产品质量设计、工艺放大等工业优化问题提供了更高效的计算范式。未来研究可拓展至多响应系统及约束优化问题的求解。