Page 141 - 水文预报与水资源优化管理技术

水文预报与水资源优化管理技术

向量。SVM 采用结构风险最小化准则（Structural Risk Minimization，SRM），具
有避免过学习、全局最优、泛化能力好等性能，较好的解决了小样本、非线性、

高维度等水文中的常见问题。
（一）支持向量回归机

支持向量回归机（Suppport Vector machine for Regession，SVR）是建立在
SVM 上的回归算法，其基本思想是用少数支持向量代表整个样本集，利用非线

映射（x），将低维非线性函数估计问题转换为高维线性函数估计问题。设非线性
回归函数：

f（x）=〈ω，（x）〉+b，ω、x ∈ Rn，b ∈ R
min12‖ω‖2+C ∑ ni=1（ξi+ξ*i）（1）

式中：x 为样本输入；f（x）在不敏感损失函数 ε 范围内的线性回归问题
转换为寻求最小 ‖ω‖ 问题，针对精度 ε 不能处理的问题，引入松弛变量 ξi，

ξ*i 和误差惩罚参数 C，此时优化方程的约束为：
s.t.yi-f（xi）≤ ε+ξi

f（xi）-yi ≤ ε+ξ*i
ξi，ξ*i ≥ 0（2）

为求解此凸二次规划，根据 KKT 条件，引入 Lagrange 函数：
L（ω，b，α，α*）=12‖ω‖2+C ∑ ni=1（ξi+ξ*i）-

∑ ni=1αi（ξi+ε-yi+〈ω，φ（xi）〉+b）-
∑ ni=1α*i（ξ*i+ε-yi-〈ω，φ（xi）〉-b）-

∑ ni=1ηi（ξi+ξ*i）（3）

得到原优化问题的 Lagrange 对偶问题：
min12 ∑ ni，j=1（a*i-ai）（a*j-aj）K〈xi，xj〉-

∑ ni=1a*i（yi-ε）+ ∑ ni=1ai（yi-ε）
s.t. ∑ ni=1（a*i-ai）=0

134