利用拉格朗日函数法求解SVM模型的具体形式 - 以(1; 1),(1; 0),(0; 1)为例
首先,根据题意,我们可以将样本点表示为:/n/n$x_1 = (1,1), y_1 = 1$/n/n$x_2 = (1,0), y_2 = 1$/n/n$x_3 = (0,1), y_3 = -1$/n/n接下来,我们可以利用拉格朗日函数法求解相应的SVM模型。SVM的目标函数可以表示为:/n/n$$/min_{w,b,/xi}/frac{1}{2}/Vert w/Vert^2+C/sum_{i=1}^{m}/xi_i$$ /n/n其中,$w$是超平面的法向量,$b$是偏置量,$/xi$是松弛变量,$C$是惩罚系数,$m$是样本个数。此外,SVM的约束条件可以表示为:/n/n$$y_i(w^Tx_i+b)/geqslant 1-/xi_i,i=1,2,/cdots,m$$ /n/n$$/xi_i/geqslant 0,i=1,2,/cdots,m$$ /n/n接下来,我们可以构造拉格朗日函数:/n/n$$/mathcal{L}(w,b,/xi,/alpha,/mu)=/frac{1}{2}/Vert w/Vert^2+C/sum_{i=1}^{m}/xi_i-/sum_{i=1}^{m}/alpha_i[y_i(w^Tx_i+b)-1+/xi_i]-/sum_{i=1}^{m}/mu_i/xi_i$$ /n/n其中,$/alpha_i/geqslant 0$和$/mu_i/geqslant 0$是拉格朗日乘子。接下来,我们可以分别对$w$,$b$和$/xi$求偏导数,令偏导数等于0,得到:/n/n$$/frac{/partial/mathcal{L}}{/partial w}=w-/sum_{i=1}^{m}/alpha_iy_ix_i=0/Rightarrow w=/sum_{i=1}^{m}/alpha_iy_ix_i$$ /n/n$$/frac{/partial/mathcal{L}}{/partial b}=-/sum_{i=1}^{m}/alpha_iy_i=0$$ /n/n$$/frac{/partial/mathcal{L}}{/partial /xi_i}=C-/alpha_i-/mu_i=0/Rightarrow/alpha_i+C=/mu_i$$ /n/n将上述结果代入拉格朗日函数,可以得到:/n/n$$/begin{aligned}/mathcal{L}(w,b,/xi,/alpha,/mu)&=/frac{1}{2}/Vert w/Vert^2+C/sum_{i=1}^{m}/xi_i-/sum_{i=1}^{m}/alpha_i[y_i(w^Tx_i+b)-1+/xi_i]-/sum_{i=1}^{m}/mu_i/xi_i//&=/frac{1}{2}/sum_{i=1}^{m}/sum_{j=1}^{m}/alpha_i/alpha_jy_iy_jx_i^Tx_j+/sum_{i=1}^{m}/alpha_i-/sum_{i=1}^{m}/alpha_iy_i(w^Tx_i+b)-/sum_{i=1}^{m}(/alpha_i+C)/xi_i/end{aligned}$$ /n/n最终,我们得到了SVM的对偶问题:/n/n$$/max_{/alpha}/sum_{i=1}^{m}/alpha_i-/frac{1}{2}/sum_{i=1}^{m}/sum_{j=1}^{m}/alpha_i/alpha_jy_iy_jx_i^Tx_j$$ /n/n$$/text{s.t. }/sum_{i=1}^{m}/alpha_iy_i=0,/alpha_i/geqslant 0,i=1,2,/cdots,m$$ /n/n将样本点代入上式,可以得到:/n/n$$/max_{/alpha}/alpha_1+/alpha_2-/frac{1}{2}/left(/alpha_1^2+/alpha_2^2+2/alpha_1/alpha_2/right)$$ /n/n$$/text{s.t. }/alpha_1-/alpha_2=0,0/leqslant/alpha_1,/alpha_2/leqslant C$$ /n/n我们可以使用二次规划的方法求解该问题,最终得到:/n/n$$/alpha_1=/alpha_2=/frac{C}{2}$$ /n/n将$/alpha_1$和$/alpha_2$代入$w=/sum_{i=1}^{m}/alpha_iy_ix_i$,可以得到:/n/n$$w=/frac{C}{2}(1,1)$$ /n/n最终,我们得到了SVM的具体形式:/n/n$$f(x)=/text{sign}(w^Tx+b)=/text{sign}/left(/frac{C}{2}(1,1)/cdot x/right)$$ /n/n其中,$/text{sign}$表示符号函数。
原文地址: http://www.cveoy.top/t/topic/nOf4 著作权归作者所有。请勿转载和采集!