最大间隔分离超平面、分类决策函数和支持向量:手把手教学
首先,我们需要将数据集中的正例点和负例点分别用红色和蓝色的点表示出来。
正例点 x1=(1,2) 和 x2=(3,3) 分别用红色表示,负例点 x3=(2,1) 和 x4=(3,2) 分别用蓝色表示。
接下来,我们需要找到最大间隔分离超平面。最大间隔分离超平面是将两个类别的数据点分开的线性决策边界。在二维空间中,最大间隔分离超平面是一条直线。
为了找到最大间隔分离超平面,我们需要先计算支持向量。支持向量是离超平面最近的数据点。
计算支持向量的步骤如下:
- 标准化数据集:将数据集中的每个特征值进行标准化处理,使其均值为0,方差为1。
- 计算类别的均值向量:分别计算正例点和负例点的均值向量。
- 计算类别的协方差矩阵:分别计算正例点和负例点的协方差矩阵。
- 计算类别的散布矩阵:将协方差矩阵相加得到散布矩阵。
- 计算散布矩阵的特征值和特征向量。
- 选择特征值最大的特征向量作为最大间隔分离超平面的法向量。
- 根据法向量和支持向量的内积计算超平面的截距。
根据上述步骤,我们可以计算出最大间隔分离超平面为 y = x - 1。
接下来,我们可以根据最大间隔分离超平面来构建分类决策函数。分类决策函数的形式为 f(x) = sign(W^T * x + b),其中 W 是最大间隔分离超平面的法向量,b 是超平面的截距。
根据最大间隔分离超平面 y = x - 1,我们可以得到分类决策函数为 f(x) = sign(x - 1)。
最后,我们可以确定支持向量。在这个例子中,支持向量是距离最大间隔分离超平面最近的数据点。根据最大间隔分离超平面 y = x - 1,支持向量为正例点 x1=(1,2) 和负例点 x3=(2,1)。
综上所述,最大间隔分离超平面为 y = x - 1,分类决策函数为 f(x) = sign(x - 1),支持向量为正例点 x1=(1,2) 和负例点 x3=(2,1)。
原文地址: https://www.cveoy.top/t/topic/pklS 著作权归作者所有。请勿转载和采集!