支持向量机是什么呢🤔？
概念
- 间隔Margin
- 支持向量（Support Vector）：只是指临界向量吗
- 正超平面、决策超平面、负超平面
- 损失因子：异常值
- 软间隔（Soft Margin）：考虑异常值的间隔
- 硬间隔（Hard Margin）：不考虑异常值的间隔
20230306164100
- KKT条件：
20230306163819 - 对偶性：
升维转换
对于在低纬度下无法轻松区分的数据可以增加维度进行区分，如下图（图源B站FunInCode，侵删）：
20230306164014
因此可以考虑合适的方法进行升维转换：
- 采用合适的升维函数在高纬度下求解SVM模型，找到对应的高维决策超平面，预测数据时先对数据进行升维，再根据高维决策边界超平面进行判断，但是这种方法需要确定的升维函数，以及更多的数据存储和计算需求
但是一般这种方法耗费很大，因此就要用到核技巧了
核技巧(Kernel Trick)
核技巧可以使SVM在低维就可以进行高维的区别对比
20230306170123
高斯核函数（RBF，Radial Basis Kernel）
20230306170437
取$\lambda$ 为$\frac{1}{2}$ ,高斯核函数可以转化为自然对数的形式，对其进行泰勒展开，即可通过控制参数获得从0维到无穷维的表达式
20230306170928
