感知机（二）
source link: https://ylhao.github.io/2018/05/04/207/
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
感知机（二）
感知机算法的直观解释
当一个实例被分类错误时，感知机算法做的事情就是调整 w,bw,b 的值，使得分离超平面向误分类点的一侧移动，以减少该误分类点到超平面的距离。不停的重复这样的过程，直到超平面将所有的点分类正确。
为了便于描述，我们将参数 bb 并入参数 ww，同时给每个实例增加一个特征。
wnew⇐(b,w) xnew⇐(1,x)wnew⇐(b,w)xnew⇐(1,x)
这样定义之后，我们可以得到以下的等式
y=wx+b =wnew⋅xnewy=wx+b=wnew⋅xnew
当 yi(wnew⋅xnew)<0yi(wnew⋅xnew)<0 时说明 (xi,yi)(xi,yi) 点分类错误。
正类点被误分成负类点
设 (xi,yi)(xi,yi) 如果分类正确的话，有 yi=+1yi=+1，也就是说 (xi,yi)(xi,yi) 属于正类，这里我们夹假设 (xi,yi)(xi,yi) 被分类错误，那么会有分类结果为 yi=−1yi=−1。即：
sign(wnew⋅xnew)<0sign(wnew⋅xnew)<0
也就得到：
wnew⋅xnew<0wnew⋅xnew<0
如果用图像来表示会是以下情况（图中 ww 代表上述的 wnewwnew）：
图中的红线代表当前 wnewwnew 的方向，并且当前 wnew⋅x<0wnew⋅x<0，分类错误，图中紫线为当 η=1η=1 时，更新后的 wnewwnew，wnewwnew 更新前分类错误，更新后下次该点就会分类正确了。
负类点被误分成正类点
这种情况就不详细分析了，只给出图像。具体情况可以自行分析。
到这里就比较详细的给出了对于感知机算法的直观解释。
- 《统计学习方法》—— 李航
- 机器学习基石课程 —— 林轩田
转载请注明来源，欢迎对文章中的引用来源进行考证，欢迎指出任何有错误或不够清晰的表达，可以在文章下方的评论区进行评论，也可以邮件至 [email protected]
文章标题:感知机（二）
文章字数:432
本文作者:ylhao
发布时间:2018-05-04, 12:09:31
最后更新:2019-06-07, 11:50:53
原始链接:https://ylhao.github.io/2018/05/04/207/版权声明: "署名-非商用-相同方式共享 4.0" 转载请保留原文链接及作者。
来做第一个留言的人吧！
Recommend
About Joyk
Aggregate valuable and interesting links.
Joyk means Joy of geeK