【KernelPCA】理论与实现

2017年12月19日

Author: Guofei

文章归类: 3-1-降维，文章编号: 321

版权声明：本文作者是郭飞。转载随意，但需要标明原文链接，并通知本人
原文链接：https://www.guofei.site/2017/12/19/kernelpca.html

简介

PCA从高维空间向低维空间的映射是线性的。
有些问题需要非线性映射才能找到合适的低维空间来降维。
KernelPCA是PCA的推广，用到了Kernel 技巧。

‘linear’: K(x⃗ ,z⃗ )=x⃗ z⃗ K(x→,z→)=x→z→
‘poly’: K(x⃗ ,z⃗ )=(γ(x⃗ z⃗ +1)+r)pK(x→,z→)=(γ(x→z→+1)+r)p
γγ由gamma参数确定，p由degree参数确定，r由coef0参数确定
‘rbf’: K(x⃗ ,z⃗ )=exp(−γ∣∣x⃗ −z⃗ ∣∣2)K(x→,z→)=exp⁡(−γ∣∣x→−z→∣∣2)
γγ由gamma参数确定
‘sigmoid’: K(x⃗ ,z⃗ )=tanh(x⃗ z⃗ )K(x→,z→)=tanh⁡(x→z→)
γγ由gamma参数确定，r由coef0参数确定
‘precomputed’

您的支持将鼓励我继续创作！