【FA】理论与实现

2017年10月13日

Author: Guofei

文章归类: 3-1-降维，文章编号: 322

版权声明：本文作者是郭飞。转载随意，但需要标明原文链接，并通知本人
原文链接：https://www.guofei.site/2017/10/13/factor.html

Edit

因子分析(factor analysis)包括两种：R型因子分析，Q型因子分析。一般讨论R型因子分析

数学模型

R型因子分析

X=AF+ϵX=AF+ϵ

其中，
A=⎛⎝⎜⎜⎜a11a21...ap1a12...a22...ap2...a1ma2mapm⎞⎠⎟⎟⎟=(A1,A2,...Am)A=(a11a12...a1ma21a22...a2m...ap1ap2...apm)=(A1,A2,...Am)

X=⎛⎝⎜⎜⎜X1X2...Xp⎞⎠⎟⎟⎟,F=⎛⎝⎜⎜⎜F1F2...Fp⎞⎠⎟⎟⎟,ϵ=⎛⎝⎜⎜⎜ϵ1ϵ2...ϵp⎞⎠⎟⎟⎟X=(X1X2...Xp),F=(F1F2...Fp),ϵ=(ϵ1ϵ2...ϵp)

并且满足：

m≤pm≤p
Cov(F,ϵ)=0Cov(F,ϵ)=0，即公共因子和特殊因子不相关
D(F)=⎛⎝⎜⎜⎜11...1⎞⎠⎟⎟⎟D(F)=(11...1)，公共因子之间不相关且方差为1
D(ϵ)=⎛⎝⎜⎜⎜⎜σ21σ22...σ2p⎞⎠⎟⎟⎟⎟D(ϵ)=(σ12σ22...σp2)，特殊因子不相关，但方差不要求相等

模型中的aijaij称为载荷

Q型因子分析

Xi=ai1F1+ai2F2+…+aimFm+ϵi,i=1,2,…nXi=ai1F1+ai2F2+…+aimFm+ϵi,i=1,2,…n
与R型不同的是，这里的XiXi表示一个样本。

性质

性质1

cov(Xi,Fj)=aijcov(Xi,Fj)=aij 如果X做过标准化，那么：
相关系数为ρ(Xi,Fj)=aijρ(Xi,Fj)=aij

性质2

记h2i=∑j=1ma2ijhi2=∑j=1maij2
得到D(Xi)=h2i+σ2iD(Xi)=hi2+σi2
如果X做过标准化，那么1=h2i+σ2i1=hi2+σi2

也就是说，XiXi的方差有两部分组成：共同度 h2ihi2,个性方差 σ2iσi2

性质3

g2j=∑pi=1a2ijgj2=∑i=1paij2称为公共因子FjFj对XX的贡献，
其意义是公共因子FjFj对X各个变量所提供的方差贡献的总和，它是衡量一个公共因子相对重要性的一个尺度

因子旋转

ΓΓ是正交阵，那么对AΓAΓ, 对应的公共因子是ΓTFΓTF

这样的ΓΓ可以有很多种，我们选用最大方差旋转法

Python实现

大图见于这里

您的支持将鼓励我继续创作！

【FA】理论与实现