3

【丢弃】正态分布的性质

 2 years ago
source link: https://www.guofei.site/2018/09/03/gaussian.html
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.

【丢弃】正态分布的性质

2018年09月03日

Author: Guofei

文章归类: ,文章编号: 9530


版权声明:本文作者是郭飞。转载随意,但需要标明原文链接,并通知本人
原文链接:https://www.guofei.site/2018/09/03/gaussian.html

Edit

更清晰的内容更新到这里

定义

f(x1,x2,…xp)=1(2π)p/2∣Σ∣1/2exp[−12(x−u)′Σ−1(x−u)]f(x1,x2,…xp)=1(2π)p/2∣Σ∣1/2exp[−12(x−u)′Σ−1(x−u)] where,

  • u是p阶向量
  • ΣΣ是p阶正定矩阵

叫做X服从p元正态分布, 记为X∼Np(u,Σ)X∼Np(u,Σ)

性质

如果X=(X1,X2,…Xp)∼Np(u,Σ)X=(X1,X2,…Xp)∼Np(u,Σ)

性质1:均值和方差

EX=uEX=u
Var(X)=ΣVar(X)=Σ

当∣Σ∣=0∣Σ∣=0,不存在密度函数。 当然可以给出一些形式上的表达式,使得可以统一处理。

性质2:独立性

如果ΣΣ是对角阵,那么X1,X2,…,XpX1,X2,…,Xp相互独立

性质3:分块矩阵

做如下拆分:
X=[X(1∼q)X(q+1∼p)],u=[u(1∼q)u(q+1∼p)],Σ=[Σ11Σ21Σ12Σ22]X=[X(1∼q)X(q+1∼p)],u=[u(1∼q)u(q+1∼p)],Σ=[Σ11Σ12Σ21Σ22],
那么: X(1∼q)∼Nq(u1∼q,Σ11),X(q+1∼p)∼Nq(uq+1∼p,Σ22)X(1∼q)∼Nq(u1∼q,Σ11),X(q+1∼p)∼Nq(uq+1∼p,Σ22)

需要指出:

  • 多元正态分布的任何边缘分布都是正态分布,反之不真。
  • Σ12=0Σ12=0表示独立,所以多元正态分布拆分后不相关则独立
  • 两个正态分布不相关,不一定独立。只有是多元正态分布时,不相关才推出独立。

性质4:线性组合

如果As×p,ds×1As×p,ds×1都是常数矩阵,
那么AX+d∼Ns(Au+d,AΣA′)AX+d∼Ns(Au+d,AΣA′)

乘法

参见Products and Convolutions of Gaussian Probability Density Functions

正态分布乘法的定义

注意区别于随机变量的乘法
正态分布的乘法定义为概率密度函数相乘,然后乘以归一化系数使积分仍然是1.

已知N(ui,Σi),i=1,…nN(ui,Σi),i=1,…n,对应的的概率密度函数是fi(x)=1(2π)p/2∣Σi∣1/2exp[−12(x−ui)′Σ−1i(x−ui)]fi(x)=1(2π)p/2∣Σi∣1/2exp[−12(x−ui)′Σi−1(x−ui)]

  1. ∏ni=1N(ui,Σi)∏i=1nN(ui,Σi)仍然是一个正态分布
  2. 新正态分布的方差满足1Σ=∑1Σi1Σ=∑1Σi
  3. 新正态分布的均值满足uΣ=∑uiΣiuΣ=∑uiΣi

参考文献

Products and Convolutions of Gaussian Probability Density Functions


您的支持将鼓励我继续创作!

About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK