更清晰的内容更新到这里

定义

$f(x_1,x_2,…x_p)=\dfrac{1}{(2\pi)^{p/2} \mid \Sigma \mid ^{1/2}} exp[-\dfrac{1}{2} (x-u)’\Sigma^{-1}(x-u)]$ where,

• u是p阶向量
• $\Sigma$是p阶正定矩阵

叫做X服从p元正态分布， 记为$X \sim N_p(u,\Sigma)$

性质

如果$X=(X_1,X2,…X_p) \sim N_p(u,\Sigma)$

性质1：均值和方差

$EX=u$
$Var(X)=\Sigma$

当$\mid\Sigma \mid =0 $,不存在密度函数。 当然可以给出一些形式上的表达式，使得可以统一处理。

性质2：独立性

如果$\Sigma$是对角阵，那么$X_1,X_2,…,X_p$相互独立

性质3：分块矩阵

做如下拆分：
\(X=\left [\begin{array}{ccc}X^{(1\sim q)}\\ X^{(q+1 \sim p)} \end{array}\right], u=\left [\begin{array}{ccc}u^{(1\sim q)}\\ u^{(q+1 \sim p)} \end{array}\right], \Sigma=\left [\begin{array}{ccc}\Sigma_{11}&\Sigma_{12}\\ \Sigma_{21}&\Sigma_{22} \end{array}\right]\),
那么： $X^{(1\sim q)}\sim N_q(u^{1\sim q},\Sigma_{11}), X^{(q+1 \sim p)} \sim N_q(u^{q+1\sim p},\Sigma_{22})$

需要指出：

• 多元正态分布的任何边缘分布都是正态分布，反之不真。
• $\Sigma_{12}=0$表示独立，所以多元正态分布拆分后不相关则独立
• 两个正态分布不相关，不一定独立。只有是多元正态分布时，不相关才推出独立。

性质4：线性组合

如果$A_{s\times p},d_{s\times 1}$都是常数矩阵，
那么$AX+d\sim N_s(Au+d,A\Sigma A’)$

乘法

参见Products and Convolutions of Gaussian Probability Density Functions

正态分布乘法的定义

注意区别于随机变量的乘法
正态分布的乘法定义为概率密度函数相乘，然后乘以归一化系数使积分仍然是1.

已知$N(u_i,\Sigma_i),i=1,…n$，对应的的概率密度函数是$f_i(x)=\dfrac{1}{(2\pi)^{p/2} \mid \Sigma_i \mid ^{1/2}} exp[-\dfrac{1}{2} (x-u_i)’\Sigma_i^{-1}(x-u_i)]$

1. $\prod_{i=1}^n N(u_i,\Sigma_i)$仍然是一个正态分布
2. 新正态分布的方差满足$\dfrac{1}{\Sigma}=\sum \dfrac{1}{\Sigma_i}$
3. 新正态分布的均值满足$\dfrac{u}{\Sigma}=\sum\dfrac{u_i}{\Sigma_i}$

参考文献

Products and Convolutions of Gaussian Probability Density Functions