高阶累积量属于较常被使用的高阶统计量。近几年来，高阶累积量广泛用于盲信号处理，其中就包括盲源分离[[35] 连丹丹。 基于极化敏感阵列信号的多参数估计研究[D]。 长春理工大学, 2009。][35]。其定义如下：文献综述

的第二特征函数按taylor级数展开后得到：

且与的阶导数之间的关系为：

即为随机变量的阶累积量。

2。1。3  互信息

在提互信息之前，必须要先提一下Kullback-Leibler散度的概念。Kullback-Leibler散度常被简写作KL散度，还被称作KL熵，是一个用来衡量2个PDF之间类似程度的值。其定义如下：(2-7)

由定义式可以看出，KL散度的值一定，当且仅当时其值为0。

在实际的语音分离任务中，Kullback-Leibler散度一般用来衡量信号各个分量之间互相独立的程度。设多变量的联合PDF为，各个分量的边际PDF为。只在各个分量相互独立的情况下才有。取等号两边二者的KL散度，即为互信息(mutual information)：

                                        (2-8)

一般简写为或者。由上述Kullback-Leibler散度的性质易知在且仅在各分量相互独立的情况下其值为0。

再考虑互信息和信息熵两者间的联系，易推得有,且有。也就是说各个分量信息熵的和通常大于联合熵，在也仅在各分量相互独立的情况下二者相同。

2。1。4  负熵

因为在拥有同样协方差阵的PDF中正态分布的信息熵最大，所以通常该PDF非高斯水平的衡量为：设任意的PDF为，与其拥有同一协方差阵的正太分布之间的Kullback-Leibler散度，记为负熵，一般用标记或代表。

对于单变量，有：        (2-9)

式(2-9)也可表示为：     (2-10)

推广到多变量的情况下，有:     (2-11)

由此可见负熵还可以理解为：任意概率密度函数与具有相同平方的期望值的正太分布两者间熵的差值。

同上，我们也要考虑互信息与负熵二者间的联系：来:自[优.尔]论,文-网www.youerw.com +QQ752018766-

式(2-12)中，是的协方差阵，是其对角元素，是其行列式，

对于具有正交归一性的向量，该向量的互信息等同于自身的负熵和所有分量负熵总量的差值，在且仅在每个分量相互独立的情况下二者相同。即当是一组正交归一的数据时有，便可把式(2-12)化简为：   (2-13)

2。2  盲源分离的数学模型

2。2。1  盲源分离的混合模型

按照传输通道的各种混叠形式，BSS问题往往分类为线性混合和非线性混合，而线性混合又分成瞬时混合和卷积混合[[36] 许鹏飞。 卷积混合数字通信信号的盲源分离[D]。 西安电子科技大学, 2010。][36]。本文主要介绍瞬时混合的BSS。瞬时混合盲分离的模型是最早出现也是相关算法最完善的模型。其混合模型如图2。1所示。用数学语言可表述为:(2-14)

式(2-14)中，

式(2-14)中，是观测到的维信号，是不明的维源信号，为不明的维混叠矩阵。为发送端第个信源到接收端第个观测信号之间的复信道增益