本课题的公认奠基人是美国科学家香农，他在1948年发表了著名的论文《通信的数学理论》，为信息论奠定了理论基础。近半个世纪以来，以通信理论为核心的经典信息论，正以信息技术为物化手段，向高精尖方向迅猛发展，并以神奇般的力量把人类社会推入了信息时代。随着信息理论的迅猛发展和信息概念的不断深化，信息论所涉及的内容早已超越了狭义的通信工程范畴，进入了信息科学这一更广阔、更新兴的领域。64234

人们对于信息的认识是此课题发展的重要依据。最早对信息进行科学定义的是哈特莱（R.V..L.Hartley）。1928年，他在《信息传输》一文中首先提出了“信息”的概念，他认为，发信者所发出的信息，就是他在通信符号表中选择符号的具体方式，并主张用所选择的自由度来度量信息。1948年，控制论的创始人之一，美国科学家维纳（N.Wiener）出版了《控制论——动物和通信与控制问题》一书。他在书中指出：信息是信息，不是物质，也不是能量。后来他又在《人有人的用处》中提出：“信息是人们适应外部世界并且使这种适应反作用与外部世界的过程中，同外部世界进行互相交换的内容的名称。”又说：“接收信息和使用信息的过程，就是我们适应外部环境的偶然性变化的过程，也是我们在这个环境中有效地生活的过程。”“要有效地生活，就必须有足够的信息。”的确，信息对人类的生存是很重要的，但是，信息不仅仅与人类有关，不仅仅是人与外部世界交换的内容。后来又有人提出用变异度、差异量来度量信息，认为“信息就是差异”。意大利学者朗格（G.Longe）就是这种说法的支持者，他在1975年出版的《信息论：新的趋势与未决问题》一书序言中提出：“信息是反映事物的形式、关系和差别的东西。信息是包含于客体间的差别中，而不是在客体本身中。”然而以上的几种定义都是不全面、不确切的。香农在1948年发表的著名论文《通信的数学理论》中，从研究通信系统传输的实质出发，对信息做了科学的定义论文网，并进行了定性和定量的描述。信息是事物运动状态或存在方式的不确定性的描述，这就是香农信息的定义。本文1.1节中已阐述了根据香农的定义对信息进行定量描述的方法，即用对数函数。在此基础上，人们对通信系统的研究才得以迅速发展。

信道作为通信系统中十分重要的一部分，在信息传输中起着关键的作用。衡量一个信道的好坏以及各方面性能，信道容量是一个重要的参数。因此，在信道容量计算方面，中外学者一直抱以极大热情。从信道容量的概念出发，很容易得到无噪、无损信道和对称、准对称信道的算法。后又有学者给出了信道容量的一般计算方法。1972年，S.Arimoto和R.E.Blahut提出了离散无记忆信道容量的迭代算法，这是一种有效的数值计算法，能以任意给定的精度及有限步数算出任意离散无记忆信道的信道容量。1985年，我国学者杨劲松和冯锡生又对迭代算法进行了改进使其有更高的效率，在此基础上提出了可以简化信道容量计算的递推形式，并总结两种方法得出了更简便的信道容量直接计算法。在《长江大学学报（自然科学版）》（2008年9月第5卷第3期）上，曹静等学者发表了利用Frank-Wolfe方法求解一般离散无记忆信道信道容量的论文，该方法是将问题转化为一个线性约束优化问题，是一种比迭代算法更简便的方法。移动通信系统的迅速发展，对信道的研究提出了新的要求，特别是多输入多输出信道技术，在通信系统发射端和接收端采用该技术，能充分利用频谱资源和改善系统性能。对于多输入多输出信道的信道容量计算，也可借鉴迭代算法的思想。2008年的《离散信道容量的迭代算法及其实现》一文中，中国学者辛英用JAVA语言实现了信道容量的迭代算法。