第15章 信息论(2)
（3）信息的依附性。信息总是依附于一定的物质载体而存在，需要某种物质承担者。信息的价值在于其知识性和技术性。人类所交流的都是各种有意义、有价值的信息，动植物、矿物、能源等都是具体有形的，而信息却是无形的，必须借助物质载体才能得以存在和传递，其中，声波、光波、电磁波这些无形物质载体是信息的第一载体；纸张、胶卷、磁带、磁盘等有形的物质载体是第二载体。没有载体的信息是不存在的。
（4）信息的时效性。现代社会中，信息的使用周期迅速缩短，信息的价值实现取决于及时地把握和运用信息。信息是活跃的，不断变化的，及时地获取有效的信息将获得信息的最佳价值，如时效性很强的天气预报、经济信息、交易信息、科学信息等。若不能及时地使用最新信息，信息的价值就会随其滞后使用的时差而减值或贬值。
（5）信息的无限性。自然界中的许多东西如能量、资源等的数量都是有限的，总有一天它们都会“枯竭”、“耗尽”。而信息却永远不会耗尽，它会越来越快地增长。信息具有无限性，人们可以利用信息来发掘新的材料和新的能源。
（6）信息存在于尚未确定的事物之中，只有尚未确定的事物才会有信息。这是信息的又一个特性。所谓确定的事物，是指某事物不存在种种可能的变化，它的存在是确定的，并又是人们预先知道的。你可把这件事告诉人们，他们不会感到什么意外。例如，今天的天气是晴朗的，这件事已经发生，是确定的事物，并且是人们已经知道的。你再告诉人们，它就不会给人们提供任何信息。所谓尚未确定的事物，就是运动着的事物存在着种种可能出现的状态，并且究竟会出现什么状态是人们预先不完全或完全不知道的。尚未确定的事物具有一定的不确定性，或者说存在着一定的意外。一个事物存在着的可能状态越多，就越不确定，人们对它的变化就越捉摸不定。在这种情况下，事物一旦从不确定变为确定，人们就会获得很多信息。相反，一个事物已经是确定的，那就是人们已经知道的，它就不能给人们提供什么信息了。
以上是信息的一些基本特性。当然，信息的特性远不止这些，北京邮电大学钟义信教授在其《信息与信息化》一书中就总结了10条信息的性质。掌握信息的基本特性不仅有助于我们加深对信息本质的认识，而且还能帮我们更好地利用信息造福于民、造福于社会。
13.3人类认识史上的又一个飞跃——信息论的诞生
人类对信息的认识和利用虽然历史悠久，但是自觉地上升到科学理论的高度并形成一门独立的科学，却是20世纪40年代的事情。可以说，信息论的形成有着深远的思想渊源及深厚的科学技术基础。
信息论是研究信息的基本性质、度量方法以及信息的获取、传输、存储、处理和交换的一般规律的科学。信息论发端于通信工程。信息论的早期研究工作是从20世纪20年代开始的。1924年，美国的奈奎斯特和德国的开夫曼尔指出，为了以一定的速度传送电报信号，电磁波必须有一定的频率范围，即频带宽度。1928年哈特利指出，传递一定量的信息，需要频带宽度与时间的乘积达到一定的值。它类似于通过一定数量的队伍时，道路宽则时间短，道路窄则时间长的道理。哈特利在他发表的探讨信息量的文章——《信息传输》一文中首次提出了消息是代码、符号，信息是包含在消息中的抽象量，可以用消息出现的概率的对数来计算。他的这些理论被视为信息论的发端。加博尔在前人的基础上，进一步考虑到噪声的因素。所有这些工作都给信息论的奠基人香农以启迪，为信息论的诞生准备了条件。
推动信息论产生的直接动因是第二次世界大战后通信事业的迅速发展，如雷达的发明，真空电子管的广泛使用，通信技术、自动控制、电子计算机技术的发展。贝尔电话研究所的香农博士，于1940年起就开始从事信息论的研究，他的研究动机出自于信息的编码问题。1948年和1949年，他在《贝尔系统技术杂志》上分别发表了题为“通信的数学理论”和“在噪声中的通信”两篇论文，提出了度量信息的数学公式，从量的方面描述了信息的传输和提取等问题。这两篇论文被认为是信息论诞生的重要标志。维纳则是从电滤波器中的噪声与消息问题出发来研究信息的统计理论的，他还建立了著名的维纳滤波理论和信号预测理论，阐明了信息定量化的方法和度量公式。由于香农和维纳的工作，信息被作为一个科学的概念进入了各个不同的科学领域。
香农狭义信息论的内容概括起来主要有以下几点：
（1）香农认为通信就是信息传输，也就是把消息由发信者传送给收信者的过程。这个过程是通过由信源、信道和信宿三部分组成的通信系统来实现的。信源（发信者）通过发信机编码把信息变成信号系列，然后发送出去，在收信处则用接受机译码，将信号变成消息，再交给信宿（收信者）。信息通过的空间即传递信息的媒介就叫做信道（如无线电波传播的空间就是无线电通信的信道）。信道中往往存在各种噪声。
香农信息论就是从信源——信道——信宿三部分统一起来的整体联系中研究信息的传输问题的。信息论使用的通信系统模型。
（2）只研究信息的形式，不考虑信息的语义内容。香农认为，通信的基本任务就是精确地或近似地在接收端重现发送端的消息，不需要对消息的语义作任何处理或判断，因此在描述和度量时不必去追究信息的语义内容，只考虑其形式就可以了。这样就为定量地研究信息迈出了重要的一步。
（3）香农冲破了机械决定论的束缚，大胆采用统计学的观点和方法，运用概率统计的方法去度量信息的量，得出了度量概率信息的数学公式，从而创立了统计通信理论，即香农狭义信息论。他把信源发出的信息看作是一个随机过程或随机序列，根据已知的概率，从各种可能的消息中选择消息，这就相当好地、近似地适合于各种信源的性能，从而提出了测量每个消息的平均信息量公式。用概率论来描述信息，就是事件出现的可能性越小，概率越小，信息量就越大；反之，事件出现的可能性越大，概率越大，信息量就越小。所以信息量是概率的反函数。由于香农的信息量公式与概率相关，因此也称概率信息。但在大多数情况下，研究一个单独消息提供的信息量是不够的，还必须研究和观察信源的整体，即信源整体提供的平均信息量，称为信息熵。信息熵表示系统的有序程度，信息量越大，系统就越有序。
总之，香农第一个从理论上提出并阐明通信的基本理论，提出了通信系统模型，并用精确的数学公式表示了信息量的大小，提出了负熵概念，为今后信息论的发展打下了基础。其次是香农信息论初步解决了如何从信宿提取信源发出的消息的技术性问题，并提出了在有限的信道中以最大的速率传送最大信息量的途径，初步解决如何编译码使信息在传进过程中具有最大的速率和最小的差错。香农信息论为信息论的发展开辟了道路。
1949年，韦弗提出信息理论的研究应分为三个层次：技术问题或称语法问题；语义学问题；有效性问题或称语用问题。而香农研究的侧重点却是第一层次的问题即信息论中的语法或技术问题。这就不可避免地存在如下局限：
（1）范围只限于通信领域，忽视了信息的语义（即信息的含义）和语用（即信息的价值）问题。如机器翻译等，不但要让机器懂得词汇和语法，还要让它懂得语义，否则翻译就无法进行。
（2）客观世界中那些界限不那么分明的模糊现象，香农的信息论没有办法去解释。由于香农信息论是创立在概率论的基础之上的，而概率论研究的是非界限分明的机理过程，所以对这类问题无法解决，如胖瘦、高矮、轻重、大小、多少、冷热、几乎等等；另外，信息论对生物学、心理学、经济学、图像识别等也无能为力。
香农狭义信息论的局限决定了它不能适应不断发展的科学技术的需要，信息论的范围也在不断扩展。20世纪50年代，信息论开始向各门学科冲击，人们按照信息论的应用范围的不同，将其分为三类：狭义信息论，主要研究消息的信息量、信道容量以及消息的编码问题等；一般信息论，主要研究通信问题，还包括噪声理论，信号滤波与预测，调制与信息处理问题；广义信息论，不仅包括狭义信息论和一般信息论的内容，还包括所有与信息有关的领域，如心理学、语言学、神经生物学等。
13.4高科技前沿——信息科学的出现
到了20世纪70年代，由于数字计算机的广泛应用，通信和控制系统的能力的迅速提高，如何更有效地利用和处理信息成为日益迫切的问题，人们越来越认识到信息的重要性，认识到它可以作为材料和能源一样的资源加以充分利用和共享。随着科学的发展和信息论渗透到各个学科领域，突破狭义信息论的狭隘范围的要求日益迫切，因此，信息科学也就应运而生。
信息科学（又称广义信息论）是一门新兴的、综合性的边缘学科，它以狭义信息论和控制论为理论基础，与电子学、系统论、系统工程、人工智能、计算机科学和自动化技术等相结合，广泛应用于物理学、化学、生物学、仿生学、心理学、管理学等学科中去，用以研究信息的产生、获取、变换、传输、存储、处理和利用等各类问题。
信息科学的研究方法总的来说大致有三种：
（1）信息分析综合法，即从信息的观点出发，抓住对象的信息特征和联系来分析对象，揭示其内外联系，进行综合分析，从而实现一定的工作目标。
（2）行为功能模拟法，即在进行信息综合时，从行为的观点出发，以行为相似为基础，从功能上来模拟事物与环境的相互作用方式。这方法用的是黑箱方法，对于要模拟的对象，可以不知其内部结构，看作一只黑箱，只注意其输入——输出关系即可。
（3）系统整体优化法，即从系统的观点出发，着重从整体与部分之间，整体与外部环境间的相互联系中综合地考察对象，达到最佳目的。
信息科学的核心问题是信息化、智能化、综合化，它使人类智力得到了空前的解放。
信息科学是20世纪70年代提出来的，20世纪80年代我国正式使用信息科学这一提法，因此信息科学还是一门年轻的科学，还有待于进一步发展。随着信息概念的不断发展和广泛运用，对语义信息、模糊信息、有效信息等的研究越来越被人们所重视。
（1）语义信息的研究。关于语义信息的研究是从20世纪60年代开始的，1964年卡尔纳普提出语义信息。1968年贝里斯和高艾斯提出有效信息。语义信息是指信源所发出的信息包含的意义，而香农信息论只研究了信宿收到的信息是等价的，意义如何无法解决。如“重”字在“重复”一词中和在“重视”一词中语义就完全不同，但是它们的信息量却是相等的。信息的语义问题涉及信息发送者发出消息的含义如何定量，信息接收者对发送者意图说明的意义理解程度如何定量，涉及发、收信息者双方的主观方面。作为只适用客观方面，适用于通信技术问题的香农信息论的定量方法，无法解决这个问题。
（2）有效信息的研究。所谓有效信息是指信源发出的信息被信宿（收信人）收到后所达到的效果和所起的作用，即信息的实效、效用或信息的价值。信源发出的信息对不同的接收者来说所起的作用，这就是信息的效用问题。信源发出消息后对不同的接收者、使用者有不同的价值。同样的信息对不同的对象、不同的时间、不同的地点或不同的条件下，可以有完全不同的价值。如一条商业信息，只有对于从事商业的人才可能有很大的启发和帮助，对于教师或学生来说价值可能就不是太大。而香农信息论只研究信息的量，没有考虑信息的效果和作用，它不能解决有效信息问题。
在对信息论的研究中，我国信息科学研究者发展了一种“信息的综合测度”方法。可以全面地描述概率信息、模糊信息、语义信息和价值信息及其相互关系，而且可以证明香农—维纳的熵公式，德路卡等人的模糊熵公式，高艾斯的有效信息公式，阿希贝、哈特莱、波尔路曼的熵公式等等。卡尔纳普的语义信息测度和哈尔凯维奇的语用信息公式也都是综合测度的特例，从而为通信、控制、决策、系统优化、系统工程、耗散结构、人工智能等等提供了统一的理论。
（3）模糊信息研究。众所周知，客观世界是极其复杂的，客观事物也是多种多样的，有些事物间界限分明，有的则不那么分明，之间的界限模糊不清。关于这一类的信息，就被称为模糊信息。关于模糊信息的定义，中央民族大学的王雨田教授等这样认为，“所谓模糊信息就是指现实世界中的一类事物的信息，从属于此类到不属于此类的界限是渐进的、模糊的、不确定的。即指消息本身含义的模糊不确定性所引入的信息被称为模糊信息”。模糊信息是建立在模糊集合论基础上的。
研究信息问题的模糊性而引入的模糊信息。这一类现象的信息，从属于此类到不属于此类是渐近的，不是突变的。20世纪以来，人们研究的领域进入了非常复杂的超大系统.如航天系统，人脑系统等，它们中间的关系非常复杂，模糊现象很多。
信息科学虽然取得了一些进展，但它作为一门科学来说，还尚未成熟。这是因为：
（1）人们对于信息的定义和信息的实质还理解不一，还没有取得一致的看法。
（2）对于信息科学的研究范围和内容，人们的看法也不一致。
（3）对于信息的度量问题在语义、语用及模糊信息方面还没得到很好的解决。