一般认为，信息是“在观察或研究过程中获得的数据、新闻和知识”，或者说是“我们原先不知道的知识”。对信息的认识还包括：信息是被消除的不确定性；信息是事物的变异度；信息是系统结构的有序性；信息是被反映的事物属性，等等。

狭义信息论中，信息是指被减少的随机不确定性。对于语义信息、感觉信息、心理转换信息、创造信息等广义的信息问题，香农信息理论显得无能为力。为了在一个更加广泛的区域内正确使用信息论，我们认为，不但需要考虑信息传输过程中不确定性的减少，而且也需要研究信息本身所具有的信息意义，以及对信息的理解、加工过程。比如说在研究信息是“被消除的不确定性”的定义时，就应该考虑到相应的心理转换过程。心理转换将对信息的意义产生重要的影响。根据泛集的概念，每一个事物对应着一定的意义，该意义由相应的稳定性泛集来描述。意义与事物的对应关系不是“可逆”的。每一个泛集中既有稳定性元素（起主要作用），也有变化性元素（起辅助作用）。如果以每一个泛集元素为基础，都将对应着几个不同的整体意义，以某些主要特征为基础，也会对应若干不同的整体意义，这些不同的意义都将有可能在大脑中显示出来，都会对“信息”量的大小产生影响。在当前心理状态下激活、构建出的不同意义，具有不同的显示可能度，这些不同的意义提供了变化的范围，对应着应该确定选择、显示哪一个的不确定性。具体选定了一个整体意义，也就消除了不确定性，就在其中表现出了相应的信息。一般的心理过程都是在好奇心的驱使下，根据先前形成的局部联系，构建出诸多整体的可能反应。因此，研究信息，不应该脱离心理的这种特征。

在信息传播过程中，当一个信息由信源到达信宿后，先在（或由）信宿中产生若干个不同的信息，形成不同的意义，然后通过信源所发出的信号再具体确定（或选择）某一个传输的指定信息。在这一过程中，信宿必须先产生多个与信源所发出的信息相同、相似或相关的信息。如果信宿没有产生与信源所发出的信息有关系的信息，信宿就谈不上信息的接收，也就不可能受到信息的作用而产生反应。

在心理转换过程中，从某个局部特征出发只能形成稳定的局部特征与整体意义泛集的对应关系。而当好奇心起作用时，一方面可以通过局部特征去寻找其他新的解释（在整体中的意义）；另一个方面，还会通过信息之间的相互作用，尤其是通过神经系统的自组织涌现而形成新的整体意义。只要形成新意义，也就提供了诸多潜在性信息特征，就会使不确定性增加，根据信息量与信息模式数量的关系，信息量也就自然增加。每当构建一种新意义，在好奇心的作用下，就会再构建一种新意义。好奇心可以使构建新意义的过程一直进行下去。从扩展的角度看，好奇心促使由想象所形成的多样并存区域进一步扩大，促进更加多样的个体并存。所能产生的可能整体意义数量越多，确定该事件时所需要的信息量也就越大。

当运用好奇心将与问题有关的各种信息都显示在心理加工空间时，有可能引入与问题解决有关的信息，同时也可能引入大量无关的干扰性信息。在这种情况下，应如何考察好奇心对解决问题的作用？这需要我们对信息与好奇心的关系进行深入研究。

1．经典信息量

在经典信息理论中，信息量是对减少的不确定性的度量，即

I（xi,yj）=logP（xi｜yj）/P（xi）（2-10）

其中I（xi,yj）是yi提供的关于xi的信息量，P（xi）是xi的先验概率，P（xi｜yj）是xi的后验概率（是在给定yj以后的后验概率）。这是指，在一系列的X和Y发生以后，再回过头来研究yj所提供的关于xi的信息。如果说yj与xi没有关系，它也就提供不出任何信息。

2.信息量与好奇心

好奇心是大脑动力系统稳定时间内对增加的不确定性的度量，利用概率论的贝叶斯公式，式2－10可以写为

I（xi,yj）=logP（xi｜yj）/P（xi）=-H=log1/P（xi）－log1/P（xi｜yj）（2-11）

等式右边两项分别表示后心理状态的不确定性和先心理状态的不确定性。信息量等于后心理状态的概率与先心理状态的概率之比的对数，或等于后心理状态的不确定性与先心理状态的不确定性之差。

对信息量求数学期望，即得yj关于xi的平均信息量

I（X,yj）=∑iP（xi｜yj）logP（xi｜yi）/P（xi）

=∑jP（yj｜xi）logP（yj｜xi）/P（yi）（2-12）

也就是由yj到xi的平均好奇心。如果将P（X｜yi）理解为预测的可能性测度，I（X｜yi）就是预测和事实一致时的平均信息量。对I（X｜yi）求数学期望，即得X和Y之间的平均信息量——平均好奇心。

I（X,Y）=∑jP（yj）∑iP（xi｜yj）logP（xi｜yj）/P（xi）

=∑j∑iP（xi,yj）logP（xi｜yj）/P（xi）

=H（X）-H（X｜Y）＝H（Y）－H（Y｜X）

＝H（X）＋H（Y）－H（X，Y）（2-13）

其中，H（X）和H（Y）分别是X和Y的熵；H（X｜Y）和H（Y｜X）分别是X和Y的条件熵；H（X，Y）是X和Y的联合熵。

20世纪50年代，库巴克（Kullback）提出了信息公式［10］，在研究心理转换信息时，用心理状态显示的可能度代替普通概率或选择概率，仅当事实xi发生时有

I（xi;yj）=logQ（xi｜yj显示）/Q（xi）（2-14）

根据贝叶斯公式得

I（xi;yj）=logQ（yj显示｜xi）/Q（yj显示）＝logQ（关系yj（xi）显示）/Q（转换模式yj显示）

上式也可以写为

I（xi;yj）=log1/Q（Aj）-log1/Q（Ai｜Xj）=-∫t2t1dtS＝－H（2-16）

其意义为：

心理转换信息量＝心理状态所指的事物的先验特殊性－后验特殊性（2-17）

如果结合好奇心与心理转换信息量之间的对应关系，即有

好奇心＝心理所指的事物的后心理状态特殊性－先心理状态特殊性（2-18）

从信息量与好奇心的关系可以看出，一个具有“活性”的神经系统，总会有信息源源不断地产生出来。正因为人们一开始对某个对象不可能产生完全确定性的认识，随着认识过程的不断深入，对该对象的认识就越深刻，关于该对象的知识也就越多。

生物有机体是一个稳定的自组织结构，自组织过程的本质特征是在混沌运动基础上的协调。由于混沌状态直接代表着信息量的产生，因此动态自组织结构的最大特征就是永远不停地进化。