看着母亲翻来覆去,浅层睡眠,乌利亚睁着大眼睛,想起了自己的心事。
.......
在1948年和1949年,香农发表了《通信的数学原理》和《噪声下的通信》这两篇具有深远影响的硕士论文。
这可以说是20世纪最著名的硕士论文,也是乌利亚敢回来的契机。
这两篇论文中,香农阐明了信息的基本问题,给出了通信系统的模型,提出信息量的数学表达方程式。他一并解决了信道容量、编码等一系列基本技术问题,成为了信息论的奠基性著作。
如果按眼下这个帝国的物件来解释:
首先,信息蕴藏于的不确定性之中,所有这些不确定的事物,都有其发生的概率,信息是这些概率之和(这是乌利亚按一种比较简化的说法来解释的)。
如果以抛金龙硬币这个最为简单的随机事件为例:如果是“狮心王”正面向上,标记为0;反之,如果是反面“金龙”向上,则标记为1。
乌利亚仅通过常识即可得出:0和1的概率都为二分之一,或0.5,它们两的概率之和就是1。
于是,按香农信息论称:这个事件,里面蕴含的信息量是1比特。
注意,21世纪里,大家耳熟能详的“比特”这个概念就此出场!这个词其实是香农首创的,英文全称是“Binarydigit”,缩写为bit,也就是“二进制数字”的意思。