面向未来的通识课-27AI时代所有人都要懂信息论
今天我们来讲信息论。对于信息时代这个词,我想大家已经听腻了,这个时代年轻人谁没有听说过类似信息过载、信息量这些词。不过其实大部分的意识里面,一、和信息产业,甚至是互联网也画上了等号,这是个很大的误解。其实信息是宇宙固有的组成部分,就和力、运动等概念一样,可以说是宇宙大爆炸的一个开始,信息就和能量,然后才会一生二,二生三。也就是说世界上几乎任何的事物都可以用信息的方式来量化,说起来很奇怪,既然我们所处的信息时代,那么信息论应该是非常必要了解的知识。
要知道信息论自诞生以来可并不只是被运用到信息产,过去半个多世纪里面,它在统计、物理、计算、科学、投资学甚至哲学等很多科学里面都是奠基性的贡献。可以说信息论是当代科学重要的一块基石。那为什么信息论没有成为每个人的必修课呢?答案就是兴趣论实在是太。抽象。我大二的时候曾经不知天高地厚找同学借了几本信息论的入门书籍,准备花两周时间了解一下,结果两天我就放弃了。因为这门科学需要掌握,其他学科的基础知识非常多,比如统计学、概率论、微积分、线性代数、计算机科学、物理学等等,这里面涉及到数学,连我这种读数学系的人都觉得很晦涩。对于非理科类的同学来说肯定更难理解。所以今天我们尽量绕开所有的数学公式,只讲核心原则。
这要说信息论第一个绕不开的话题肯定是信息至此。比如我们讲衡量物质,那很明显啊,用质量就会衡量,质量这个概念对于人类来讲非常好理解,谁还没有称过体重呢对吧?所以衡量信息其实也可以用信息量这个词,但是对于信息量的衡量方法,大多数人其实就不知道了。这就要说到我们下面提到那个公式,它就是整个信息论的基础,也就是著名的信息商。公式热力学里,它代表分子状态的混乱程度,也代表整个。不确定程度,就把这个概念就用到信息的领域了。信息商简单来说就是描述一个东西不确定程度的量,说人话新乡就说你要搞清楚这件事情的难度。假如你去抽奖,红色球代表中奖,如果你知道盒子里只有一个球,而且它是红色的,这就意味着你要搞清楚是否中奖毫无难度……