[ 路丁前言 ] 假如非得用一个词来描述大家这一时期，那应当便是：信息化时代。
在这以前，泰利斯的蒸汽发生器打开了蒸汽时代，而针对电与磁的掌握，人们进入了工业时代。现如今，因为人们针对信息内容的探寻，人们打开了信息化时代。在信息化时代，有创造发明传真的莫尔斯，有发明电话的小熊，有创造发明无线电技术的马可尼这些杰出的科学家和生物学家。
莫尔斯肖像画
可是一直以来有一个难题困惑着专家，那便是：信息内容究竟怎样衡量？
举个事例，大家常说：数据量好大啊。那究竟哪些的信息内容才算数据量非常大？实际上谁也说不清。
如果我们梦返回哥白尼时期，便会发觉，哥白尼的经典作品《自然哲学的数学原理》之中，前十几页只做了一件事情，那便是：举例论证。
大家如今广为人知的许多定义，例如：相对密度，品质，力。全是牛顿下的界定。
哥白尼的界定有别于一般的界定，他的界定促使这种标量能够 被精确测量，而且量化分析衡量。
相对性于杰出的牛顿力学，哥白尼针对物理开拓性的研究思路也是确立了现代物理学的基本。一位数学家Mike Alder以前在一篇文章里小结而且明确提出了：Newton's Flaming Laser Sword.
汉语翻译回来便是哥白尼的激光器烈火剑基础理论，实际的內容便是：
全部不可以开展试验和观察的物品都不值争辩。
因此 ，针对科学研究来讲，界定和观察十分关键，也是有国际性七大单位制，自然也有别的没有这之中的，但是能够 根据七个标准单位发布来。
信息论
因而，信息论要变成一门科学研究，最先要把信息的定义建立出来，能够 量化分析衡量，并且还得有一个可靠的企业才行。
实际上大道理生物学家都懂，可是切实落实确实难以，许多生物学家试着了许多方式，例如：根据比照信息内容的必要性，来衡量信息内容，但都失败了。
直至1948年，一位奇才发布了一篇名叫《通信的数学原理》的文章内容，里边对信息内容干了十分详细的界定，而本文也完全地确立了当代信息论的基本，一直沿用。这名奇才创作者称为：赛巴斯·奥尔菲尔德·香农。
信息内容的基本要素：比特
那香农是如何解决这个问题的呢？
香农觉得：
一个物品的数据量尺寸取决于它摆脱了是多少可变性。
比如说，你和我有一个非常好些的盆友，他平常早晨10点到企业，夜里10点回到家。有一天，我跟你说：他今夜11点在家里。这话对你而言，实际上便是一句空话，数据量是零。这是由于，你自身就了解这一時刻，他大概率就在家里。因此 ，出现意外换句话说可变性才算是信息内容。
因而，香农把信息内容的量化分析衡量和可变性联络了起來，并得出了信息内容的基本要素：比特。
我们可以那么了解比特，如果有抛一枚理想化的钱币，反面和背面的几率是一模一样的。要弄清楚到底是反面還是背面，就必须1比特的信息内容。
假如这枚钱币并并不是理想化的钱币，只是反面更重一点，抛硬币有更大的几率是反面朝下，背面朝上。这时候，要弄清楚反面還是背面朝上，所必须的信息内容就需要低于1比特了。这是由于给你更大概率可以猜到結果。
假如再繁杂一点，假定你一直在做单选题，一共有4个选择项。假如你需要明确这道题的最后回答，那必须是多少比特的信息内容呢？
将会很多人的第一反应是：4比特。事实上，这并不对。你需要了解，你肯定不会傻到一个选择项一个选择项去问另一方（根据信息内容清除可变性的全过程）。
假如机敏一点，会采用二分法，
你能先问：回答是否在A和B之中？
另一方假如回应：是。
那你就只必须在A和B之中再问一遍：回答是否A？
假如另一方答：是。
那你就早已明确了結果是A，而全部全过程你仅用了2比特的信息内容。
同样假如，你先问：回答是否在A和B之中？
另一方假如回应：否。
那实际上就清除了A和B，回答就在C和D之中，因此 你只必须再问：回答是否C？
另一方假如回应：否。
那你就早已明确了結果是D，而全部全过程也還是用2比特信息内容。
你乃至能够 把比特想像成RMB，假定1比特便是一块钱，每一次做挑选时必须花一块钱，假如要处理抛理想化钱币的难题，你只必须一块钱就可以拿下。而四选一，就必须2元钱。
因此 ，这下子应当懂了吧？信息内容实际上是用于清除可变性的。但难题来了，究竟清除哪些的可变性？
回答是：信息特征。
这一信息特征实际上是指抛硬币这一恶性事件自身，它自身具备可变性，可能是反面，也可能是背面。而信息特征的可变性就称为：信息熵。因此，大家就可以了解，
信息内容便是用于清除信息熵（可变性）的。抛硬币假如正反面几率全是50%，那便是可变性最大的以后，信息熵也就较大。相反，假如反面朝上的几率高些，那实际上这一系统软件的可变性就变小，信息熵也就变小。
因此 ，数据量实际上自身便是信息特征的信息熵。
信息熵
因而，大家要是可以测算信息熵，那么就能够 测算数据量实际多少钱了？
那实际如何计算呢？实际上香农从热学中找到设计灵感。在热学之中，熵用于表明：
一个系统软件的混乱情况（可变性）。
举个最普遍的事例，假如你将一点墨水珠到水里，黑墨水会和水结合在一起，全部水杯的混乱情况数会提升（由于变错乱了嘛），这儿我们可以把这水杯里的水当做是一个系统软件。
在物理中，考量一个系统软件的错乱度，实际上能够 根据统计分析全部系统软件的情况数来确立。
概率越多，可变性就越大；在情况总数维持不会改变时，假如每个情况的概率同样，可变性就非常大；
因而，生物学家得出了统计系统情况数的公式计算（不要看也没有关系）：
实际上信息熵实际上也就是表明了一个系统软件（信息特征）的可变性（信息熵）。
因为热学的启迪，香农也得出了相近的测算信息熵（数据量）的公式计算：
实际咋用呢？大家返回刚刚抛硬币的事例来：
抛出去一个理想化钱币，信息熵为log2(2/1) = 1比特；
抛出去2个理想化钱币，信息熵为log2(4/1) = 2比特。
自打信息论被明确提出来以后，生物学家就一直在思索一个难题，这世界究竟是什么？大家都了解是化学物质是原子构成，那全球便是分子的？
但大家还要了解，分子的排序组成了全球，而排序自身便是信息内容，因而分子是根据互换“比特”来完成井然有序排序的，含意就是，某种意义上看来，全球也是比特的。
评论