Claude Shannon丨图源：维基百科
撰文丨张天蓉
他自称是一个不关心政治的无神论者，他小时候玩发明，终年夜后玩数学，老了玩股票，什么好玩就玩什么，科学技能领域给玩了个遍。他不在乎这样东西有没有实用代价，不管那套理论有无学术意义，不考虑做的事情对公司有无贡献，不管这个问题是否主要，他只管好玩还是不好玩。
他的名字算不上广为人知，但他被誉为信息论之父。他，便是喷鼻香农。
爱迪生的小亲戚
克劳德·喷鼻香农（Claude Shannon，1916年－2001年）出生成长于美国中部密歇根州一个小镇，有趣的是，喷鼻香农的父亲给儿子取了一个和自己千篇一律的名字[1]。老克劳德·喷鼻香农是欧洲早期移民的后代，曾自主创业做生意并取获胜利，还做过当地的遗嘱考验法官。喷鼻香农的母亲是德裔移民的女儿，当时少见的进过大学的女性，职业是措辞学西席，还做过中学校长。喷鼻香农还有一个姐姐，则得了一个和母亲千篇一律的名字。
喷鼻香农一家在小镇上颇得民气：父母的职业和为人均受人尊敬。比喷鼻香农大6岁的姐姐是个听话的孩子，精良的学生，是现在被人们称为“学霸”式的人物。喷鼻香农呢，他非常瘦弱，身上皮包骨头、面庞棱角分明，言语不多，却又格外聪明，在小城镇里，他看起来永久像是那种刚刚被人陵暴殴打过，令民气生同情的年轻小伙。
喷鼻香农小时候最喜好玩的是电气电子机器，他崇拜托马斯·爱迪生。不过后来他知道了，爱迪生竟然是自己的远房亲戚，便十分引以为傲。
使小喷鼻香农自满的，除了大发明家爱迪生之外，还有他的爷爷戴维·喷鼻香农，爷爷是一位农场主兼发明家，颇具机器方面的才华，他对早期的洗衣机进行了一系列改进，拥有美国第407130号专利。
小玩家喷鼻香农也有着一颗爱发明的心，将拨弄机器当作玩耍，他常常在家里捣鼓模型飞机、也制作用无线电掌握的模型船。除了格外爱玩，他的童年却也分外孤独。由于当时他所处的小镇，人烟稀少，最近的朋友也住在半英里之外。于是，喷鼻香农发挥他摆弄物件的天赋，自建了一个可以与朋友联系的无线电台。喷鼻香农的履历不断积累，高中毕业时，他已经是一名娴熟的发明家。他的发明包括大略单纯升降机、后院小推车和通过带刺铁丝网通报加密的电报系统，等等。
图1：小时候的喷鼻香农
除了发明小机器外，喷鼻香农也表现出惊人的数学天赋。听说在8岁的时候，他就能做出他学数学的姐姐的高档数学作业。1934年，喷鼻香农于17岁的时候，在《美国数学月刊》上揭橥了他的第一篇学术文章。他解出了一道数学难题，第一次向公众展示了他的数学才能。既会发明又能数学抽象，这两点造诣了喷鼻香农，使他造福于人类！
“最著名的硕士论文”
1932 年，16岁的喷鼻香农进入密歇根大学，在他钟爱又好玩的数学和电子工程两个专业之间游荡，几年后，20岁的喷鼻香农得到了这两个专业的本科学位。附近毕业时，公告栏上一则广告引起了他的兴趣，说的是时任麻省理工学院院长万内瓦尔·布什供应了一个研究生职位，合格者在读硕士的同时，还须要为布什教授操作管理他的一台微分剖析机。
听说这是一个重达百吨、由迁徙改变的轴承和齿轮构成的奇怪机器，在新闻中被誉为“机器大脑”或“思考机器” ：它能做高档数学，解出人类要花数月才能求解的方程！
用如今的术语来说，“微分剖析机”是仿照的而非数字的，其轮盘式积分器便是微分方程的物理仿照。无论如何，机器在当年还是很有用处，师生们蜂拥而来，排长队求用它以办理工程中的难题。布什已经难以搪塞，以是急需一名助手来操作、研究、和改进这个机器。
这个对附近毕业的喷鼻香农来说，当然是天上掉馅饼，一个求之不得的好机会。而布什得到喷鼻香农这样的机器电气都懂的全才也是正中下怀。于是，喷鼻香农顺利进入麻省理工学院深造，那年头，MIT的校园里，便多了一道风景！
喷鼻香农“玩”名远播，有人说：这个校园里，如果你瞥见一个年轻人，目光深邃面庞瘦削，骑着一架怪异的独轮车，从你身旁飞驶而过，那多数是喷鼻香农！
图2：喷鼻香农和MIT的微分剖析机（MIT Museum）
微分剖析仪是由布什和哈森于 1928 年到 1931 年建造的。两位工程师制造它是为理解决运用数学和物理领域中的实际问题，即求解微分方程。在工程和物理学的动态系统中，如果两个物理量之间有某种数学关系，例如微分或积分的关系，便可以从这个动态系统的实际运作来完成该种数学打算，称之为仿照打算，该系统便是一台仿照打算机。
图3：仿照积分器 (https://sinclairtarget.com/differential-analyzer/）
布什的MIT微分剖析仪最主要的构件是六个积分器，机器积分器的历史可以追溯到 19 世纪，它能够用动态系统中具积分函数关系的两个物理量，来仿照积分运算。机器积分器基本上是一个特殊的求和机器，见图3。每一个积分器对应一个一阶微分方程。布什创造了一种将积分器串联起来办理高阶微分方程的方法。因此，他的包括六个积分器的微分剖析仪，能够求解高达六阶的微分方程。
有天，喷鼻香农看着这些彷佛不作声又偶尔咔嚓一下的继电器，以为十分有趣。喷鼻香农脑海中浮现出通报信息的摩尔斯码，又回顾起不久前上过的一门符号逻辑课程，个中有布尔代数。
开关是电路器件，布尔逻辑是数学运算，两者看上去彷佛风马牛不干系，但喷鼻香农却觉得似曾相识，以为这两者有相通之处，他想，这个中大概有文章可做！
接着，喷鼻香农在1937年夏，到纽约的贝尔实验室演习了一个暑假，有关开关和布尔逻辑，这些令人困扰的想法，在他脑海里一贯挥之不去。喷鼻香农进一步思考后创造，继电器“开、关”，或“是、否”，实在并不主要，关键的是这两种类型连在一起时，可以被逻辑中的“和”、 “或”、 “非”等等表述出来。例如，两开关串联即是“和”，并联则是“或”。实在，这便是在做打算。也便是说，电路可以进行逻辑运算！
布尔代数中的每个观点在电路中都有相对应的物理表示，可以实现到符号再到电路的飞跃。只要定义好了逻辑符号，由继电器组成的繁芜电路的效应，便可以表示成多个变量二进制的代数方程式。比如，以下方程式：
x'y'z + x'yz + xy'z + xyz' + xyz
可以表示一个3个继电器构成的电路。
这个21岁的青年，以为这个想法非常有趣。1937年秋，喷鼻香农在美国华盛顿哥伦比亚特区向评委会演示了自己的硕士论文《继电器和开关电路的符号剖析》，并在第二年揭橥在期刊上。
喷鼻香农在论文中，剖析了电话交流电路和布尔代数之间的类似性，用布尔代数剖析并优化了开关电路。喷鼻香农的这篇硕士论文，具有划时期的意义。它奠定了数字电路的理论根本。因此，有科学家评价这篇论文是“有史以来最主要的一篇硕士论文”，“从艺术到科学上改变了电路的设计” 。喷鼻香农将电路设计的技能变成了一门科学！
由于这篇论文，喷鼻香农得到了电子工程界的大奖——美国Alfred Noble协会的美国工程师奖。这给喷鼻香农带来了在电子工业界大展拳脚的好机会，然而，他却彷佛从这个领域消逝了。
喷鼻香农于1939年夏天，来到了冷泉港，抵达了美国最顶尖的基因实验室。原来他改弦更张，从电子工程跨界到了生物，试图将他的“代数”理论运用于新兴的遗传学，他玩起基因来了！
两年后，他完成了博士论文——《理论遗传学的代数》，用线性代数描述不同遗传性状在遗传中的可能性，用一种奇怪的符号代数，来预测性状是如何代代相传的。
图4：喷鼻香农的博士论文丨图源：dspace.mit.edu
那时候，尚未创造DNA螺旋构造，也不知道遗传密码等等，喷鼻香农是完备在自己头脑中构想遗传机制的，并企图用代数理论模型去描述遗传征象。
1940年喷鼻香农以此论文，得到了麻省理工的数学博士学位，并且得到了普林斯顿高档研究院的博士后机会。在那儿，喷鼻香农能自由地跨学科事情，他有机会与外尔和冯·诺依曼等数学家谈论他的想法，还偶尔碰着爱因斯坦和哥德尔[2]。
打算、密码、信息
被誉为打算机之父，比喷鼻香农大4岁的图灵，比喷鼻香农更为"大众年夜众所知。1943年初，在美国贝尔实验室的餐厅里，两位天才少年一见如故。图灵那年被派往美国，来到新泽西，目的是为了给大泰西两岸传输的通话内容加密，使仇敌无法监听盟军情报。喷鼻香农战时从普林斯顿高档研究院，转到了贝尔实验室，研究如何对华盛顿到伦敦的通信线路进行加密的课题。
他们有太多的共同话题和想法，那些日子他们闲聊的是“会思考的机器”，也便是空想的打算机的极限是什么的问题。那年代还没有人知道打算机到底将是什么样子容貌！
以是他们的磋商大多基于数学和逻辑，两人想都没想过，他们将在科学史上各自开辟一个独立的领域。
图灵从更为数学的视角出发，认为空想的打算机该当是纯粹逻辑演绎的设备，而热衷于发明的喷鼻香农则考虑得更广泛，他认为打算机将是一种社会性的工具，乃至能处理音乐等非逻辑性的东西。
在1939年初，喷鼻香农在写给布什的信中说到，除了微分剖析机外，他还在考虑一个自认为更主要的问题：“我一贯在研究通报信息的一样平常系统的某些基本属性，它们包括电话、广播、电视和电报等。险些所有的通信系统都可以归结为如下的一样平常形式：信息从发送方到吸收方，个中涉及三个“韶光函数”，待传输的初始信息f(t)，中间旗子暗记f(t)，以及终极输出f(t)。”，这便是喷鼻香农设想的通讯过程，见图5a。
图5：信息论
喷鼻香农认识到，真实的系统中还存在噪声，并且他试图证明一些定理，来数学地描述通信系统。在贝尔实验室，研究数字通信中的信息保密和隐蔽技能的一系列事情，造诣喷鼻香农建立了当代信息论。1948年，作为此项事情的总结报告，喷鼻香农揭橥了论文“通信的数学事理”[3]，1949年，他又揭橥了“噪声下的通信”一文。几篇文章阐述了信息论的基本内容。
我认为信息论是科学中最美的理论之一，它美在哪里呢？美在其通用性，美在它的简洁，并且，尤为名贵的是：它美在简洁与深奥并存[4]。
图5中大略的两个图，就险些概括了信息论的全部内容。个中的图a描述了信息的传输过程，这不仅适宜于通讯，还有打算机、遗传学、生物学、物理及化学过程等。事实上，信息及其传输过程无处不在，因此，信息论险些可以推广运用到所有领域。
如何用数学措辞描述信息传输过程？为此喷鼻香农定义了信息的基本观点，见图5b。
什么是信息？信息的观点既抽象又多变，信息既不是物质，也不是能量，要给信息这个人人明白又抓不住摸不着的东西，下确切定义是不随意马虎的。可以绝不夸年夜地说：幸亏有了喷鼻香农！
作为玩遍各类技能的工程师，喷鼻香农深刻理解“信息”之实质；作为长于抽象的数学家，喷鼻香农明白必须首先给信息一个定量描述，量化后才有理论！
物质和能量都是可度量的，如何度量信息呢？
喷鼻香农借用了热力学中的一个词：熵。或许在学术界关于信息理论的辩论中，冯·诺尔曼和维纳（Wiener）对喷鼻香农都有所启示，但无论如何，是喷鼻香农终极提出了“信息熵”的观点和表达式（图5b）。信息熵公式中，喷鼻香农天才而奥妙地将信息与概率联系起来，揭示了信息是“不愿定性的度量”这个微不雅观实质。
用过打算机的人对“比特”这个词不会陌生，但你可能不知道，比特是喷鼻香农定义的信息的单位，打算过程便是通报信息，以是自然而然地，比特也成为了衡量打算机运算及储存能力的主要指标。
这里举“措辞信息”为例，大略理解一下图5b的公式。例如，人们说一句话，个中的信息是一个“字符串”，例如“我是马斯克”，这是5个汉字符号组成的字符串。信息熵H是由字符串中所有符号xi的概率p(xi)乘以概率的对数再求和所确定的，每个符号xi的信息量，与符号常日涌现的概率（不愿定性）有关。因此，喷鼻香农的信息论公式，在信息与不愿定性和混乱程度之间架起了桥梁，这是信息与自然界的深层联系。
传奇人物销声敛迹
这两年最火的科学新闻首推“AI”，即人工智能，殊不知喷鼻香农也是AI先驱之一。
喷鼻香农在 1950 年旁边揭橥的一篇论文《打算机下棋程序》里描述了如何让打算机下国际象棋。此文被认为是最早揭橥的关于打算机下棋和利用打算机办理游戏主题的文章之一，个中他提出了限定国际象棋游戏中要考虑的可能性数量的基本策略。喷鼻香农给出了国际象棋的繁芜度，大约是 10¹²⁰ 量级（被称为“喷鼻香农数”），不过他在论文中给出了一个更为明智的算法，可以大幅度地简化打算。1997 年，由这篇论文蜕变出来的算法，在“深蓝”中运行，成功击败了卡斯帕罗夫。
喷鼻香农大多数学术成果都是上世纪60年代之前完成的，然后，他就不“玩”学术而玩别的去了。
图6：爱“玩”的喷鼻香农（图片来自网络）
“你高枕而卧的窍门是什么？”一位采访者在喷鼻香农临终前讯问他，喷鼻香农回答说：“我生平顺其自然，实用性不是我的紧张目标……”。总结喷鼻香农能高枕而卧地“玩”，首先肯定是抛弃了世俗名利的骚动，好奇心驱动他对大自然的探索。终其生平，喷鼻香农都在玩游戏、发明游戏、摆弄小机器和小装置，即便成年之后也保持着那份童真之心。
1951年，喷鼻香农揭橥论文“先容一个走迷宫的机器”，写的是他制造的名为“忒修斯”（Theseus）的机器老鼠，迷宫配置灵巧，可重新支配任意修正。机器鼠在 25 个方格迷宫中移动，通过反复试探后自己找到迷宫的出路。老鼠第一次穿过迷宫后，如果将它放置在之前去过的地方，它可以根据之前的履历，直接就到达目标。如果被放置在不熟习的区域的话，便会被编程为“搜索”，然后逐步搜索直到成功。成功后，它会将新知识添加到其影象中并学习新的行为，你看看，这像不像如今的AI学习机器？
喷鼻香农是一个狂热的独轮车爱好者，他喜好设计和制造各种稀奇古怪的独轮车。他发明了名为 THROBAC 的罗马数字打算机和杂耍机；他建造了一个可以办理魔方难题的设备；他还与索普共同发明了第一台可穿着打算机，用于提高玩轮盘赌时的赔率。他设计了一个“心灵阅读”机器，通过不雅观察和剖析弈棋对手过去所做各种选择的样本，能够相称准确地预测到对手下一步棋的走法。
虽然喷鼻香农一贯是MIT教授，但由于痴迷玩发明创造，后来他不发论文也不出席专业会议，便逐渐淡出了"大众的视线。非常戏剧性的一刻发生在1985年的英国国际信息理论研讨会上：喷鼻香农出人意料地现身会场，很多与会者乃至不知道他仍旧在世。这位谦逊羞涩的名人被人认出来后，被粉丝们团团围住。末了，还只好不宁愿地在晚宴上登台，被主持人隆重地先容为“我们这个时期最伟大的科学年夜师之一”。掌声平息后，喷鼻香农冒出一句：“这真是太可笑了！
”然后，他把手伸到衣服口袋里，变戏法一样取出了3个球，竟然当场玩起了杂耍。
会玩杂耍的人万万万，天下上的发明家也不计其数。然而，会玩又能从中悟出大自然奥妙的人，唯喷鼻香农也。谁能玩密码遐想到信息论？又有谁玩象棋时思考AI？谁能玩了抛球杂技便提出一个“抛球定理”？哪一个独轮车骑手，非要将独轮车的运动转化为方程式呢？别无他人，唯喷鼻香农也。
到了1980年代，喷鼻香农的影象力开始严重衰退，后来患上了老年痴呆症。这位独特而有趣的天才，在与疾病抗争了很长一段韶光后，于2001年2月24日辞世，享年84岁。
参考文献：
[1]喷鼻香农传，作者：[美]吉米·索尼，[美]罗伯·古德曼译者：杨晔出版社：中信出版集团出版韶光：2019-02
[2]信息简史，作者：[美]詹姆斯·格雷克译者：高博出版社：公民邮电出版社出版韶光：2013-12
[3]Shannon C E. A mathematical theory of communication[J]. ACM SIGMOBILE Mobile Computing and Communications Review, 2001, 5(1): 3-55.
[4]科学网—“熵”- 信息天下也逞强- 张天蓉的博文:
https://blog.sciencenet.cn/home.php？mod=space&uid=677221&do=blog&quickforward=1&id=987651
转载内容仅代表作者不雅观点
不代表中科院物理所态度
如需转载请联系原"大众年夜众号
来源：知识分子
编辑：紫竹与
