电脑,顾名思义,电子大脑是也。我们中国人把这样一顶帽子扣在计算机头上,名不副实。但从另一个角度看,“电脑”很好地概括了人类制造智能机器的梦想。2016年是图灵提出计算机概念模型80周年,第一台计算机ENIAC发明70周年,人工智能概念提出60周年,深度学习10周年,神经网络再次发力,人工智能风云再起,各国“脑计划”脚步匆匆,人造神经元和突触竞争白热化,神经形态计算浮出水面……越来越多的迹象表明,经典计算机正在脱胎换骨为神经计算机,2016年极有可能作为电脑涅槃元年载入史册,基于神经计算机的强人工智能有望在数十年内实现,人类社会将面临天翻地覆的沧桑巨变!在这个决定人类命运和电脑命运的历史关口,让我们静下心来,一起回溯曾经浇灌计算机的思想细流,回顾电脑发展的波折历程,寻找照亮智能未来的火把……
这正是:
人工智能百年论争,史海钩沉,众说纷纭,依然莫衷一是;
电子大脑一旦苏醒,魂归何处,正道沧桑,唯有慨然前行。
我的计算机简史
众所周知,现代计算机产生的数学基础是数理逻辑,物理基础是开关电路,计算机实际上是自动执行计算和逻辑操作的开关电路系统。
1936年,阿兰·麦席森·图灵(Alan Mathison Turing, 1912~1954)为证明“不可计算数”的存在而提出图灵机模型。这一“思想实验”抓住了数理逻辑和抽象符号处理的本质:一台仅能处理0和1二元符号的机械设备,就能够模拟任意计算过程——这就是现代计算机的概念模型。
1938年,克劳德·艾尔伍德·香农(Claude Elwood Shannon, 1916~2001)开创了开关电路理论,在数理逻辑和物理实现之间架起了桥梁。
1940年,针对当时纷纷出现的计算机特别是模拟计算机,诺伯特•维纳(Norbert Wiener, 1894~1964)提出计算机设计的五原则:(1)计算机负责运算的中心部件不应是模拟式,而应是数字式;(2)开关装置应该采用电子元件;(3)采用二进制,而不是十进制;(4)运算和逻辑判断都由机器完成,中间应该没有人的干预;(5)内部要有存贮数据的装置,支持快速读写。
1945年2月,图灵向英国国家物理实验室提交了50页的“自动计算机(Automatic Computing Engine, ACE)”设计报告,提出了详细的计算机设计方案。报告建议研制第一台计算机,预算为11200英镑,却未获批准。1950年英国研制出了简化版自动计算机。这份报告却保密了27年后才被公开。
1945年6月,约翰·冯·诺依曼(John von Neumann, 1903~1957)公开了离散变量自动电子计算机(Electronic Discrete Variable Automatic Computer, EDVAC)逻辑设计报告草案,提出了存储和计算分离的存储程序结构(即冯•诺伊曼体系结构),这实际是图灵机的一种通用物理实现方案,同一套硬件(负责逻辑和计算的通用中央处理器)可以执行多种功能(存放在存储器中的程序)。
1946年,宾夕法尼亚大学研制成功第一台电子数值积分计算机(Electronic Numerical Integrator And Computer, ENIAC),它实际上是用约1.8万个“电开关”(电子管)搭建的大型开关电路系统(尚未采用冯•诺伊曼体系结构)。更多计算机解读:www.yangfenzi.com/tag/computer
1947年底至1948年初,贝尔实验室发明了晶体管,成为替代电子管的更小、更高效的开关。1954年,贝尔实验室组装出第一台晶体管计算机。
1958年,仙童半导体与德州仪器分别发明集成电路。
1964年,戈登•摩尔(Gordon Earle Moore)提出摩尔定律。
……
1984年,邓小平同志提出“计算机的普及要从娃娃做起”,苹果公司Apple II个人计算机来到中国,其中五台来到我就读的县城高中。1986年,也就是计算机40岁那年,我16岁,与计算机相遇在高中二年级计算机兴趣班课堂上,计算机给我的见面礼是兜头一盆凉水:传说中的“电脑”竟然连一元二次方程都不会解,需要我用Basic语言一步一步告诉它怎么做,不仅要分解成最基本的加减乘除,而且连有根无根的边界条件都要帮它界定清楚,这算什么“电脑”?好在我甘愿“忍辱负重”,很快玩转了“锯齿獠牙”的编程,在河北省的计算机竞赛中取得了不错的成绩,因此还获得了一台Apple II专用权。
接下来二十多年,我被计算机裹挟着一路飞奔,穿越计算机应用专业学士、文字识别硕士、计算机视觉和虚拟现实博士、图像识别和视频编码标准等关口,来到2014年的北京大学“计算机系统导论”课堂。
“计算机系统导论”是计算机科学技术专业主干基础课,从美国卡内基梅隆大学引进,采用大班授课、小班讨论的方式进行,我作为十多名小班教师之一,“啃”了这块“硬骨头”。
那年年底,我被推到计算机系主任的位置,开始认真思考计算机的前世今生和未来走向。
1. 逻辑大脑
1942年5月,在美国纽约,梅西基金会(Josiah Macy Jr. Foundation)邀请六位专家研讨 “脑抑制”问题,会议有两个主题:催眠术和条件反射,但最吸引人的却是阿图罗•罗森勃吕特(Arturo Rosenblueth, 1900~1970)的报告“机器和目标导向的生物之间的行为相似性”。当时罗森勃吕特是哈佛大学医学院访问学者,跟随生理学系主任沃尔特•坎农(Walter Bradford Cannon, 1871~1945)教授,基于“动态平衡(homeostasis)”理念从反馈角度研究应激反应。他的报告内容来自他和麻省理工学院的维纳及其助手朱利安•毕格罗(Julian Bigelow, 1913~2003)开展的合作研究。1943年1月,这份报告以《行为、目的和目的论》之名发表,“控制论”就此萌芽,这次聚会也被追认为赫赫有名的“控制论组(Cybernetics Group)”核心成员第一次聚。
罗森勃吕特的报告非常吸引人,以至于参会的人类学家玛格丽特•米德(Margaret Mead)后来回忆说自己掉了一颗牙齿都没注意到。被报告深深吸引的还有伊利诺伊大学芝加哥分校精神病学系的神经生理学家沃伦•麦卡洛克(Warren Sturgis McCulloch, 1898~1969),他马上把这个新观念和自己的研究领域联系起来。1943年底,麦卡洛克和数理逻辑学家沃尔特•皮茨(Walter Harry Pitts, 1923~1969)共同发表了《神经活动中内在思想的逻辑演算》,提出了神经元的数学模型,这个模型作为人工神经网络的重要基础沿用至今。
细心如你,可能已经注意到“数理逻辑学家”皮茨发表这篇论文时才20岁。其实,他12岁时就用三天时间读完了2000页的《数学原理》,还指出了其中的一些错误,并写信给伯特兰•罗素(Bertrand Arthur William Russell, 1872~1970),得到罗素高度赞赏,并被邀请到英国读研究生。皮茨18岁那年,得知罗素要到芝加哥大学做讲座,就一头扎到芝加哥。旁听罗素讲座期间,他认识了医学院研究生杰罗姆•莱特文(Jerome Ysroael Lettvin, 1920~2011),后者把他介绍给了麦卡洛克,两人一见如故。基于两人合作的这篇论文,皮茨从已经混迹了五年的芝加哥大学获得“文科副学士”学位。
麦卡洛克和皮茨这篇开创性论文的思想是这样的:大脑是一台逻辑机器,神经元的发放行为就像一个“全或无”的逻辑门,大脑运行过程其实可以形式化为《数学原理》中的那些精确逻辑推理过程。一个信号进入一个神经元环路,就会一直循环,这不就是记忆吗?神经环路一层套一层,实现对信息的抽取和处理,这就是思维啊!
1943年秋,皮茨跟着莱特文到麻省理工学院见维纳。维纳慧眼识才,直接推荐没有正式上过大学的皮茨就读麻省理工学院博士。维纳认为皮茨和麦卡洛克的逻辑大脑模型意义重大,还直接告诉皮茨真空管就是实现他的神经元线路和系统模型的理想方法。维纳还认为在他们的逻辑大脑模型中还需要加入随机性:大脑神经连接开始是随机的,随着神经元阈值的不断调整,随机性让位于有序性,信息就会出现,也就是说,用这个扩展模型制造的机器就会有学习能力。
2. 约翰·冯·诺依曼的101页草稿
几乎与皮茨遇见维纳同时,冯•诺伊曼在1943年9月20日正式来到新墨西哥州的阿拉莫斯参加“曼哈顿计划”,他的原子弹内爆模型需要大量计算。1944年春,哈佛大学的自动程序控制计算器(the Automatic Sequence Controlled Calculator,ASCC,代号Harvard Mark I)启动,运行的最早程序之一就是冯•诺伊曼的内爆模型可行性验证程序。
1944年夏,约翰·冯·诺依曼在火车站候车时遇到美国陆军弹道实验室的戈尔斯坦,后者告诉他正参与ENIAC计算机的研制,随后冯•诺伊曼成了宾夕法尼亚大学ENIAC研制组顾问。
1945年6月,冯•诺伊曼公开了101页的EDVAC计算机设计报告草稿,堪称为经典计算机的“葵花宝典”。
冯•诺伊曼是标准的数学家,图灵也是标准的数学家,为什么图灵的ACE计算机方案只有50页,而冯•诺伊曼的报告写了101页还没写完?打开这个秘密的钥匙,就是麦卡洛克和皮茨的《神经活动中内在思想的逻辑演算》——这是整个报告的唯一参考文献。
EDVAC报告分15章(第15章还没写完)。第1章是“自动计算系统”的定义,1页左右。第2章是系统构成,首先简要介绍了三个部分:中央运算器、中央控制器和内存,之后,冯•诺伊曼说“这三个部分对应人类神经系统中相互联结的神经元”,顺理成章,“还需要感知神经元(sensory or afferent neuron)和运动神经元(motor or efferent neurons)”,因此,自动计算系统也需要另外两个组成部分:输入和输出。这就是计算机教科书中标准的“冯•诺伊曼体系结构”,至于“牵强附会”的神经元比拟,严肃的教科书就删去了。
第3章很短,是关于报告撰写的安排。
第4章标题是“基元、同步性、神经元类比(Elements, Synchronism, Neuron Analogy)”。4.1节定义“基元”:能够保持两个或两个以上稳定状态的器件,在接受“刺激(stimuli)”(最原始的刺激来自“输入”部分)时可以发生状态翻转,也能发射“刺激”给其他基元。基元可以是当时已经在使用的十进制数轮(wheel)和电报系统用的继电器,不过最好是电子管(晶体管三年后才发明出来)。4.2节第一段开门见山:“高等动物的神经元毫无疑问就是上面定义的一种基元”,“神经元的‘全或无(all-or-none)’特性即(基元的)两种状态:休眠或兴奋”,对于基元接收“刺激”以及“传播”刺激的描述更是直接源于当时对神经系统的理解。第二段,冯•诺伊曼干脆直接引用了麦卡洛克和皮茨的文章。
第6章是“电子基元(E-elements)”,是那个时代人们对神经元的认识,具体来说,是麦卡洛克和皮茨文章中所描述的神经元,其中6.4节再次引用麦卡洛克和皮茨的文章,其中充满了神经元、轴突、树图、突触等神经网络词汇。
很清楚,大脑和神经系统就是冯•诺伊曼设计计算机时的基本隐喻!
3. 计算机非电脑
冯•诺伊曼用“脑”类比计算机,并不是他个人的灵感,而是当时“圈内的共识”,维纳在1948年出版的《控制论:或关于在动物和机器中控制和通讯的科学》的导言部分有详细记录。
“从那时起,我们已经清楚地认识到,以替续的开关装置为基础的快速计算必定会是神经系统中发生的各种问题的几乎合乎理想的模型。神经元兴奋的全或无的性质,完全类似于二进制中决定数字时的单一选择,……突触无非是这样一种机构,它决定来自别的一些选定元件的输出的特定组合是否将成为足以使下一个元件产生兴奋的刺激,而且这种决定的精确性要类似计算机”。“在这方面有兴趣的人们经常来往。我们得到了和同事们交流思想的机会,特别是同哈佛大学的艾肯博士、高级研究所的冯•诺伊曼博士、宾西法尼亚大学研究ENIAC和EDVAC计算机的戈德斯汀博士。只要我们碰在一起,我们就互相细心倾听,不久工程师们的词汇中就渗进了神经生理学家和生理学家的专门名词”。“到了进程的这个阶段,冯•诺伊曼和我都感到需要召开一次所有对于我们现在叫做控制论的这门科学感兴趣的人全都参加的会议,这个会在1943~1944年之间的冬末在普林斯顿召开。工程师们、生理学家们和数学家们全都有代表参加。……生理学家们从他们的观点对控制论问题提出了集体意见,同样地,计算机设计者们也提出了他们的方法和目标。会议后期,大家都明白了,在不同领域的工作中之间确实存在着一个实在的共同思想基础”。
尽管维纳是从控制论角度记录这段历史,但毫无疑问这个“共同思想基础”也是当时设计计算机的“思想基础”,维纳在《控制论》就明确地说“计算机,乃至大脑,是一种逻辑机器”,并对计算机和神经系统进行了不少类比。冯•诺伊曼的101页报告,不过是这种“共同思想”的详细展开而已。
但是,冯•诺伊曼很快就认识到这种思想的问题所在,这集中体现在1946年11月他写给维纳的一封信中。冯•诺伊曼先回顾说“为了理解自动机的功能及背后的一般原理,我们选择了太阳底下最复杂的一个对象”,但是神经系统的既有模型对发展自动机帮不上忙,“在整合了图灵、皮茨和麦卡洛克的伟大贡献后,情况不仅没有好转,反而日益恶化”,“这些人都向世人展示了一种绝对的且无望的通用性:所有、任何事物……都能按照某种机制完成,特别地通过一种神经机制,一种确定机制竟然是‘万能的’”。
因此,冯•诺伊曼决定和神经系统模拟分道扬镳,因为“仅靠我们对生物功能的了解,如果不借助‘显微镜’,就不可能在细胞层次上更深入地认识神经机制”,基于此,他决定转向研究更简单的生物系统,例如能够自我繁殖的病毒和细菌。也许正是因为这个原因,冯•诺伊曼甚至不愿意再花时间修改那份充满了神经系统隐喻的101页设计草案,转向怎样用不可靠元件设计可靠的自动机,以及建造自己能再生产的自动机。
图灵当然更清楚计算机只是执行形式逻辑的机器,它的能力极限已经由哥德尔定理和“不可计算数”框定了,不能和“脑”相提并论。1950年10月,图灵在《心智》(Mind)发表《计算机与智能(Computing Machinery and Intelligence)》,提出“机器能思考吗?(Can Machines Think?)”这个经典问题。图灵认为真正的智能机器必须具有学习能力,他以人的成长为参照模型描述了制造这种机器的方法:先制造一个模拟童年大脑的机器,再进行教育训练。
1952年,图灵发表《形态发生的化学基础》,注意力转向数学生物学(Mathematical Biology):用“(化学)反应-扩散方程”解释生物体何以发展出各种形态,例如人体骨骼形态、树叶形状、老虎花纹等,这一假说在60年后得到实验证实,图灵因此成为形态发生理论(Morphogenesis)的奠基人。不幸的是,就在这一年,图灵因同性恋获罪。大洋彼岸,维纳突然中断与皮茨和麦卡洛克的联系,雪上加霜的是,皮茨也意识到用纯粹逻辑建模大脑存在根本性问题,因此拒绝在自己的博士论文上签字,把包括三维神经网络研究在内的所有作品付之一炬,陷入酒精的麻痹和抑郁中。
1954年,图灵逝世。那一年,贝尔实验室组装出第一台晶体管计算机。更多图灵解读:www.yangfenzi.com/tag/tuling
1957年,冯•诺伊曼与世长辞。那一年,贝尔实验室发明晶体管的“八天才叛逆”,创办仙童半导体。一年后,根据冯•诺伊曼为耶鲁大学西列曼演讲准备的未完成讲稿整理而成的《计算机与人脑》一书出版。同年,仙童与德州仪器分别发明集成电路,大幅度提高了晶体管集成度和性能,成为制造“大型开关电路”通用硬件方案。
1964年,维纳去世,围绕控制论的争论告一段落,计算机基本原理尘埃落定。那一年,摩尔提出集成电路指数提升的摩尔定律,计算机大步踏入半个世纪的辉煌历程。这一年,计算机正好18岁。
1969年5月,一蹶不振的皮茨郁郁而终,四个月后,麦卡洛克步其后尘,这对惺惺相惜的忘年之交所引发的关于大脑、逻辑、智能、计算机和控制论的争论,与应用上取得巨大成功的计算机相比,越发显得黯淡无光。但是,智能的种子一旦种下,就不可抑制,神经网络和人工智能这两股力量早已暗暗角力,如今开山高手悉数西去,再不需要遮遮掩掩,一位出身神经网络派的人工智能派顶级高手,运起理论内功,在麦卡洛克弥留之际向神经网络派新首领(虽然曾是自己的高中校友)发出致命一击……
这正是:
计算本有道,至简又至真;
零壹数不尽,真假理已分;
开关归一统,软硬定乾坤;
电脑七十载,智能尚浮云。
来源:《中国计算机学会通讯》2016年第12期《专栏》
——————— 氧分子网(www.yangfenzi.com)延伸阅读 ———————
黄铁军:CCF杰出会员。北京大学信息科学技术学院教授,计算机科学技术系系主任,数字媒体研究所所长,数字视频编解码技术国家工程实验室副主任,国家杰出青年科学 基金获得者,教育部“长江学者”特聘教授。更多黄铁军解读:www.yangfenzi.com/tag/huangtiejun
2007/08–今 北京大学
信息科学技术学院 教授(2009~)
计算机科学技术系 系主任(2015~)
数字媒体研究所 所长(2012~)
数字视频编解码技术国家工程实验室 副主任(2009~)
2011/02–2011/08 斯坦福大学 电机工程系图像系统工程中心 访问教授
2001/08–2007/07 中国科学院研究生院 信息科学与工程学院 网络多媒体研究中心副教授 主任
1999/01–2001/07 中国科学院计算技术研究所 数字化技术研究室 博士后
1995/09–1998/12 华中理工大学 图像识别与人工智能研究所 博士
1992/09–1995/06 武汉工业大学 自动化系文字识别研究组 硕士
1988/09–1992/06 武汉工业大学 计算机应用专业 本科
主要获奖/荣誉
2015 教育部“长江学者”特聘教授
2014 国家杰出青年科学基金资助
2014 中国科协求是杰出青年成果转化奖
2013 IEEE计算机学会Computing Now Award
2012 国家科技进步二等奖《数字视频编解码技术国家标准AVS与产业化应用》
2010 国家科技进步二等奖《百万册数字图书馆的多媒体技术和智能服务系统》
2010 中国电子学会电子信息科学技术一等奖《数字视频编解码国家标准制定及应用》
2010 教育部新世纪优秀人才计划
2009 教育部科学技术进步奖一等奖《大规模数字图书与视频资源库建设和智能服务》
2007 中国标准创新一等奖
2007 信息产业重大技术发明
主要研究方向为视觉信息处理(图像识别与视频编码)和类脑计算,累计主持国家级科研项目十多项,发表(含合作)学术论文200多篇,作为主要起草人制定国家标准、ISO/IEC标准 和IEEE标准十数项,申请发明专利八十多项,两次荣获国家科学技术进步二等奖,四次荣获省部级一等奖,并获“中国科协求是杰出青年成果转化奖”和 IEEE计算机学会Computing Now Award。兼任国家数字音视频编解码技术标准工作组(AVS)秘书长(2002~)、中国电子学会理事(2006~)ISO/IEC运动图像专家组 (MPEG)中国代表团团长(2010~)等。
1998年从华中理工大学图像识别与人工智能研究所获得博士学位,1992和1995年从武汉工业大学计算机应用专业和工业自动化专业获得学士和硕士学 位。1999年中国科学院计算技术研究所博士后,从事5C融合(Computer, Communication, Consumer electronics, Content and Community)研究。2002年在信息产业部(原)领导下组建数字音视频编解码技术标准工作组并担任秘书长。2001年任中国科学院研究生院网络多 媒体研究中心副主任(2001-2003)和主任(2003-2005),其间获得2003年中国科学院研究生院优秀个人。2006年调入北京大学信息科 学技术学院2011年获得教育部“新世纪优秀人才支持计划”资助。2011年2月至8月受国家留学基金委“青年骨干教师出国研修计划”资助,在美国斯坦福 大学(Stanford University)电机工程系(Department of Electrical Engineering)图像系统工程中心(Stanford Center for Image Systems Engineering, SCIEN)图像、视频与多媒体系统组(Image, Video and Multimedia Systems)访问教授/高级访问学者。
累计主持863计划、973计划、国家自然科学基金等国家级科研项目十多项和省部级、国际合作等项目十多项,在国内外学术期刊和重要学术会议发表(含指导 研究生发表)学术论文100多篇,综述或人文社科文章40多篇。担任四项ISO/IEC国际标准的起草人(editors),主参编论著三册。申请发明专 利42项,其中16项已经获得授权。两次获得国家科学技术进步二等奖,四次获得省部级一等奖。
2002年作为主要人员共同发起国家数字音视频编解码技术标准工作组(AVS)并担任秘书长至今。作为《信息技术 先进音视频编码》国家标准的主要制定者之一,承担了“863”计划重点课题和国家发改委“数字音视频编解码技术标准AVS研究开发与测试验证重大专项”。 在打造“技术、专利、标准、产业、应用”大循环创新模式中做出了突出贡献。AVS视频于2006年颁布为国家标准后,至今全球已有20多家芯片公司开发并 销售AVS解码芯片。自2007年起杭州、上海、河北等20多个省市或地区相继采用AVS进行数字电视播出,并在老挝、斯里兰卡、吉尔吉斯等国得到采用。 2009年10月国际电信联盟ITU正式发布的IPTV标准中,AVS被采纳为视频格式之一。2011年6月,AVS又被确定为我国地面数字电视接收机唯 一必须支持的标准。2012年7月,面向高清立体电视的AVS标准颁布为国家广播电影电视总局行业标准,2013年3月中央电视台按照该标准进行试验播 出。因此方面的贡献2007年信息产业重大技术发明(共10项)、2007年度中国标准创新贡献奖一等奖(共10项)、中国电子学会电子信息科学技术奖一 等奖(2010)和国家科学技术进步二等奖(2012,数字视频编解码技术国家标准AVS与产业化应用)。
2000年开始作为主要人员参与“中美百万册数字图书馆合作计划”,曾任北方技术中心主任,负责英文图书资源的组织、加工和数字图书知识组织与挖掘核心算 法和关键科学问题的研究,在图书多粒度检索、插图检索、视频内容分析等方面,提出了一系列新算法和改进算法,因此获得2009年度教育部科学技术进步奖一 等奖(大规模数字图书与视频资源库建设和智能服务系统)和2010年度国家科技进步二等奖(百万册数字图书馆的多媒体技术和智能服务系统)。
2005开始参与国际数字媒体计划DMP标准制定,是DMP互操作DRM平台第二阶段(IDP-2)主要起草者之一和参考软件组组长,2007年起任理 事。基于这些工作,对MPEG-A(ISO/IEC 23005-2:Media streaming application format)、MPEG-M等国际标准做出了贡献,并作为四项国际标准的执笔人(editor)获得ISO和IEC负责人签发的证书。
现任中国电子学会理事及其消费电子分委员会副主任委员,中国电子工业标准化技术协会理事,中国计算机学会高级会员及其虚拟现实与可视化技术专委会委员,全 国标准化原理与方法标准化技术委员会委员,全国信息技术标准化技术委员会多媒体分委会委员。在国际上担任“数字媒体计划”(Digital Media Project)理事(Board of Director)、IEEE Computer Society的Computing Now咨询委员(Advisory Board)和中文版负责人,Springer期刊3D Research编委。
学术服务
2013:IEEE Senior Member,ACM Senior Member
2010.10~IEEE Computer Society Computing Now, Advisory Board
2010.01~:Springer 3D Research 编委
2010.01~中国电子工业标准化技术协会理事
2007.02~2015.12 国际数字媒体计划理事(Member of Board of Director, the Digital Media Project)
2006.11~中国电子学会理事(第八届,第九届)
2006.05~中国电子学会高级会员
2005.12~中国计算机学会高级会员,杰出会员(2014~)
2005.11~全国标准化原理与方法标准化技术委员会委员
2005.10~中国电子学会消费电子分会委员、副主任委员(2010起任)
2004.07~:全国信息技术标准化技术委员会多媒体分委会委员
2003~:ACM member
2002.06~:信息产业部“数字音视频编解码技术标准工作组”秘书长
2001~:中国计算机学会虚拟现实与可视化技术专业委员会委员
2001~:IEEE Member (Computer Society)
·氧分子网(http://www.yangfenzi.com)综合整理报道
·氧分子网(http://www.yangfenzi.com)延伸阅读:
➤ 通用计算的前世今生与未来:将定律装进机器中,创造出一个世界