吴恩达就是那个帮助谷歌发起其野心勃勃的用计算机硬件和软件创造人脑项目的人。现在,他将在百度负责一个类似的项目。《连线》的一篇最新文章Man behind the ‘Google Brain’ Joins Chinese Search Giant介绍了Andrew Ng加盟的前因后果。
深度学习领域的权威
“吴恩达是在机器学习,特别是深度学习方面的领先学者之一”,加州伯克利大学理论神经系统科学雷德伍德中心的负责人Bruno Olshausen说,“我期待在百度,他将继续引领这个领域”。
深度学习是一种寻求提升机器从自然语言处理到语音、图像识别等各方面的技术,在学界研究中已进行了数年。这个技术由一小部分不同见解的研究者推动,包括多伦多大学的Geoff Hinton,纽约大学的Yann LeCun。
吴恩达曾通过一个叫做谷歌大脑的项目帮助谷歌发起在此领域的研究。 Hinton在谷歌收购了其深度学习的公司之后,在这家搜索引擎巨头做兼职工作。同时,Facebook最近聘用了LeCun ,其它著名的大公司也在这个技术上开始了探索,包括微软和 IBM。甚至Netflix 也开始了动作。
去年,在离苹果总部不远的加州库比蒂诺,百度悄然发布了专注于深度学习研究的前沿实验室。深度学习寻求通过模拟人脑运行机制来大规模提升计算任务处理,是人工智能的一个分支领域。从那之后的数月,深度学习通过很多方式得到广泛拓展。今天,中国搜索引擎巨头百度宣布这个实验室将在森尼维尔扩展到更大的领域,吴恩达,斯坦福大学教授将领导百度实验室和中国的人工智能研究团队。
在百度,吴恩达将运行在森尼维尔的实验室和在北京的研发中心,主要处理深度学习和大数据,例如分析大量数据信息。百度计划在在未来五年,在这个国际项目上投入3亿美元。
吴恩达将从今日开始其全新工作,并将日渐淡出他参与联合创办的线上教育公司 Coursera的日常工作。他将继续参与到 Coursera的一些项目中去,而且继续担任董事长、维持这家公司的公共形象。但他的主要精力将聚焦于帮助百度建立人工智能的入口和它在硅谷的建设。大部分时间,吴恩达将呆在森尼维尔。“我对于这个从一开始就参与建立国际研究组织的机会而感到兴奋。”吴恩达说,“ 我对人工智能已期待已久,这是个让我回归到此的好机会。 ”
回归之路
自从2012年请假离开斯坦福开始研究Coursera起,吴恩达便将他的时间分成两块:运行公司和做人工智能的研究。 Coursera稳步增长,并且在11月获得了额外的2000万美元的资金,但吴恩达的老朋友,百度的余凯帮助他找到了中国搜索公司的深度学习实验室,敦促他专注于人工智能。“在在线教育领域,他做出了非凡的事, 但这并不是人工智能。”余凯说。
去年3月,在他最近一次到访北京期间,余沟通吴恩达加盟百度。他们在帕罗奥图喜来登的露天泳池边吃了早餐,同日晚些时候又共进了晚餐,期间多次谈论此话题。随后余凯将他介绍给两个百度的副总裁,王劲和Alex Zheng。之后吴恩达飞到北京又与百度CEO李彦宏会面。在三个小时的午餐中,两人就百度研究部门形态和将要解决哪类问题进行了商讨和愿景展望。
38岁的吴恩达似乎很适合该公司。像李彦宏一样,吴恩达与美国和亚洲的关系都狠密切,他生长在香港和新加坡。这意味着在帮助合并百度亚洲和加州的操作上具有天然优势。“我是这两种文化的产物,”吴恩达说。“多样性导致伟大的创造力,那些从北京到硅谷的好想法将会使我们更快创新,作出更令人惊讶的创新。”
寻求人工智能自动化
在吴恩达的领导下,百度将在2015年底将硅谷办公室的规模扩大到200人左右,他们中的大部分人将成为深度学习研究人员和计算机系统工程师。极客们将关注在诸如低成本图形处理集群的建构、“绘图处理器”的研究上,通过大量数据的深度学习使研究蓬勃发展。“绘图处理器”让数据科学家通过数以十亿计的计算工作,这将比使用传统的“中央处理器”计算更快、更便宜。谷歌、IBM等公司也已经开始利用绘图处理器进行深度学习。
与此同时,百度的深度学习研究人员将专注于开发更善于从“无法标记”的数据中学习的算法,即所谓的“无监督学习”,是吴恩达和谷歌的Geoff Hinton推动多年的概念。“Andrew和我对’无监督学习’深信不疑,” Hinton在谷歌去年夏天的一次采访中告诉《连线》杂志,“尤其是Andrew一直在推动这个想法,一旦我们使用‘无监督学习’,我们未来便可以走很长的路。”
这是因为,现在人工智能研究学者们在教计算机识别诸如文字和图像时,还需要手把手教学。专家认为,当电脑可以教他们自己,也就是说,当电脑能够独立吸收和理解数据,而不需要被告知明确数据含义时,人工智能的承诺将会被真正兑现。吴恩达表示,这个过程近似于人类如何学习并代表一个仍有待开发的、能够提高人工智能能力的途径。
对此,其他深度学习领域的重要人士也表示认同。“我们想要的机器是可以利用所有数据的,这就需要更好的‘无监督学习’ 。”专注于“无监督学习”研究的蒙特利尔大学的Yoshua Bengio这样表示。世界上大多数的数据是无法标记的,而且标记他们会非常昂贵。找出更好的方法来让机器自己学习可以提高人工智能的经济效益,并且为消费者带来更好的应用程序。而这正是吴恩达加入百度的原因。
来源:techcrunch.com 作者:John Mannes 译者:刘小芹、张易
【新智元导读】百度前首席科学家吴恩达几小时前刚刚在推特上宣布了他的下一个企业 Deeplearning.ai,据 Techcrunch 的 John Mannes 分析,Deeplearning.ai 应该是致力于开发 AI 基础设施相关技术的公司。
百度前首席科学家吴恩达几小时前刚刚在推特上宣布了他的下一个企业Deeplearning.ai,只有一个标志,一个域名,还有一行“ 2017 年8 月”的字样,预示了发布日期。有趣的是,Deeplearning.ai 的域名似乎已注册到百度位于硅谷森尼韦尔的研发机构——也就是吴恩达此前工作过的同一个办公室。
不知道吴恩达是否在百度任职期间已经开始了在Deeplearning.ai 的工作,根据从Wayback Machine 上获取的数据,该域名由Instra 注册,并在2015年至2017年间的某个时间点上被认领。
意外地把该域名注册到百度是一个低级错误,而这种有意为之更让人疑惑。我们不知道百度和Deeplearning.ai 之间的关系——以及它与吴恩达离去之间的关系。当然,也可能纯粹只是个错误。
吴恩达今年3 月下旬离开公司,承诺将继续把AI 的好处带给大家。百度以自然语言处理的专业技术闻名,最近一直将资源投入到自动驾驶汽车和其他特定的深度学习应用中。
吴恩达可能是在借助其名字的识别度在大力提高他对机器智能生态系统的影响。看不出像Deeplearning.ai 这样通用的名字会用来销售自动驾驶汽车或虚拟化的企业工具。吴恩达更有可能是要开发一种旨在成为关键基础设施以支持人工智能普及的技术。
虽然这也可能指向用于深度学习的专用硬件芯片,但我们更倾向于认为,这更可能是一种吴恩达更为擅长的软件解决方案。谷歌CEO Sundar Pichai上个月在I/O 大会上提出了 AutoML——它将使神经网络的设计过程自动化。如果现在要说一个公司的名字,这个公司将以此技术为基础并最终商业化,那也许就是Deeplearning.ai。
“这是非常投机的,但我认为它可能是一个用于帮助生成AI训练数据集或其他可以加速AI模型和产品开发的AI工具。”AI 投资公司 Comet Labs 的合伙人 Malika Cantor 说,“我非常高兴有更多的工具和平台来支持AI生态系统。”
在加入百度前,吴恩达在创建谷歌大脑(谷歌的核心AI研究团队之一)方面发挥了关键作用。吴恩达是 AI 领域一位备受尊敬的研究者和传播者,他的影响力是跨行业和跨地域的。如果吴恩达真的相信AI是新的电力,他的 Deeplearning.ai 肯定不会错过这一机遇。
此前,新智元曾报道吴恩达离开百度后接受的首次媒体长篇采访。当时,面对他的老朋友,Forbes、华尔街日报等专栏作家 Peter High,吴恩达畅谈了他下一步的规划。
我有好几个想法在头脑中并存,同时也在探索我可以自己创立的 AI 新业务
Peter High: Andrew,我们上次谈话后,你离开了百度。此后你的事业会朝什么方向迈进?
吴恩达:过去几年,AI 技术已经起飞。有很多三到四年前不可能做的事情,现在都可以做了。这为百度、谷歌、Facebook、微软等众多科技巨头创造了巨大的机会,同样也为小型团队带来了机遇,使它们可以进行有意义的工作,无论它们是营利性、非营利性还是创业型组织。和电与互联网改变了一切一样,在接下来的几十年里,AI 将会改变一切。我有好几个想法在头脑中并存,同时也在探索我可以自己创立的 AI 新业务,其中最让我激动的是,我想找到一些方法,来支持全球的AI 社区,以便世界各地的人们都能够访问他们需要的知识和工具来进行 AI 升级。
High:AI 是一个宽泛的话题。对于您来说,最令人兴奋的领域有哪些?哪些领域近期能够涌现最大的机会?
吴:人们经常会问我:“Andrew,你认为AI 会改变哪些行业?”我一般会说,考虑 AI 不会改变哪些行业可能更容易。说实话,我很难想出一个。例如,我在一次会议中发言,说我的理发师的工作可能是安全的,因为我不知道如何造一个机器人来剪头发。我的一个朋友是研究机器人的教授,她从观众席站起来,指着我的头说,“Andrew,别人的头发可能确实不好让机器人来剪,但是你的头发,造个机器人来剪不成问题。”
很难想到有哪个主要行业是不会被 AI 改变的。这包括医疗、教育、交通、零售、通信和农业。AI 有非常清晰的方法,来让所有这些行业都发生很大改变。Peter,我听你说过,有时候,AI 感觉就像一个遥远的事情,但它已经出现在地平线上。我同意你的说法,很多将把我们带向 AI 未来的工作已经开始了。无疑,那些最聪明的 CEO 和 CIO 们,也许还有些新的首席 AI 官,正在积累必要的人才和工具,或者已经开始使用它们来改变自身的业务了。
孤立的 AI 技术是没有用的,需要明确它如何能够适应你的业务概念
High:您对于 CEO、CIO 和 CAIO(首席人工智能官)们有什么建议?他们在探索 AI 对其业务影响的过程中还处于较早的阶段。
吴:在此前新技术的兴起中,比如大约 100 年前的电力兴起以及大约 20 年前的互联网兴起,许多组织会开始雇用一位领导者来厘定新技术,并想办法将新技术整合到组织之中。大约 100 年前,电是很复杂的东西。有 AC 和 DC 之分,你可以从不同的公司买电,还要权衡可靠性、功率与成本。公司不得不作出决定,我们是安装电机,还是电机和照明?
当时 CEO 们不知道如何搞定电,于是他们聘请了一位电力专家,称为电力副总裁,为他们搞定关于电的事情。今天,电早已经商品化、可靠化了,所以这个角色已经不再需要了。20 年前,我们看到了CIO 的兴起,CIO是一位受聘来处理互联网和计算机信息的专家。与之相似,AI 也是强大而复杂的技术。CEO 在整个组织中实施 AI 的成功与否将取决于他们聘请的相关领导者。在有些公司,这一角色正由 CIO 或首席数据官扮演。几个月前,我写了一篇文章,题为“聘请你的第一位首席 AI 官”,提供了些具体的建议。
AI 技术令人兴奋,但它还不成熟。我这么说似乎在亵渎 AI,但孤立的 AI 技术是没有用的。它需要大量的定制,来明确它如何能够适应你的业务概念。这需要对你的公司有全面的了解,需要对 AI 有深入的理解。开发 AI 的价值需要一个了解业务背景的团队,并需要他们具有将 AI 融入医院或物流网络中的跨领域知识。如果缺乏关于业务运营的跨领域知识,就很难定制AI 来驱动具体的业务结果。初创公司在建设跨领域团队方面一直很有成效。
我们来看一个很具体的例子。你的业务中有一个礼品卡部门。 AI 技术很有可能提高礼品卡部门设计礼品卡、推销卡片、并确保你的客户兑换礼品卡的能力。然而,由于 AI 人才稀缺,你的礼品卡部门难以吸引一流的人才。如果你的礼品卡负责人能做到,最好雇用自己的 AI 人才,但一般来说这有点困难。更好的组织结构是建设一个集中的 AI 部门,雇用 AI 人才并保持质量标准。
接着你就可以将你的 AI 人才排入不同的业务单元,帮助他们采用最新的AI 技术。如果几年后,AI 人才变得越来越普遍,那么你可能就不再需要一个集中的 AI 团队,也可以在所有业务部门分布配置 AI 人才。如果 AI 继续快速发展——未来几年内我相信这不会变——那么人才的稀缺性就会持续——巨大的人才鸿沟会一直存在。
在结构演化中有一个共同的模式。随着手机的兴起,许多公司建立了集中式移动技术团队,部署在各业务部门的;这意味着他们可以雇用较少的移动技术人才。该团队将为所有不同的业务部门开发应用程序。随着时间的推移,随着移动技术的成熟和移动人才的普及,人才开始分布配置。我们现在看不到集中的移动团队或首席移动官了。
High:鉴于你所描述的目前和未来的人才稀缺,这看来几乎不可避免,因为 AI 仍然在快速发展。你有什么建议填补这个鸿沟?
吴:除了建立你的 AI 团队外,管理人员的另一个选择是合作/购买。如果 CEO 或 CIO 找到正确的合作伙伴,购买 AI 解决方案并进行整合,就可以奏效。我看到很多初创公司从开发垂直解决方案开始。另一个趋势是求知若渴的 CIO 们会使用Coursera 这样的平台或其他大型开放式在线课程,为他们的公司提供经济的、前沿的培训,以帮助员工提高基础水平。MOOC 的兴起使我感到乐观。
过去一年左右,我们看到了大型和小型企业的大幅增长,它们都在使用Coursera 来帮助他们快速提升自己的AI 能力。我亲眼见证过,有的公司员工在采用了Coursera 内容后,改变了对AI 的理解,他们凭借使用 AI 的能力在短短几个月内就推动了业务成果。
我为在百度和谷歌建立的AI 团队感到自豪
High:有一些与AI 有关的误解。我们都有这种想法,组织在做出决策之前,应该先看看别人在做什么。另一种认识则是,只有谷歌、亚马逊和苹果这样的巨头才能抓住这最大的机会,或者你的体量够大,或者你拥有海量的数据,才能有效地利用 AI。对此你怎么看?
吴:我为在百度和谷歌建立的AI 团队感到自豪。他们漂亮地利用了许多的 AI 良机。对于我帮助建立的这两支队伍,以及其他几家大公司的长期未来,我是很看好的。话虽如此,让我们继续分析,AI 是新的电力。通用电气随着电力的崛起表现良好,但许多其他能够以新颖创新的方式使用电力的公司表现也很好。
数据是人们构建AI 时关注的事情之一。数据是 AI 引擎的宝贵燃料。在一些垂直领域,科技巨头的数据优势使小型玩家在这个特定的垂直领域与对手竞争非常困难。例如,当今最好的语音识别引擎已经接受了数以万计、有时甚至是数十万小时的数据训练。最好的面部识别系统训练经数以百万计的图像训练而成。
一个小玩家很难积累这么多数据。然而,有很多垂直领域,大玩家没有给予太多的关注。一个较小的组织,如学术研究组织、创业公司或小型研究实验室,可以在这些领域取得有意义的进展。例如,一个大学的研究小组,通过与医院合作,对某种疾病进行医学影像的智能分析,也许能获得比目前任何人都要多的数据。通过将数据集中,他们可以很好地构建AI 系统。你建造的东西要够好。这样才会让你进入一个良性循环,可以随着时间的推移积累更多数据,并继续前进。最终做成一个与众不同的小生意。
我们不会付给无所事事的人,而是会付给持续学习的人
High:大家都在哀叹 AI 和机器人将继续取代传统工作。我从上次谈话中知道,你相信克服这一挑战的方法是建立更好的终身学习的手段。你认为我们不应将学习局限在传统的学习环境和时间段中,而是将学习纳入我们的日常生活,包括我们的工作生活。对此,作为 Coursera 的联合创始人,你已经发挥了自己的作用。那么,如何通过 MOOC 和其他一些学习平台来解决这一问题?
吴:大多数经济学家认为,在未来 10 到 20 年,有 30%到 50%的工作有被 AI 和技术替代的风险。 30%的工作处于危机之中,这是一件可怕的事情。然而,这个说法的另一面是 70%的工作在未来 10 年或者 20 年没有重大的风险。此外,这 70%的人才需求过剩。我们现在不知道去哪里找人做这些工作。这个问题不是人没有工作可做,而是人需要做的工作类型正在改变。我强烈地赞成“成长心态”(growth mindset); 几乎任何人都可以学习做任何事情。我们需要建立一个终身学习者的社会,人们持续学习,使他们总是有能力完成所需的工作,有意义的工作。
我们很幸运,数字内容的兴起,例如像 Coursera 这样的 MOOC,以及可以得到的大量书籍,使终身学习成为可能。
随着技术逐渐代替一部分工作,人们可能需要签订新合同,认真讨论基本收入的问题。这一点我双手赞成。
我支持有条件的基本收入,以形成安全的社会网络。但是,我们不会付给无所事事的人,而是会付给持续学习的人,这一点很合理。这会增加人们获得重新进入劳动力市场所需技能的机会,帮助他们找到有意义的工作,并为支付基本收入的税基作出贡献。
全世界可能没有任何一个人敢说了解AI发展的全貌
High:你现在学习的是什么?你有在上某些课程吗?或者有在阅读某些具体的想法吗?
吴:AI涉及许多不同的行业。我刚才提到医疗和教育,那是我最看好的恋歌行业。其他的我也在观察。每当我试图对一个行业产生影响,我要先话费很长时间去了解这个行业。这包括很多事情,从阅读,与人交流到去参加学术会议,一切事情。每一个行业都非常大,医疗本身也有几百上千个垂直的子领域,这些也是我试图要去了解的。
对于AI,我总是保持跟上最新的进展。非AI行业的人总是担心他们不懂AI。AI的一个小秘密是,它正在快速发展,全世界可能没有任何一个人敢说了解AI发展的全貌。需要了解的事物太多了。在技术行业工作让我感到兴奋,因为总是有新的东西被发明,总是有新的知识要学习。这就好像脚下的地球亘古不变地在移动一样。我觉得这令人激动,因为它创造了巨大的机会,让人得以创立能够帮助很多人的新的团队,组织和企业。
对我来说,接受采访的情况相当普遍,我与他们谈话,但总觉得他们错过了某种特定的语境;例如某项技术是如何发生作用的,如何在特定的地方进行市场营销活动,或者如何建立一个组织。有时候我不可能花上8个小时坐下来好好向他们解释我对这项技术的了解,或者其他话题。
那么我唯一的选择便是请他们去上一门MOOC的课程,去读一本书,或去找一些教材来弄清楚这些问题。我在许多组织的一些对我来说很赞的互动,都主动提出了这种要求。他们读完一本书,上完一门课程,等等,然后再回来,积累了这些新的知识后,我们进行了非常有价值的讨论。
另一方面,有时候人们会说:“吴恩达,你没有搞清楚嘛!”然后扔给我一本书。今天,有很多丰富的内容,领导者可以通过策划内容和组织分享,从而有效地管理组织。但是,如果想有效进行的话,你需要形成一种文化,让团队成员能够转化任何你希望他们学习的东西。
在商业文化和环境方面,美国人可以向中国学习什么
High:在你所创立的公司和团队中,这些文化有共同的特征吗?有没有某些文化,是不管哪个组织你都会反复灌输的?
吴:硅谷的公司常见的许多文化都是,例如透明和诚信。这些都是广泛讨论的。另一个可能不太常见的文化因素是工作道德。这里不常谈论艰苦工作的重要性。工作与生活取得平衡更重要。虽然我不希望让任何人将所有时间风险给工作,也不想他们无法缺乏足够的时间陪伴家人,但实际上如果没有付出努力,就不可能做好工作。
我与我工作上的伙伴,我会直接而且诚恳地说:“我不认为你很有才能,如果你想充分发挥自己的潜力,你需要更加努力。”我工作很努力。我愿意努力做出改变,帮助世界。因为我们所做的工作很重要,对于不愿意努力工作的人,我并不感兴趣。
除了工作道德,不断学习,并且努力维持持续的学习至关重要。学习的困难之一是短期内几乎无法得到回报。你所有的周末都在学习,但是到了星期一你的老板并不知道你有很努力工作。另外,你并不是对工作很得心应手,因为你只是努力学习了一两天。学习的秘诀是不要只学一个周末,而是周复一周,年付一年,持续上十年。时间的尺度是以月或年为单位的,而不是周。
我认为建立组织需要为每位员工投资。如果有人加入我的团队,我会真诚地看着他的眼睛说:“如果你和我一起工作,我保证半年内你就能学到更多,同样的工作,你会比你现在做得更好。”
High:你在美国和中国都工作过相当长的时间。在商业文化和环境方面,美国人可以从你在中国的经验中学到什么吗?有没有一些你希望其他人了解的文化属性?
吴:在发展中国家,尤其是在中国,人们工作特别努力。我在中国是,如果要在周日开会,所有人都会来,没有人抱怨。有一次,我和团队的几个成员一起吃饭,然后我们遇到了一个问题。
我于是发短信给另一位同事,当时大概是下午7点左右。我们其他人继续吃完饭的当儿,这位同事给另外5位同事发了短信。他们都回答了问题,然后她把答案整理了,在晚餐结束后回复给我们。因此,我们得以解决问题,顺利推进项目。这种事情在中国是工作的完全正常的情况。实际上,如果我在一两小时内没有得到回复,我会开始怀疑到底发生了什么。工作文化的强度,决策的速度,以及员工承压的强度,这是我喜欢的中国工作文化的一些方面。
High:你参与过许多组织,扮演过许多有趣的角色,而且经常都是有关AI这个大主题的。通过你的种种努力,作为一名企业家和远见者,你已经取得了巨大的成功。你是否将自己的成功归功于很强的职业道德和对学习的热爱?
吴:我在组织团队和文化上画了很多时间。我有幸与许多伟大的人和组织合作。我倾向于认为我在为它们获得地位和资源方面发挥了小小的作用,有时候还包括知识,他们需要这些知识以更好地工作。一个人是做不到的。这个星球上没有任何一个人能够独自做这么多工作。没有任何人能写出这么多行代码。
我的很多工作一直都是帮助别人取得成功,帮助我的团队伙伴取得成功。这是我引以为豪的事情。我已经创立过几个组织,并且做得很好,我已经没有或很少参与它们。帮助建立一个由很厉害的人组成的强大团队,他们工作努力,热爱学习,就有能力做许多伟大的事情。我希望能继续这样做。
原文地址:techcrunch.com/2017/06/23/deeplearning/