人类在考核人工智能的潜在风险和收益方面所做的研究工作太少，霍金对此表示担忧。
氧分子网科技讯 5月3日消息，著名物理学家史蒂芬霍金（Steven Hawking）在讨论约翰尼德普（Johnny Depp）主演的新片《超验骇客》时称，人工智能或许不但是人类历史上最大的事件，而且还有可能是最后的事件。他的意思是：人工智能可能会导致人类的灭亡。
当你为人工智能技术的飞速发展而欢呼雀跃的时候，你是否想过这可能并不是一件好事？
在观看了德普主演的新片《超验骇客》后，霍金在为《独立》杂志撰写的一篇文章中明确地表达了他对这个问题的担忧。
霍金担忧的对象不仅仅是未来的人工智能技术，甚至还包括现在的一些公司比如谷歌和Facebook。他说：“人工智能的短期影响取决于由谁来控制它，而长期影响则取决于它是否能够被控制。”
不管从短期还是长期角度来说，人工智能都存在着巨大的潜在风险。实际上，霍金似乎根本就不信任所谓的人工智能专家。
他说：“未来可能出现的情况到底是好是坏完全是无法预料的，面对这种情况，专家们肯定会尽一切可能去保证得到最好的结果，对吗？错！如果有一个优越的外星文明给我们发来一条信息说：‘我们将在几十年之后到达地球，’我们是否应该回答说：‘好的，当你到达地球的时候请通知一下我们，我们将给你留门’？我们可能不会那么做，但是如果人工智能技术继续发展下去，差不多就会出现那样的情况。”
实际上，坚持技术发展似乎可以消除或避免最终产品可能对人类构成的威胁。无人汽车就是个很好的例子。工程师们似乎并不关心人们在开车的过程中获得的乐趣。
霍金承认，机器人和其他的人工智能设备也许会给人类带来巨大的好处。如果那些设备的设计非常成功，就能给人类带来巨大的好处，他说那将是人类历史上最大的事件。然而他同时也提醒说，人工智能也有可能是人类历史上最后的事件。
实际上，人类在考核人工智能技术的潜在风险和收益方面所做的研究工作太少。霍金对此表示担忧和哀叹。
他说：“人工智能技术发展到极致程度时，我们将面临着人类历史上的最好或者最坏的事情。”
霍金以前就曾试图提醒人们注意一点，即科幻的魅力会蒙蔽我们的双眼。它有时会掩盖住一个重要的问题，即最终的结果有可能引发一场浩劫。他曾经说过，外星文明可能会憎恨地球文明。
人类有一种自恋的倾向，盲目相信自己很聪明而从不考虑事情有时可能会出错。或许正如霍金所说的那样，科技行业应该更多地把关注的焦点放在未雨绸缪上面。
网友提问：为什么霍金没有获得诺贝尔奖？
对于这个问题，霍金本人曾经这么回答记者：因为我的黑洞蒸发（也就是我们平常说的霍金辐射）还没有被观测或者实验所证实。既然霍金这么回答，很显然他认为自己最值得获得诺贝尔物理学奖的学术成就就是霍金辐射。霍金辐射的理论基础非常牢靠，而且宇宙中黑洞很多，所以霍金辐射应该是存在的。但是既然还没有被观测到，那就只能还是理论模型，未经实验或者观测验证的理论模型就仍然有可能不正确，不管多么合理和漂亮。既然有可能不正确，诺奖委员会当然就不会给霍金颁奖。
实际上，复旦大学的施郁教授在今年诺奖宣布前夕还真的预测了霍金今年会由于引力波的发现获得诺奖，因为引力波的观测结果还真的验证了霍金的另外一个重要工作，就是黑洞的面积不减定理。针对施郁教授的这个预测，我在10月3号诺贝尔物理学奖宣布之前的直播点评上，做了如下评论：我确认今年的诺贝尔物理学奖会授予引力波的发现，但是同时也认为霍金不会获奖，因为：1）发现引力波是一个世纪以来最重要的科学发现之一，把任何其他科学成果和发现引力波放在一起授予诺奖都是对发现引力波这个伟大成就的污染，完全不合适；2）霍金的最大成就是霍金辐射，既不是黑洞的面积不减定理，也不是他和彭罗斯一起证明的宇宙奇点定理，如果不以他的最重要成就授予他诺奖，至少也得是以终身成就获奖，以他的黑洞面积不减定理授奖是太明显的安慰奖，会让人不服。
有朋友可能说，既然爱因斯坦并不是因为相对论获得诺贝尔物理学奖，而是以他发现的光电效应获奖，而很显然这在爱因斯坦的众多伟大贡献中是较小的一个，尤其是和相对论相比简直可以忽略不计，那么霍金以他的次要成果–黑洞面积不减定理获得诺奖也没有什么不可以的啊！问题在于，虽然光电效应是爱因斯坦的比较不重要的科学成果，但是和多数诺贝尔物理学奖的成果相比毫不逊色，所以爱因斯坦以发现的光电效应获奖没人不服，只是爱因斯坦不太开心，毕竟他自己最看重的还是相对论啊！但是霍金的面积不减定理并没有那么重要，如果靠这个获得诺奖，很多人肯定不服，但是如果最终以霍金辐射或者终身成就获奖，大家就比较可以接受了。
最后，我讲一个真实的故事。
很多年前我在阿姆斯特丹参加一个很高端的会议，会议中间有一个晚宴，是荷兰皇家的一个什么人做东，所以只有少数会议代表被邀请参加。我沾了代表中国的光，也受邀了。那时候还没有手机google地图这玩意，每人给了一张地图，我就按照地图找去了。到了地方，发现是一个高级宾馆，但是说什么也找不到吃饭的那个房间。我正转的晕头转向的时候，看到因为发现了宇宙微波背景辐射涨落而获得诺奖的George Smoot也在鬼鬼祟祟地对着地图乱转，于是追上去，问他什么状况，他说也找了一阵子了，找不到房间。
于是我只好跑到宾馆前台问清了房间的具体位置，带他一起进去了。进去发现已经到的人里面有另外一个诺奖得主、因为发现CP破坏，也就是电荷-宇称破坏于1980年获得诺奖的Jim Cronin和欧洲核子中心理论部的主任John Ellis，我说你们也是自己找来的吗？两个人说费了不少劲才找到这么隐秘的一个房间！想想也是挺有意思的，我当时还算年轻力壮，自己摸过来也就算了，但是人家诺奖得主和各种大人物们也得自己摸过来，实在是和在咱们国家的待遇有天渊之别啊！
于是我们几个难兄难弟就坐到了一起。吃饭过程中，忘记了是什么原因有人问John Ellis最近看到媒体报道欧洲核子中心的大型强子对撞机要造出黑洞，这事靠不靠谱，John Ellis说根本不靠谱。我接着说，你们应该想办法造出黑洞来。John Ellis问为什么？我说，霍金比我左右两位诺奖得主都有名而且水平也高的多吧？我左右两个诺奖得主赶紧点头说，是是那是当然。我说那就对了，他比你们厉害，但是还没有拿诺奖，你们不觉得不好意思吗？两位乐了：那我们也没有办法啊，关键在于他的黑洞蒸发理论还没有得到实验或者观测的证实，我们也帮不上忙啊！
我说这就是欧洲核子中心应该造出黑洞的原因，因为这种黑洞就是量子黑洞，根据霍金的理论应该很快蒸发爆炸掉，这个过程很容易观测到，这样霍金就能够拿到诺奖了。这两位立刻说，John，你们的确应该想办法造出黑洞，霍金拿到诺奖我们也就心安理得了！我马上说，别急，但是万一霍金的理论错了呢？如果造出的黑洞不蒸发，那就会开始吃东西，先是把欧洲核子中心吃掉，再把日内瓦吃掉，然后还会把地球吃掉，那就麻烦了！
George Smoot立刻起来，走到房间门口，打开房间门左看右看，回来坐下说，很安全！我问他在搞什么鬼，他说看看周围有没有今天到会的纽约时报的记者在偷听，如果有的话，明天纽约时报的头条肯定是：中国科学家预言人造黑洞会吃掉地球！