我们每天都在讲未来,未来我们用语音来开门,未来我们可以靠刷脸就能拿走商场里的货品,未来我们不需要下单机器人就能为我们安排好一切!
好吧,来看看今天举办的GeekPwn2017极客大赛:人脸识别,被攻破了;声纹——被模仿了;汽车被他人控制了,AI模仿笔迹写下的欠条难分真假,银行卡密码不翼而飞,POS机被破解……我们期待中的未来,似乎已经“崩”了。
未来我们想象中的美好生活——还能美好么?
文/小白不菜 (微信号:xiaobaibucai521)
“黑”AI
以前黑客们攻破的都是硬件本身,什么路由器啊,什么盒子之类的,然而本届GeekPwn上最大的亮点就是,黑客们不仅仅是找漏洞去控制硬件,而是做到了攻破人工智能的能力,例如模仿,声音、笔记,等等。
最令杨姐感兴趣的就是“模仿笔迹”!
来自中国金融认证中心(CFCA)的选手们,带着一个AI机械臂来到现场,挑战人类专业笔迹鉴定师。他们通过构建一个深度学习“DeepWritting“,利用它就能让AI机械臂拿笔在纸上自由书写。
这种技术叫GAN,也是深度学习里的一种能力
按照杨姐的理解,这种技术就好比让“笔”的大脑中天生具备了一个学生和一个老师——学生不停地模仿,然后把作业和标准答案发给老师,老师则不停地判断,像就说1,不像就说0,这样笔的大脑里就分别形成两个函数……然后再通过让这两个函数互相无穷大地接近,这样最后就真假难辨了,模仿也就成功了(大概就这个意思吧)
同学们,这个技术未来的破坏力有多大,大家能够想象吗?
姐来启发你们一下:往小了说,未来你儿子要是有这么个玩意,那他的作业可未必就是他“亲笔”写的了;往大了说,未来可以有人冒充你的笔记写遗书了吧?往再大点说,未来那些琉璃厂的工匠们要是能整一套这玩意,以后恐怕马未都也得买赝品!
当然,如果咱们能把它应用在正确的地方也行:例如再来一次二战,冒充希特勒签个什么停战协议之类的应该还是可以的。更多GeekPwn解读:www.yangfenzi.com/tag/geekpwn
这个攻击,当然Pwn了——AI机器臂模仿的中国著名科幻作家陈楸帆的笔迹,就连陈楸帆都说,他都不确定哪些是他自己写的了。
此外,还有攻破人脸识别和声纹!
攻破声纹是什么呢,就是通过一段合成的语音,对声纹识别系统实现“诱骗袭击”。
主办方也真是够了——竟然播放了一段王者荣耀里妲己那嗲声嗲气的台词让选手们来模仿。
“Maxmon”、SmartParrot、“有点意思”、“神牛gogo”及“清晨李唐王”等五组选手,在现场模拟了其声纹特征,通过合成“攻击”语音,对现场提供的四个具有声纹识别功能的设备发起攻击,欺骗并通过“声纹锁”的验证。最终,“清晨李唐王”成功破解三个声纹验证设备获得第一名。
图注:除了黑客与人工智能的较量外,GeekPwn与卡巴斯基实验室联合举办的ICTF决赛也首度登录中国大陆赛场。从700多个战队中杀出来的三大世界顶级CTF战队齐聚中国上海——CyKor(韩国)、TokyoWesterns(日本)和FlappyPig(中国),向模拟工业控制系统炼油厂发起挑战,用主持人黄健翔的话来说,难度系数超过足球世界杯。
经过长达十几小时的鏖战,最终,CyKor(韩国)战队问鼎本届ICTF大赛的冠军,TokyoWesterns(日本)获得第二名,FlappyPig(中国)则获得第三名
当然,今天的另一个重要成就,就是咱们的小黑客们把苹果新出的iphone 8——给破解越狱了!
不得不说,对于这个尝试姐还是非常欣慰的——苹果多讨厌啊,都不能微信双开,要是想用两个微信还得卖两个肾才行。
但是吧,虽然是攻破了肾8,但咱们的大牛蛙对他们的速度有点……小小失望,大牛蛙说,如果不是现场Wi-Fi的问题,这个攻破应该是在一分钟内就能搞定。因为2013年在世界顶级信息安全比赛Pwn2Own上,Keen就花了不到30秒,就率先破解了当时苹果最新的iOS7.0.3系统。
唉,你们这样随便就把人家的产品都攻破了,真的好吗?
危险的“小孩子”
说实在的,真的好!
杨姐我再危言耸听一点:未来很多指纹技术、人脸识别、声纹识别都将会应用到门锁、保险柜、支付等等关键场景,如果被攻破了,那消费者的财产岂不是面临重大损失?
厂商只顾着用新技术当噱头来吸引消费者的时候,却没有意识到他们给消费者埋下了多少隐患!
现在黑客选手们在这里把这些漏洞找出来,并且上报给了厂家,厂家就可以赶紧去找漏洞,把安全性提高!更多黑客解读:www.yangfenzi.com/tag/heike
其实,有些厂商出于各种考虑,有时也在“干扰”GeekPwn比赛——他们有的可能会用电磁干扰,有的则补上自己的漏洞,还有的,在比赛期间关闭服务器啥的……在过去的比赛期间都曾经发生过。
KEEN公司CEO、GeekPwn大赛发起和创办人王琦(业界人称“大牛蛙”)说过一句话特别好:找到的漏洞不可怕,真正可怕的是那些没有被发现和公布的漏洞!
此外,王琦也是一直未人工智能的未来“操心”的人——人工智能既然能学习人类的行为和思维,那么可以教他们好,也就可以教他们“坏”!
“真正的难点在于,我们把人工智能安全分成两部分。今天展示的更多是把AI作为技术手段放在安全场景里面引起破坏的情况,我用AI的技术去搞破坏。而下个月13号在美国的那一场,是我个人更推崇的——就是AI本身发展到现在,它像一个小孩,在成长的过程当中会不会感冒、发烧、感染病毒,这是我们关心的。会不会被坏人利用,教他‘说脏话、干坏事’!它看到的东西明明是美好的,让它误以为是不好的,这就是在美国硅谷的那一场。”王琦说。
王琦透露,将于11月13日在美国硅谷计算机历史博物馆举办的GeekPwn2017硅谷站,就会针对“机器人被教坏”这件事来做些文章。全球顶级安全专家将带来哪些前沿议题?是否会有选手演示震撼全球的“心脏出血”漏洞或带来其他相关破解呢?
艾玛,这事就好玩了——人类未来必然进入机器人时代,进入人工智能无处不在的时代。机器人就像一个刚出生的婴儿,白纸一张,但人类如何去保证一个机器人“不学坏”,且又不被故意“教坏”呢?
·氧分子网(http://www.yangfenzi.com)延伸阅读:
➤ 程序员、黑客与开发者之别:开发者 ⊆ 程序员,黑客 ⊆ 程序员
➤ 王垠:黑客文化的精髓 |MIT改变世界的10件事情-黑客文化的起源地
➤ 引起全球恐慌的比特币勒索病毒WannaCry是怎么回事?如何防御
➤ 百度首席安全科学家韦韬:我们的战斗,从内存战争到黑产战争
·氧分子网(http://www.yangfenzi.com)综合整理
近几年在阿里巴巴安全部和全国政法机关的密切合作中,逐渐总结出一套互联网合作共治模式,提出了警企合作,群防共治,勇于创变的网络治理新思路,互联网+法制模式。2017年12月6日,第二届“网络新枫桥经验”高峰研讨会在北京开幕,为期两天。
大快人心,马云重磅出击,阿里巴巴集团重点治理网络安全
在会上各个负责人关于网络上个人信息安全,软件,恶意网站平台等都做了相关发言。
假货问题不是一个程序员就可以搞定的,需要所有人一起各司其责。” ,阿里巴巴集团首席风险官郑俊芳在第二届网络新“枫桥经验”高峰研讨会上发表演讲时表示。她希望所有互联网参与方都有一颗敬畏之心,还互联网一个健康的环境;希望大家多一份担当;希望携手一起面对全球的格局思考和布局。
大快人心,马云重磅出击,阿里巴巴集团重点治理网络安全
阿里巴巴集团安全部资深经理季勇强演讲时介绍称,目前互联网共有四大黑灰产业,包括实施恶意注册、虚假认证、盗号的网络账号类;提供技术工具的技术软件类;包括恶意网站、论坛、群组在内的恶意平台类;以及进行恶意投诉、恶意评价和退款的“黑恶”势力类。“这四大黑灰产是各大平台上最为严重的现象,上游提供基础工具、账号、身份信息、公民个人信息以及软件开发的能力,中游提供犯罪工具所需要的交易和买卖,下游则实施各类犯罪以及销赃。
大快人心,马云重磅出击,阿里巴巴集团重点治理网络安全
蚂蚁金服集团副总裁屠剑威演讲时认为,互联网金融涉及的板块较宽泛、发展速度差异也较大,像网络支付、互联网货币基金等业务形态逐渐标准化,风险基本可控,监管体系也趋于完善,而网络借贷、现金贷等新业务,兴起时间较短,亟待加强规范和引导。“对这些平台进行规范、监管正当其时,对行业规范非常有必要。”
大快人心,马云重磅出击,阿里巴巴集团重点治理网络安全
阿里巴巴集团副总裁余伟民在会上说:“网络在高速发展中,网络治理还有很多缺失,需要大家一起努力,建设一个良好的环境。”据余伟民介绍说在2017年上半财年(4~10月),公安机关受理阿里安全部举报线索后破获网络犯罪275起,抓获各类犯罪嫌疑人3800余人,遍布全国19个省、78个地市、99个县、市、区。
大快人心,马云重磅出击,阿里巴巴集团重点治理网络安全
“公民个人信息泄露非常严重,可能大家认为这主要是通过黑客盗用或者入侵,但事实并非如此,个人信息泄露主要体现在公民把自己的信息卖出去了。线上防控的数据显示,信息泄露中85%是信息买卖,而且基本上都是经过本人同意的。” 阿里巴巴集团安全部高级专家林晶晶称,这成为线下打击治理中碰到的严重问题,而后续的危害也没有明确的司法、行政规制措施,值得重视和进一步研究。
大快人心,马云重磅出击,阿里巴巴集团重点治理网络安全
自从1994年中国开始正式进入互联网时代,经过了20多年的高速发展,截至2017年6月,中国网民数量规模7.51亿,网站数量506万个,互联网普及率达到54.3%,中国已经成为了名副其实的网络大国。网络安全问题也随着越来越多,如何保证网络安全,越来越成为一个各方面都有关联有,彼此交织的庞大工程,除了相关部门大家力度监督和治理,更需要大家一起努力来共同营造一个安全的网络环境。