科普知识

周鸿祎谈安全:一个小条纹就可能破解人脸识别

DoNews5 月 16 日消息(记者 赵晋杰)在 5 月 16 日的在第三届世界智能大会上, 360 董事长兼CEO周鸿祎语惊四座。他在演讲中,提到一个人工智能时代的“畅销服装”概念。周鸿祎讲到,人脸识别技术本身也存在先天缺陷:黑客们通过研究发现,只要把一种奇怪的条纹打印下来,别在衣服上,就能“屏蔽”掉人脸识别系统,出入自由。

“这种衣服可能会很畅销”,周鸿祎在演讲中调侃。他认为,这还只是不太严重的情况。以小见大,一些无人驾驶的汽车,可能会被马路上“奇怪”的符号误导,导致严重的交通事故。

为了杜绝这种情况,周鸿祎建议企业在上线系统前,应做好安全检测,做好“实网攻防”。“要用实际的攻击发现问题,而非靠静态的研究证明系统的安全”,周鸿祎还为公司“打广告”:“一定要找我们这些天天吃饱没事干的‘黑客公司’来帮大家做实际的攻防,在我们手里发现问题,比在实践中发现问题可能要好一些。”

此外,周鸿祎还提到波音737MAX坠机事件。由于其飞行控制系统的严重安全风险,近期737MAX型飞机在过去六个月内发生两次坠毁事故。周鸿祎自称非航空专家但也看到两个问题,一是系统设计的再完美,一旦传感器出错,就会影响飞行控制系统的判断,继而“犯错”。二是当计算机出错后,究竟是听计算机的还是驾驶员的?

“大家都应该思考这个问题”,周鸿说,在将来无人车、无人工厂、无人码头等众多无人值守系统里,当我们没有很大把握的情况下,在传感器误报、数据被污染的情况下,最后的控制权和决定权应该留给机器还是人?

最后,周鸿祎还放话,称“我要攻击刘庆峰”。周鸿祎指出,去年刘庆峰在演讲中播放了用人工智能“伪造” 的川普视频,引发了他的思考。他在演讲中提醒大家:最近,美国已经有人利用人工智能将色情视频里的女主角换成女明星。这一技术正引发恐慌,遭到美国政府查封。

“我今天已经不相信朋友圈里的美女了”,周鸿祎说,如果这种工具降低了每个人的做假成本,就可能会出现假新闻、假名人视频。这颠覆了我们过去“百闻不如一见”的固有观念,甚至会在关键时刻带来混乱。

“新加坡正在制定相应的法律”,周鸿祎呼吁我国也应加强对该类问题的重视,防止这样的“工具”流传,引发一系列道德伦理问题。

演讲中,周鸿祎总结道,讲这三件事并非贬低人工智能,恰恰相反,关注安全有利于人工智能更好地发展。“因为只有安全的信息化,才会给人民带来安心和幸福的信息化”。(完)

基地展示     科普知识     

宝马彩票版权所有 Power by DeDe58