网络安全和AI、云计算出现断层?极棒呼吁厂商加强联系

?

原标题:网络安全与人工智能,云计算故障?一年一度的极客全球安全极客竞赛在上海举行,呼吁制造商加强联系。在过去的两年里,对人工智能的攻击是最引人注目的事件之一,云计算的风险也是显而易见的。

玩家能破解知名制造商的图像识别系统,让人工智能做出错误的决定吗?如果玩家可以愚弄人工智能,黑客也可以,这将给制造商和用户带来无法估量的损失。人工智能,云计算的发展带来的安全隐患已经引起了人们的关注。极客(GeekPwn)竞赛由极客参加,他们被称为白帽黑客,技术高超,会提醒公司修补任何发现的漏洞。

Geekpwn的云安全挑战是世界上第一次基于真实云环境恢复的云安全攻击和防御竞争。在比赛现场,腾讯安全云三脚架实验室搭建了一个真正的、完整的可完全工作的堆栈云环境,再现了主流云平台的架构、技术和系统软硬件环境,并演练了对云的攻击和防御。

”今天,每个应用程序,包括人工智能、自动驾驶仪和5G通信,都在云上运行,而云默默地支持底层。在这种情况下,云将是我们未来非常重要的基础设施。基础设施的安全涉及未来社会运营、生产和生活的方方面面,因此云安全将非常重要。”腾讯安全云鼎实验室总经理李斌指出。

云安全竞赛是为玩家指出攻击路径的竞赛。极客可能是互联网公司的学生或安全团队。然而,与其他竞赛不同,云安全和人工智能项目团队几乎没有来自企业的人员,而是由学生组成。

在王琦看来,传统极客和云安全以及人工智能之间有一个缺点。“为什么我们强调完整的攻击路径?因为认识黑客的人从来没有接触过云。我来告诉你攻击路线,从一扇门到另一扇门,但是每扇门都有锁,你用过去的开锁方法打开它。这个过程帮助了云计算产业,它与传统黑客有联系。”王琦在接受记者采访时说。

在过去的两年里,深度学习是推动人工智能发展的一个重要因素。然而,业界已经在考虑人工智能发展带来的安全隐患。攻击深度学习模式也是极客竞赛中的热门项目。可以看出,人工智能的一些技术风险非常突出。

在“CAAD CTF图像对抗样本攻防大赛”现场,多支队伍使用图像对抗样本成功攻击图像分类器,导致分类器出错,欺骗人工智能图像识别。所有的团队都突破了被认为是“目标探测网络的巅峰”的YOLOv3系统一个团队甚至成功地用图片欺骗了克拉菲的人脸识别系统,让人工智能能够识别黄健翔为伊万卡。

从一个极好的角度来看,攻击深度模型的意义在于让人们更深入地思考机器视觉和人类视觉之间的真正区别。另一方面,深度模型不可解释的缺陷可以帮助人们认识到深度学习方法的局限性。对抗样本带来了关于深度学习的问题,也提供了修改深度模型的机会。这在军事、安全和自动驾驶领域具有深远的意义。

(责任编辑:DF398)

19℃的夏天,360℃的热情