3月11日消息，阿里安全团队的一项新研究表明，仅用一支普通的激光笔就能使AI模型失效。在这项研究中，专家们开发了一种算法，能够模拟光束对AI模型进行攻击，这种测试方法经过现实验证，且操作简单，对现有的基于AI的视觉系统，尤其是自动驾驶技术构成了严重威胁。
当不同频谱的光束照射在同一物体上时，AI可能会错误识别该物体，例如将停车标志误认为是顺利通行。
图说：一束激光可能导致自动驾驶汽车错误识别交通标志
攻击AI并不需要复杂的对抗样本，仅一支激光笔即可实现。我们希望通过这项研究揭示AI模型中一些未被发现的漏洞，从而增强AI的安全性，使其未来能够抵御此类攻击，并促使相关从业者更加重视AI模型的安全性，阿里安全图灵实验室的负责人薛晖表示。
除了利用光束测试AI视觉的安全性，图灵实验室最近还发布了多项关于AI安全的研究成果，包括多种文字识别与检测技术、自监督视频表征学习方法的建立、半监督行为检测算法框架、对抗样本生成、伪造人脸检测、AI在双模态识别中的应用，以及视频描述生成技术等。这10项新一代AI安全架构研究成果均已被国际顶级会议CVPR2021收录。
探索AI安全的前沿技术，旨在让AI更加安全，同时利用AI解决具体的社会问题，寻找提高效率的新方法，薛晖解释道。
此外，薛晖还强调，安全部署应当前置，无论是AI本身的安全，还是AI在解决社会问题中所能发挥的作用，这都是从源头上构建安全的核心理念。他希望在广阔的AI安全研究领域中，能吸引更多新生力量的加入，激发创造性和想象力的研究，最终将这些成果应用于人们的日常生活中，以服务大众，解决实际问题。
