互联网资讯 / 人工智能 · 2023年11月6日 0

安全AI挑战者计划突破电子萝卜章

9月7日消息,阿里安全与清华大学合作启动的“安全AI挑战者计划”第五期对抗赛中,“电子萝卜章”已被攻破。

安全AI挑战者计划突破电子萝卜章

据主办方介绍,“安全AI挑战者计划”是全球首个专注于AI领域的安全赛事,旨在通过顶尖的安全AI竞赛,培养未来的新基建安全技术人才。

第五期对抗赛的任务是针对证件资质文档类图像进行伪造及反伪造的对抗,旨在通过实战环境解决长期困扰社会的问题。

阿里安全专家渡明指出,随着政府及众多企业逐步实现无纸化办公,很多合同也开始使用电子印章。然而,目前只有少数政府部门具备图像取证技术,商用的图像取证技术在国内外几乎不存在,一旦不法分子伪造电子印章而无法被识别,损失将会十分严重。

他进一步提到,随着各种P图工具的普及,伪造出视觉上无痕迹的假图变得越来越容易,这些假图被广泛用于散播谣言、制造虚假新闻、非法获取经济利益,甚至可能被恶意用作法庭证据。

渡明表示,他们的团队是国内唯一在图像取证技术领域进行布局的互联网企业团队。与传统的图像取证比赛主要集中于自然内容图像不同,阿里的“安全AI挑战者计划”更关注现实生活中人们面临的具体问题,比如证明材料的造假和印章的伪造。

此次对抗赛的共同出题人、清华大学教授朱军表示,希望通过安全AI挑战者计划的发展,推动新的机器学习算法的进步,并逐步将AI安全问题进行体系化和标准化,形成一个优秀的线上社区,汇聚对抗样本,吸引AI安全领域的研究者与开发者,通过合作共同提升机器学习算法的安全性和可靠性。

阿里安全专家鹿城透露,在数字经济迅速发展的背景下,AI安全对于新基建的建设至关重要。阿里安全在20年的实战经验中沉淀出的新一代安全架构中,锻造安全的AI是一个重要环节。

此外,鹿城还提到,新基建对安全人才的需求非常迫切,培养优秀的安全专业人才需要较长时间,并需在丰富的实际业务场景中经过系统化的历练。清华与阿里携手打造安全AI挑战者计划,正是为了结合阿里安全的实战经验与场景,培养面向未来的新基建安全技术人才。