在最近结束的2021年国际信息与通信安全会议（ICICS2021）上，蚂蚁集团机器智能部总经理及蚂蚁安全实验室学术带头人顾鸣宣布，基于可信AI技术自主研发的“E”-“端云协同风控”能力，现已覆盖99%的业务场景。
顾鸣在报告中提到，“互联网金融风控场景本质上是一场对抗博弈，支付宝一直在与黑产及其背后的AI进行斗争”。在内容安全、反洗钱及反欺诈等领域，蚂蚁集团对AI模型决策过程及结果的可解释性，以及抵御黑产攻击的鲁棒性，已达到了前所未有的高度。同时，随着隐私保护和公平性在社会发展中的重要性日益上升，相关技术研发已经超越了企业社会责任的范畴，成为企业发展的核心要素。
为了推动人工智能技术的有序和良性发展，学术界和工业界积极研发了多种隐私计算相关技术，包括“多方安全计算”，以实现数据的“可用而不可见”，确保数据的合理、合法和合规使用。同时，研究者们持续探索如何降低人工智能对数据的依赖。
顾鸣在分享中指出，”E”-“端云协同风控”（Edge to Cloud）是隐私保护的第三视角。该系统通过在用户智能终端（如手机）上进行隐私数据的计算，将不含隐私信息的决策结果传输到云端，实现“端云协同”的风控保障。
他强调，“可信AI中的隐私保护是一个更为广泛的概念，持续创新的视角和解决方案是实践隐私保护的关键。将数据放在‘端’上进行计算，而不影响‘云’提供的安全服务，是对用户隐私最有效的保护。”
早在2015年，蚂蚁集团就启动了首个“端特征”研究项目，迈出了端云协同风控研究的第一步，但在研发过程中面临诸多挑战。
例如，智能终端（如手机）上的机器学习技术当时并不成熟，技术团队需要打破传统建模方式以解决“端数据表征”等问题。此外，由于不同智能终端之间的巨大差异，能够在苹果手机上运行的模型未必能在低端机上实现。蚂蚁安全实验室的技术团队提出了“动态千机千模”方案，通过有效简化和适配模型，选择适合用户智能终端的风控模型进行下载计算；2021年则创新了“AI算力网络”，实现“端”和“云”之间算力的全局调配。
为了解决计算能力的问题，还需应对安全挑战。毕竟，风控的核心在于保护用户的数据和资金安全。在端云协同过程中，模型和信息的加密均在智能终端上进行，决策也在终端上完成。如果“端”遭到攻击，而“云”不能及时获知，风险控制将无从谈起。
自2018年端云协同风控上线以来，不仅为用户提供了基于隐私保护的安全防御能力，还在大促等高并发流量期间大幅减轻了风控计算压力——计算压力被有效分流至“端”；同时也为“云”上的风控模型提供了更大的响应和计算空间，从而为降低资损率创造了可能，实现了“三赢”的局面。
顾鸣强调，“安全和可信性研究作为制约AI技术发展的瓶颈，未来三十年将成为人工智能技术的关键环节。”伴随着人工智能的普及而出现的“可信”问题，将是打破人工智能发展瓶颈的“应用型命题”。只有坚持应用探索，充分实践，才能将技术理念转化为科技发展的护城河。
