当前，深度学习技术的部署方式主要有两种：云端和边缘。
由于对处理能力和内存消耗的高需求，以及AI模型的复杂性，许多部署案例依赖于云计算。虽然云部署能够利用高性能计算的优势，但仍然面临一些挑战。例如，频繁的数据传输可能引发隐私问题，同时也受到延迟、带宽和连接性的限制。
因此，业界开始关注边缘AI的发展，这是我在上一篇文章中提到的。相关工作主要集中在开发新方法以训练AI模型，这些方法能够有效减少模型体积，从而实现直接在边缘设备上部署。
边缘AI通过使智能设备能够实时做出自主决策，解决了深度云部署的不足之处，进一步推动了深度学习的发展。这种方式消除了持续向云发送数据的需求，从而改善了隐私保护、带宽利用和延迟问题。此外，新兴的边缘AI部署方法显著提高了处理速度，降低了功耗和内存消耗，从而有效降低了成本并减轻了环境影响。
一个人的利益无法完全替代另一个人的需求，因此，最具影响力的现实世界AI部署将是采用混合方法的方式，即结合云端和边缘的优势。那么，混合部署具体是怎样的呢？
混合部署的灵活工作流能够实现更优结果
首要任务是通过识别需要在边缘实时决策的应用场景，剔除那些适合在云中进行长期分析和优化的工作流程，从而提高效率和可扩展性。
例如，在智能边缘设备上部署深度学习时，实时决策显得尤为重要，适用场景包括自动驾驶汽车、农业无人机、监控摄像头和移动设备等。同时，系统还能够将数据上传到云端进行存储和更深入的处理与分析，这些更复杂的计算可由功能更强大的云端引擎来完成。这不仅确保了系统能够利用大规模计算的优势，还允许将云中的数据与其他系统的数据进行整合。
通过这些数据的整合，可以不断对模型进行再训练以实现持续改进。一旦在云端完成再训练，新的模型便可重新部署到边缘设备。
与单一方法相比，将云AI和边缘部署的优势结合在一起，能够创造出更强大的解决方案。具体而言，云AI的高性能处理能力能够补充边缘AI的高效性、速度和自主性。
混合方法的实际应用
在自动驾驶汽车中应用人工智能是一个很好的例子，说明了混合方法的优势。
在这一应用场景中，AI模型必须运行在边缘，即直接在车辆和设备上，以确保汽车能够安全行驶。如果汽车必须在将数据发送至云端后才能采取行动，它将无法迅速做出反应，确保安全。此外，车辆的互联网连接也不能得到保证。
然而，汽车制造商同样可以从收集数据中获益，这不仅限于实时决策的需要。将收集到的数据发送到云端进行处理是实现持续改进和模型再训练的关键。这不仅能全面处理设备的数据，还能将深度学习的洞察与其他边缘设备的数据结合，从而获得更全面的理解。基于这些洞察，算法可以得到持续优化，以推动自动驾驶汽车系统的发展。
未来的方向：边缘AI与云AI的演变
随着越来越多的组织在云端或边缘利用AI技术，我们将看到更多能够带来实际价值的深度学习应用。
5G网络的普及将继续推动深度学习的进步。5G的普及将提升超级计算的可访问性，使得边缘与云之间的数据共享更加无缝高效，从而促进更高效的数据处理。
尽管如此，即使在5G环境下，边缘仍需进行实时决策。云端仍无法满足边缘应用对数据处理的即时需求。因此，在规划模型部署时，边缘AI必须继续成为AI公司关注的重点。那些在云和边缘部署中采用互补方法的企业，将在短期处理能力及长期有效存储、处理和优化模型方面获得最大的成功。
