尽管2020年发生了许多重大事件，但人工智能依旧在其中脱颖而出，进入了公众的视野。
尤其是GPT-3的出现，预示着人工智能将以前所未有的方式融入我们的日常生活。
这些进展为未来带来了无限可能，尽管预测未来并不容易，但随着技术的日渐成熟，其他领域的突破也在可预见之中。
以下是2021年人工智能可能取得突破的几个重要领域。
GPT-3与AlphaFold背后的TRansfoRMeR
2020年最引人注目的两项人工智能成果，均基于相同的基本结构。OpenAI的GPT-3和DeepMind的AlphaFold都是依托于TRansfoRMeR技术。
自2017年问世以来，TRansfoRMeR展现出了非凡的能力。GPT-3和AlphaFold的表现表明，它比以往的序列模型学习得更快且更深入，并且在自然语言处理（NLP）以外的领域也表现出色。
与循环神经网络（RNN）和长短期记忆网络（LSTMs）等传统序列模型不同，TRansfoRMeR能一次性处理整个输入序列，同时引入了“注意力”机制，以理解输入各部分之间的关联。
因此，TRansfoRMeR能够有效解决循环模型一直面临的“长期记忆”问题。
此外，TRansfoRMeR还支持并行训练，能够充分利用近年来发展起来的大规模并行处理器，大幅缩短训练时间。
毫无疑问，2021年研究人员将继续探索TRansfoRMeR的新应用，期待在这一领域取得更大突破。
2021年，OpenAI已对GPT-3进行了改进，推出了DALL-E，使其能够根据文本描述生成图像。TRansfoRMeR将在2021年迎来新的发展机遇。
图神经网络（GNN）的两大趋势
许多领域的数据本质上适合图形结构，如计算机网络、社交网络、分子/蛋白质及运输路线等。
图神经网络（GNN）使深度学习能够应用于这类图形化数据，我们期待GNN在未来发挥更为重要的作用。
2021年，预计在几个关键领域的进展将推动GNN的更广泛应用。
第一个关键领域是“动态图”。虽然迄今为止大多数GNN研究假设图形是静态的，但这种情况将逐渐改变。例如，在社交网络中，新成员的加入会创建新节点，关系也会随之变化。
在2020年，我们看到了一些将时间演化的图建模为一系列快照的研究，2021年这一新兴研究方向将拓展，关注如何将动态图建模为连续时间序列的方法。
这样的连续建模除了通常的拓扑结构外，还将使GNN能够识别和学习图中的时态结构。
对“消息传递范式”的改进将是另一项重要进展。消息传递是图神经网络的一种常见实现方式，通过沿着连接邻居的边传递信息以聚合节点信息。
尽管这种方法直观，但它难以捕捉需要在图上长距离传播的信息效果。
2021年，我们期待在此范式上有所突破，例如通过迭代学习哪些信息传播路径最为相关，甚至学习全新的关系数据集的因果图。
2021年的AI应用前景
去年许多头条新闻突出了AI在实际应用中的新进展，而2021年这些进展有望真正投入市场。
值得注意的是，GPT-3的API将变得更加可用，依赖自然语言理解的应用程序也将随之增多。该API使用户能够访问GPT-3的功能，无需投入精力训练自己的AI。
微软已获得GPT-3的独家使用授权，预计这项技术将出现在其产品中。
在2021年，其他领域也将受益于AI技术。虽然AI和机器学习早已进入网络安全领域，但2021年将展现出更大的潜力。
如同太阳风黑客事件所揭露的，许多公司面临着网络犯罪分子及高端恶意软件的威胁。
因此，AI和行为分析将对识别新威胁甚至早期威胁至关重要，期待2021年能推动最新的行为分析AI，以增强网络防御系统。
此外，我们还期待更多基于边缘设备运行机器学习模型的应用程序。
像谷歌的CoRal这样的设备，随着处理能力和量化技术的提升，将更为普及。
图为CaRol加速器模块，带有Google Edge TPU的新型多芯片模块。
边缘人工智能消除了将数据发送到云端的需求，这不仅节省了带宽，还缩短了执行时间，这对医疗等领域至关重要。
边缘计算的应用还可在隐私、安全和低延迟要求较高的场景中发挥作用，甚至在无法接入高速互联网的地区。
未来充满不确定性，但也充满希望
随着AI技术在实际领域的应用愈加广泛，TRansfoRMeR和GNN的进步将推动现有AI技术和算法的进一步发展。以上内容仅是对几个有望在今年取得进展的领域的简要介绍，随着时间的推移，更多的惊喜将会随之而来。
尽管未来难以预测，但无论结果如何，2021年无疑将是人工智能领域令人激动的一年。
