人工智能领域往往忽视了一个显而易见的事实：深度学习本质上是一门实验科学。尽管神经网络的结构相对清晰，但它仍然是一个复杂且难以解释的非线性系统。尽管越来越多的研究致力于揭示神经网络的本质，但它的神秘性依旧未解。科学方法是我们理解神经网络的唯一可靠途径，因为它基于实验基础。
然而，矛盾的是，尽管神经网络的本质是实验，整个领域却往往拒绝纯粹的实验方法。一般来说，一篇关于神经网络的论文通常首先介绍其创新之处，然后尝试进行形式证明，接着进行消融研究，最后得出结论。这种结论是基于实验结果得出的。
当代人工智能研究在基准测试这一环节停滞不前，而实际应用案例则属于后半部分。像imageNet、COCO和CIFAR-10这样的数据集，犹如人工智能的乐高积木，帮助我们实验新的构想，淘汰不良构思，成为极佳的工具。然而，它们仅仅是实现目标的一种手段，而并非最终目标。
这并不意味着现有研究是错误的，关键问题在于学术界与实际应用之间存在脱节。
请查看这个图表：它展示了COCO目标检测基准的最新进展，每个小点代表一个不同的模型——无论是新技术还是现有技术的组合，领跑者用蓝色标记。
该图表显示了从2016年1月的28.8分到2020年7月的55.1分的进展轨迹。取得的进步不可否认，从图中可以看出，EFFicientDet D7x是目前最佳的目标检测技术。但是，我想问你一个问题：在实际应用中，你会使用哪个模型?
你可能无法回答，因为你不知道我指的是哪个应用程序，也不清楚它的需求。它需要实时运行吗？是否可以在移动设备上运行？需要识别多少种类？用户对错误检测的容忍度有多高……
根据答案，以上这些因素可能都不值得考虑，甚至连EFFicientDet D7x都未必适用。如果模型必须在手机上实时运行，那么即使是对这些模型进行微调，它们也可能无法满足需求。更糟糕的是，不能保证这些模型在连续帧之间产生一致的检测结果。除了高准确率之外，我甚至无法列举出一个对检测质量要求极高的应用程序。
