引言
卷积是神经网络的核心计算之一,在计算机视觉领域推动了深度学习的快速发展。随着网络结构越来越深,卷积运算的开销在整个计算中占据了相当的比例,因此提升卷积计算效率成为一个关键的研究目标。
随着技术的发展,研究者提出了多种优化思路,例如 IM2col、Winograd 等方法。本文将首先对卷积神经网络的基本概念进行界定,随后简要介绍几种常见的优化策略,并结合作者在该领域的经验做出讨论。
卷积神经网络的概念
卷积神经网络(Convolutional Neural Networks,CNN)起源于信号处理领域对卷积运算的研究。信号处理中的卷积通常用于描述输入信号与滤波器在时空上的滑动积累过程。
