比较好发表的计算机类中文核心期刊

计算机学报——如何优化深度学习推理的性能

随着大数据和深度学习的火热发展，对于深度学习网络的性能逐渐成为了研究的关注点之一。而深度学习推理的性能，直接影响着消费者购买的决策。因此，在此次文章中，我将讨论如何通过各种技术手段，对深度学习网络进行优化，提高深度学习推理的性能。

1. 量化技术

量化技术是一种通过减少浮点运算，将网络中的参数转换成整数类型，从而达到减少内存的目的，提高网络推理性能的技术手段。量化技术的核心要点在于通过限制参数的表示范围，减少参数的类型所需的存储空间，进而减少内存的使用。其中目前主流的方法有动态量化和静态量化。其相较于非量化方法，在保持精度的情况下，能够取得更好的推理性能，并减少内存空间的使用。

2. 低秩分解

低秩分解是一种将神经网络中的矩阵分解成两个低秩矩阵的方法。通过这种方式，网络中的参数数量将会呈几何倍数的减少，从而减少了内存的使用。同时，可以通过低秩分解形成的小型网络，达到比原网络更好的推理性能。其中的经典方法有SVD。

3. 硬件加速

由于深度学习网络运行所需的计算量大到难以想象，因此通过硬件加速，让神经网络的推理模型在功耗和速度上都得到了提升。目前主流的处理器种类有GPU，FPGA和ASIC。其中GPU最为广泛，由于其具有良好的计算性能和低廉的成本，如NVIDIA公司的CUDAN等显卡，而ASIC目前处在发展阶段，也受限于专业技术，目前较少应用于实际深度学习领域，未来也有望在特定的场合下占据主导地位。

总之，优化深度学习推理的性能是一个充满挑战的领域。可以通过各种算法优化方法、硬件加速、量化技术等方面来减少内存的使用，提高网络的执行性能。虽然目前的方法已经取得了一定的效果，但深度学习领域的发展态势需要我们不断拓展创新，寻找更为高效的深度学习推理优化方法，让深度学习更好地服务于消费者和产业发展。

本文由汉枫学术首发，转载请注明出处！

文章名称：比较好发表的计算机类中文核心期刊

文章地址：https://www.hanfengq.com/fbzd/qikan/32932.html

《比较好发表的计算机类中文核心期刊》

上一篇：比较好发表的核心期刊下一篇：比较好录得核心期刊