神经引擎-我们对此有什么了解? 大多数新的iPhone和iPad都具有神经引擎,这是一种特殊的处理器,可以使机器学习模型真正快速,但是对于该处理器的实际工作方式却知之甚少。 Apple神经引擎(或ANE)是NPU的一种,它代表神经处理单元。 它就像GPU,但不是加速图形,而是NPU加速了卷积和矩阵乘法之类的神经网络操作。 ANE并不是唯一的NPU,除了苹果公司以外,许多公司都在开发自己的AI加速器芯片。 除了神经引擎外,最著名的NPU是 (或张量处理单元)。 为什么要这个文件? 我提供了并且经常收到人们的电子邮件,这些人感到困惑,为什么他们的模型似乎没有在神经引擎上运行,或者为什么当ANE应该比GPU快得多时,它却是如此之慢。 .. 事实证明,并非每个Core ML模型都可以充分利用ANE 。 之所以会很复杂,因此本文试图回答最常见的问题。 ANE非常适合使ML模型在iPhon