DeepSparse:利用稀疏性加速神经网络推理
DeepSparse是一种突破性的CPU推理运行时,采用了复杂的稀疏性技术,从实现了神经网络推理的加速。稀疏性是指神经网络中存在许多连接权重为零的情况。多层次API:提供引擎、管道和服务器等多层次的API,以满足不同应用场景的需求。