转发-用于在NVIDIA GPU上进行高性能深度学习推理的库 [] 向前 Forward是一个用于在NVIDIA GPU上进行高性能深度学习推理的库。 它提供了一个精心设计的方案,可以直接将Tensorflow / PyTorch / Keras模型解析为基于的高性能引擎。 与TensorRT相比,它易于使用且易于扩展。 到目前为止,Forward不仅支持CV,NLP和Recommend领域的主流深度学习模型,还支持一些高级模型,例如BERT,GAN,FaceSwap和StyleTransfer。 特征 利用TensorRT API和定制的运算符进行高性能的深度学习推理。 不但支持CV,NLP和“推荐”领域中的主流深度学习模型,还支持BERT,GAN,FaceSwap,StyleTransfer等高级模型。 易于使用:直接加载Tensorflow(.pb)/ PyTorch(.pth)