KF服务 KFServing提供了Kubernetes 用于在任意框架上服务机器学习(ML)模型。 它旨在通过为Tensorflow,XGBoost,ScikitLearn,PyTorch和ONNX等常见ML框架提供高性能,高度抽象的接口来解决生产用例的模型。 它封装了自动缩放,网络连接,运行状况检查和服务器配置的复杂性,为ML部署带来了诸如GPU自动缩放,缩放至零和Canary推出等尖端服务功能。 它为Production ML Serving提供了一个简单,可插入且完整的故事,包括预测,预处理,后处理和可解释性。 KFServing正在 了解更多 要了解有关KFServing的更多信息