多模型服务器 ubuntu / python-2.7 ubuntu / python-3.6 Multi Model Server(MMS)是一种灵活且易于使用的工具,用于服务使用任何ML / DL框架训练的深度学习模型。 使用MMS Server CLI或预配置的Docker映像来启动一项服务,该服务设置HTTP端点以处理模型推断请求。 下面提供了服务和包装的快速概述和示例。 中提供了详细的文档和示例。 加入我们 与开发团队联系,提出问题,了解烹饪内容等等! 本文件内容 其他相关文件 快速开始 先决条件 在继续阅读本文档之前,请确保您具有以下先决条件。 Ubuntu,CentOS