摘要 摘要 型 模 下 随着大数据时代的到 机器学习模 规 变得 来 大 随机梯 降 来 越 越 度 算 其 布式并行变体成为 规 机器学习 法及 分 大 模 法 有 下 法在理论上 有 秀 任 主要优化算 虽然现 的 布式随机梯度 降算 具 优 务的 分 加 质 入 开 这 的线性 速比 但是由 在 践 分布式训练需要引 额外的 信 销 性 于 实 中 通 正