MARC状态：订购 文献类型：中文图书 浏览次数：3
- 题名/责任者:
- 分布式机器学习:系统、工程与实战/柳浩著
- 出版发行项:
- 北京:电子工业出版社,2023.07
- ISBN及定价:
- 978-7-121-45814-9/CNY139.00
- 载体形态项:
- 14,575页:图;26cm
- 中图法分类号:
- TP181
- 一般附注:
- 博文视点
- 提要文摘附注:
- 本书共分为5篇，第1篇是分布式基础，首先介绍了分布式机器学习的概念、基础设施，以及机器学习并行化技术、框架和软件系统，然后对集合通信和参数服务器PS-Lite进行了介绍；第2篇是数据并行，以PyTorch和Horovod为主对数据并行进行分析；第3篇是流水线并行，还通过引入额外的流水线来提高效率，以GPipe/PyTorch/PipeDream为例进行分析；第4篇是模型并行，首先对NVIDIAMegatron进行分析，讲解如何进行层内模型并行，然后讲解PyTorch如何支持模型并行，最后介绍分布式优化器；第5篇是TensorFlow分布式。
- 使用对象附注:
- 分布式算法研究人员
全部MARC细节信息>>