Page 90 - 软件工程与项目管理

软件工程与项目管理
Software Engineering & Project Management

架则没有成功的推广，更多的用于企业内部业务或少数工业界应用。TensorFlow
框架开源较早，拥有更多的积累。但近年来 PyTorch 框架凭借易理解、易学习、
易使用的优点，热度迅速超过 TensorFlow，新模型及新算法的研究开发更多的基
于 PyTorch，已经成为当前学术界最常使用的框架。
（二）国内深度学习框架

国内的深度学习框架起步较晚，但近年来也有许多自主研发的框架发布。
飞桨（Paddle Paddle）是百度公司于 2016 年推出、2018 年开源的深度学习平台，
也是中国首个开源的深度学习框架。飞桨框架的设计兼顾高效和易用性，原生支

持分布式训练和可扩展推理，并且兼容命令式和声明式两种编程范式。飞桨框架
在对国内硬件的适配上超越了 TensorFlow 和 PyTorch，建立了规模庞大的模型库，
有大量应用落地，是国内领先的产业级深度学习平台。
2019 年，华为推出了全场景 AI 计算框架 MindSpore 并于 2020 年初开源。
MindSpore 在设计上吸取了以往框架的优点，也对相应的缺点进行了改进。

Mindspore 具有多项优势：第一，全场景支持。MindSpore 原生支持端、边、云
独立 / 协同的统一训练和推理，针对不同运行环境，框架架构上提供大小不同的
支持，能够更好的适应不同场景独立部署。第二，开发友好。MindSpore 通过 AI

算法，能够显著减少模型开发时间，与其他深度学习框架相比，一个 NLP 模型
MindSpore 的核心代码量可降低 20%。第三，动静态图一致性。动态图与静态图
模式各有优点和缺点，MindSpore 在架构上采用了动静态图一致的设计，克服了
TensorFlow 与 PyTorch 的不足。第四，自动并行。MindSpore 能够自动分析张量的
空间排布与通信策略，使用者仅需输入算子的切分方式，就能自动实现数据并行

与模型并行。对于大规模分布式计算来说并行训练极为重要，而这正是 PyTorch
框架存在的痛点。MindSpore 从架构设计上进行创新，推出了行业领先的并行能力。
第五，与昇腾处理器的配合使用。软硬件结合是华为 MindSpore 区别于其他所有

深度学习框架的重要特点。当前深度学习领域几乎所有框架和用户都使用 Nvidia
公司的专业GPU进行计算，而MindSpore能够与华为昇腾系列AI处理器配合使用，
通过与处理器的协同优化，有效克服了计算的复杂和算力的多样性，使计算性能
得到了极大提升，远超其他框架。同时 MindSpore 也支持 CPU、GPU 等常用处理
器进行计算。目前，Mindspore 已经成为国内活跃度最高的深度学习框架。

此外 2020 年还有多个国内自研框架推出。Oneflow 框架是 2020 年一流科技

80
80