Page 91 - 软件工程与项目管理
P. 91

第三章 计算机视觉与大数据



            开源的深度学习框架,Oneflow 对分布式运行提供了较好的支持,性能也较为突出,
            能够在并行情况下快于多数主流框架,但社区规模以及易用性还有待提升。计图
            (Jittor)是 2020 年初清华大学开源的自研深度学习框架,完全基于动态编译,
            使用了创新的统一计算图模式,融合了静态图与动态图的优点。计图框架偏向学
            术研究,具有很好的探索性。天元(MegEngine)是 2020 年旷世科技推出的开源

            框架,同时支持动态图和静态图,具有训练、推理一体的特点,适用于大规模算
            法训练。
                 (三)深度学习框架发展趋势

                 深度学习方法的发展是推动深度学习框架进步的最大动力,因此深度学习
            框架的功能和设计应顺应算法和模型的发展趋势,具体来说未来深度学习框架的
            发展趋势应有以下五点。
                 第一,易用性。深度学习领域仍处于快速发展期,参与者和学习者不断增加,
            新模型大量提出。因此,与以往编程语言较为相似,且易于学习和编写的框架更

            容易受到使用者的青睐,有助于框架推广及获取更多用户。
                 第二,分布式与并行能力。随着深度学习模型规模及数据量的急剧增加,
            单卡已经无法满足较大模型的训练。分布式训练以及随之而来的并行问题对深度

            学习的重要性不断增加,尤其是对于工业界大型应用,如何提升并行和分布式性
            能,降低训练花费是当前及未来深度学习框架必须解决的问题。
                 第三,统一性。统一性包括纵向与横向的统一性,纵向统一性指的是框架
            各版本之间应在接口与使用方法上保持一致,横向统一性则指框架对各类硬件及
            各类部署的统一性。由于深度学习框架更新迭代快,若各版本之间接口与用法不

            统一,会对使用者带来较大阻碍,TensorFlow 正是由于缺乏纵向统一性而导致用
            户流失。而在横向统一性上,随着深度学习的广泛应用,模型已被部署在各类硬
            件上,除专业计算卡和计算机 CPU、GPU 之外也越来越多的用于手机甚至耳机、

            摄像头等移动终端。多类型终端部署对框架的横向统一性提出了要求,具有良好
            横向统一性的框架能够使模型不经过特别调整即可部署在多个终端,大大简化了
            深度学习在工业界应用的步骤,提升了模型的实用性。
                 第四,扩展性。深度学习模型的发展与其他方法的交叉逐渐增加,模型不
            再是以往简单的神经网络层堆砌和卷积等操作,图模型、贝叶斯等模型越来越多

            地与深度学习模型进行结合,可以预见未来将有更多模型与深度学习方法结合。


                                                                                    81
                                                                                    81
   86   87   88   89   90   91   92   93   94   95   96