​华为AI的＂暴力美学＂：昇腾910的＂十大秘密＂

华为AI的"暴力美学"：昇腾910的"十大秘密"

背景】

各位华为的花粉，还记得"麒麟910处理器"么？

话说2013年，华为推出第一款麒麟910处理器。这有什么意义呢？

这意味着国产手机有了自己的处理器，通俗地说，麒麟芯片是华为与苹果、三星平起平坐的底气所在。麒麟处理器910因此深入国人心中。

华为官方消息称，9月6日IFA 2019展览会将揭晓重磅新品，不出意外就是麒麟990了。也就是说，麒麟910一口气升级到了麒麟990。

如果廉价能占领市场，夏利早就把奔驰灭了。

但我们知道，现在消失的是夏利。这句话用在华为身上同样非常合适。

"麒麟910"诞生6年之后……

8月23日，华为在总部宣布，Ascend（昇腾）910芯片正式上市商用。这又有啥意义？

与麒麟910处理器，昇腾芯片主要是配合云服务来使用，主攻云计算服务器市场；而麒麟芯片将主打手机处理器，这是二者最大的差别所在。

科创观察总结出"十大秘密"，全方位解读了昇腾910的亮点。

昇腾910+MindSpore框架=？

细心的花粉一定注意到了，华为发布昇腾910芯片时，重点介绍了MindSpore框架。

这是为什么？

据了解，这种"软硬组合"的主要目的，是为了释放华为AI战略的云端算力。

昇腾910是基于华为自研的达芬奇架构，采用7nm制程，是目前全球已发布的单芯片计算密度最大的AI芯片。

目前昇腾910已经通过华为云用于实际AI训练任务。比如，在典型的ResNet50 网络的训练中，昇腾910与MindSpore配合，与现有主流训练单卡配合TensorFlow相比，显示出接近2倍的性能提升。

如果说芯片代表算力，那么智能框架代表了算法，它是人工智能领域的"操作系统"。

令人惊喜的是，华为此次发布的智能框架MindSpore与昇腾芯片的搭配，将最大化利用芯片能力。

MindSpore AI框架具有两个特征：1）显著减少训练时间和成本；2）运行态高效，可以实现最少资源和最高能效比。

昇腾910和MindSpore框架的组合式发布，将算力通过华为云释放，让华为云的云端AI算力获得极大提升。

"全栈全场景"AI能力：如何理解？

这一次，华为提出一个新概念——"全栈全场景"，这传递了哪些具体的信息？

华为轮值董事长徐直军在发布会上表示：华为之所以要开发并推出MindSpore框架，是因为没有任何一个现有框架支持全场景。

为了更好促进AI应用，MindSpore计划将在2020年Q1开源，助力每一位开发者，促进AI产业生态发展。

而现在推出昇腾910、MindSpore，标志着华为完成全栈全场景AI解决方案（Portfolio）的构建，华为AI战略进入一个新的阶段。

显然，这是从华为的公司战略层面来说的。从人工智能整个产业而言，华为推出"全栈全场景"AI解决方案，其目的是让AI无处不在。

据了解，MindSpore是全场景AI计算框架，这个计算框架的实际意义包括三方面：

1）大大降低AI应用开发的门槛；

2）在任何场景下保护用户隐私；

3）能够实现AI无处不在的终极目标。

【注释】：华为AI解决方案（portfolio）的全场景，是指包括公有云、私有云、各种边缘计算、物联网行业终端以及消费类终端等部署环境。

而全栈是技术功能视角，是指包括Ascend昇腾系列IP和芯片、芯片使能CANN、训练和推理框架MindSpore和应用使能ModelArts在内的全堆栈方案。

值得肯定的是，这次最新发布的MindSpore在上述三个方面取得了显著进展。

通过全场景方案而适应企业不同需要，确保用户隐私得到尊重和保护，让AI能够部署在任何场景，而不仅仅是公有云。

不过，华为AI总体应用还处于初期，AI技术和能力相比于长远目标仍有很大差距。

昇腾910：为何夺得算力AI处理器冠军？

此次正式发布的AI芯片是昇腾910，属于Ascend-max系列。在去年召开的HC2018上，华为已经发布了其详细的技术规格。

实测结果表明，昇腾910完全达到了设计规格——即半精度(FP16)算力达到256Tera-FLOPS，整数精度(INT8)算力达到512Tera-OPS。

重要的是，达到规格算力所需功耗仅310W，明显低于设计规格的350W。

徐直军表示，"昇腾910总体技术表现超出预期，作为算力AI处理器，当之无愧。我们已经把昇腾910用于实际AI训练任务。"

比如，在典型的ResNet50网络的训练中，昇腾910与MindSpore配合，与现有主流训练单卡配合TensorFlow相比，显示出接近2倍的性能提升。

关于出售方式：昇腾AI芯片为何以板卡的形式出售？

昇腾AI芯片不单独卖，而是以板卡的形式出售。这并不意味，而是一种技术发展的必然。

据介绍，昇腾是以AI加速模块、AI服务器、云服务的形式面向第三方销售。需要强调的是，华为不会把AI芯片业务独立出去面向市场。

与此同时，华为希望跟大量的AI芯片开发企业探讨合作，以应用于多样的边缘计算场景。

徐直军表示，"我们不直接向第三方提供芯片，而是提供基于芯片的硬件和云服务，我们和纯芯片厂商没有直接竞争。"

昇腾芯片的背后：华为人工智能发展战略如何布局？

在全链接大会上，华为将公司的人工智能发展战略进行了解释，分为五个部分：

1）投资基础研究：包括计算视觉、自然语言处理、决策推理等领域。

2）打造全栈方案：打造面向云、边缘和端等全场景的、全栈解决方案，提供全流程的 AI 平台。

3）投资开放生态和人才培养：面向全球，打造人工智能开放生态，培养人工智能人才。

4）解决方案增强：把 AI 思维和技术引入现有产品和服务，实现更大价值、更强竞争力。

5）内部效率提升：应用 AI 优化内部管理，对准海量作业场景，大幅度提升内部运营效率和质量。

其中，华为"全栈全场景"AI解决方案是整个战略的核心，包括四个方面：

1、基于可统一、可扩展架构的系列化AI IP和芯片Ascend。

2、芯片算子库和高度自动化算子开发工具CANN。

3、支持端、边、云独立的和协同的统一训练和推理框架的MindSpore。

4、提供全流程服务ModelArts，分层API和预集成方案的应用使能。

在这个方案中，华为自研的AI芯片算是重中之重。

徐直军表示，如果说算力的进步是当下 AI 大发展的主要驱动因素，那么，算力的稀缺和昂贵正在成为制约 AI 全面发展的核心因素。

"Ascend"芯片的命名与前世今生

听说有一个有趣的故事，"Ascend"这个名字，华为最早将其用在智能手机初期。

华为将Ascend分为四个系列D、P、G、Y ，分别对应旗舰、高端、中端、入门。

2013年2月：

Ascend P2发布，首次搭载了华为自家的海思K3V2四核处理器，因为4G牌照的问题，P2没有在国内上市。之后发布的Ascend D2，使用了相同的处理器。K3V2是海思半导体第一款成功市场化的手机处理器。

2013年6月：

华为在伦敦发布Ascend P6，使用海思K3V2E四核处理器。这款处理器扮演了极重要的角色，成为华为手机的大功臣。

2014年5月：

华为在巴黎推出Ascend P7，搭载海思Kirin910T四核处理器。这时，华为手机处理器从海思分拆出麒麟系列。

2015年4月：

华为在伦敦首发P8，搭载麒麟930/麒麟935处理器。华为开始淡化Ascend，直接以P系列命名手机。

现在的Ascend（昇腾）芯片是华为"达芬奇项目"的一部分，也是华为全栈人工智能解决方案的一部分。

Ascend是基于可统一、可扩展架构的系列化AI IP和芯片，昇腾芯片包括Max，Mini，Lite，Tiny和Nano等五个系列。

为何要自研架构，不采用寒武纪等合作伙伴方案？

外界一直存在疑问，华为为何要搭建自己的"达芬奇架构"？为何不用寒武纪等厂商的方案？

徐直军在采访中回答，构建新架构来支持人工智能芯片，是因为这是基于华为对人工智能的理解，基于端管云对对人工智能的需求自然产生的。

徐直军表示，"寒武纪也很好，但无法支持我们的全场景。"

华为需要覆盖从云、到边缘、到端到物联网端，需要全新的架构，创造力的架构。

华为首席架构师党文栓介绍说，Ascend芯片采用统一达芬奇架构：可扩展计算、可扩展内存、可扩展片上互联。

因此，这是全球首个覆盖全场景的智能芯片系列，其地位具有非常独特的市场价值。

升级之路：昇腾310和ModelArts获得广泛应用

在华为全联接大会2018上，华为正式对外发布昇腾310，与此对应还发布了ModelArts。这个ModelArts指的是全流程模型生产服务。

当时震撼业界的是，这组产品是华为全栈全场景解决方案的首批组件。自发布以来，基于昇腾310芯片的产品和云服务获得广泛应用。

1）基于昇腾310的MDC和很多国内外主流车企在园区巴士、新能源车、自动驾驶等场景已经深入合作。

2）基于昇腾310的Atlas系列板卡、服务器，与数十家伙伴在智慧交通、智慧电力等数十个行业落地行业解决方案。

3）基于昇腾310，华为云提供了图像分析类服务、OCR服务、视频智能分析服务等云服务。

4）对外提供API达50多个，日均调用量超过1亿次，而且在快速增长，预计年底日均调用量超过3亿次。

5）另有超过100多个客户使用昇腾310开发定制AI算法。

ModelArts全流程模型生产服务打通了从数据获取-模型开发-模型训练-模型部署的全链条，可将生产所需的所有服务一站式提供。

截止目前，ModelArts日均训练作业任务超过4000个，32000小时，其中：视觉类作业占85%，语音类作业占10%,机器学习5%。

全联接大会2019，更多震撼的AI新品

随着8月23日昇腾910AI处理器，以及MindSpore全场景AI计算框架发布，华为全栈全场景AI解决方案各重要组成部分悉数登场。

910处理器表明，华为实现了预期的计划和目标。这是一个新里程碑，更是一个新开始。

据徐直军预告，在即将于9月18日开幕的华为全联接大会2019上，将有更多震撼的AI新品提出。

面向未来，针对不同的场景（包括边缘计算、自动驾驶车载计算、训练等场景），华为将持续投资，推出更多AI处理器，面向全场景持续提供更充裕、更经济、更适配的AI算力。

作为昇腾910 和昇腾 310 的升级款，昇腾 920 和昇腾 320 也将会在 2020 年发布。

昇腾910 只是 Ascend-Max 系列的产品，Ascend 系列 AI芯片还有 Mini、Lite、Tiny 和 Nano 这四个系列。

华为期待与各位伙伴更加深入、广泛地合作，让AI无所不及，把数字世界带给每个人、每个家庭、每个组织。

华为AI：没有"暴力"，哪来成果？

"全场景覆盖"是华为的不二选择，在全球竞争对手中，唯有华为提供全场景AI解决方案。

目前，AI服务器芯片领域的核心玩家包括了英伟达、英特尔、谷歌、微软等，AI手机和物联网芯片的玩家也越来越多。

根据华为提供的数据，目前全球AI领域的 startup公司已经达到了1100多家。根据Gartner估计，AI芯片在2017年的市场规模为48亿美元，2020年预计达到146亿美元，其中云端应用可望达到105亿美元。

此前，谷歌云推出了用于边缘计算的Edge TPU。

作为Cloud TPU的补充，用户可以在云上构建和训练ML模型，然后通过Edge TPU硬件加速器在Cloud IoT Edge设备上运行这些模型，这在某种程度上降低了开发者的成本。

但如果能出现一套框架，让手机、公有云、私有云、边缘计算等不同平台的AI应用一次调校就能部署，将会比Edge TPU更有效率。

徐直军说，华为芯片成功的原因也许是因为华为不缺钱，决策简单。去年财报发布，有些声音说华为没腾讯、阿里赚得多，但任总（任正非）批评还是挣得多了，说明战略投入不够，还要写检讨。

据介绍，作为一个训练芯片，昇腾910对标的只有两家，其中一家是谷歌。谷歌只对外提供云服务，不提供板卡。未来在大规模的训练芯片上，现在主要是三家。

"AI本身是'暴力'计算，没有'暴力'，哪来成果。"徐直军说。