宇博证券有限公司：云异构计算的下一步

　　宇博证券有限公司新闻，在根底设备之上，如何让客户能进一步快速调用资源，在AI落地的过程中进一步降本增效?

　　宇博证券有限公司(中央登记编号：BIC697)，为香港联合交易所有限公司之交易参与者(经济编号: 5310)，2017年成立于香港。跨越时光，一直为客户提供优质的证券服务。宇博不仅继承传统，秉承“客户价值第一”的理念，坚持提供高品质、低收费的服务，亦拥抱新潮流，提供多元、稳定的网上及手机交易通道，使客户安心快捷投资。同時，宇博拥有丰富经验的交易及客户服务团队，迅速处理您的请求。客户的成功就是宇博的成功，让我们携手共进。

　　作为中国云计算市场份额最高的云效劳商，阿里云曾经率先迈出了这一步，给出的答案是——

　　软硬一体

　　软硬一体，在2017年就已成为头部云效劳厂商的共识。

　　为了云计算的一大顽疾——经过虚拟机搭建云的过程中，虚拟化带来的性能损耗问题，2017年9月，阿里云推出第一代神龙架构，在整个行业中初次以软硬分离的设计方式完成了性能的0损耗。而大洋此岸的AWS也同样在2017年底推出了相似产品AWS Nitro架构。

　　在此根底之上，如今，阿里云异构计算针对垂直行业，进一步提供了让云上资源变得更高效、更易用的软件工具。

　　比方针对人工智能行业的神龙AI加速引擎(AIACC)。

　　在大范围深度学习场景中，大范围GPU资源不只招致了高运维本钱，随着机器数的增加，不同机器GPU之间的配合难度也会变大，招致单张GPU卡的应用率反而降落。AIACC则能够经过对通讯、带宽等停止深度优化，提升资源协作效率和应用率

　　在AIACC的加持之下，今年3月，阿里云取得了斯坦福大学DAWNBench ImageNet四个榜单的世界第一。

　　依据曾经落地的实践案例，AIACC能够协助客户在云上锻炼场景下，提升2倍到14倍的性能;在推理场景下，提升2倍到6倍的性能。

　　AI芯片范畴的独角兽地平线，与阿里云AIACC团队严密协作，将基于阿里云异构计算的散布式锻炼性能提升4倍，让地平线算法研发效率得以显著的提升，本钱得以大幅降落。

　　阿里内部，以阿里云IoT的图像分类业务为例。AIACC团队和IoT智能业务研发团队协作，将大范围图像分类散布式锻炼性能提升5倍。

　　另一阿里异构独有的软件产品，便是分片cGPU容器技术，能让客户经过容器来调度底层GPU资源，以更细颗粒度调度运用GPU，进步GPU资源应用率，到达降本增效的目的。

　　阿里云异构计算产品担任人潘岳也进一步对量子位解释了“软硬一体”的必要性：

　　单纯从算力的角度来说，硬件相当修路时用到的水泥、石块这样的根底。但仅仅是根底的堆叠显然是缺乏以处理问题的。

　　硬件资源为底层的根底设备之上，需求将虚拟化这样的技术经过软件产品的方式迭代出来，去充沛发挥底层硬件的才能，把相应的技术红利释放给客户。

　　算力池化

　　除了软硬一体，阿里云异构计算产品展示出来的另一个开展趋向，是算力池化，带来了对算力愈加灵敏的调度才能。

　　不断以来，用户在云上选择GPU算力的时分，都是受规格配比限制的，比方内存和GPU之间只要特定几个比例。可是每个AI推理模型之间需求的资源配比是千差万别的。

　　阿里云异构计算今年推出弹性加速计算实例EAIS，经过软件池化的方式，在国内云厂商中初次完成GPU、FPGA、NPU等异构加速器与CPU/内存的解耦。

　　EAIS为客户提供了一个异构算力池，用户能够将需求的GPU资源量搭配到任何一款阿里云ECS效劳器中，依据不同应用需求灵敏优化CPU/内存与GPU之间的比例，匹配合适的资源组合，在提升AI推理效率的同时大幅降低本钱。

　　全面规划

　　AI下半场，它的根底设备需求更丰厚和多样。

　　龙欣表示，推理面临的是十分复杂的业务场景，触及到的技术很可能不只要AI。C端用户用到的一个功用，可能交融了音视频编解码和深度学习等多种技术。异构计算作为底层的根底设备，也需求掩盖多样化的需求。

　　阿里云异构计算固然发轫于AI，但它面对的，早已不只AI。

　　阿里云异构计算产品加持的经典案例，早已不只仅局限于AI范畴。

　　阿里云异构GPU/FPGA效劳器就重点支持了天猫双11晚会直播的实时视频转码，效劳了4k、1080p、720p等各个分辨率的转码。

　　业内范围最大的单业务FPGA计算集群，为淘宝提供超越数百万QPS的图片转码处置才能。FPGA云效劳器今年初次100%承当双十一淘宝图片流量，估计俭省计算本钱数亿元。

　　……

　　云异构计算的下一步

　　回忆国内云异构计算产品的开展进程，阿里云无疑是最早规划的云效劳商。

　　据阿里巴巴集团研讨员、阿里云弹性计算担任人张献涛引见，阿里巴巴内部有丰厚的业务，这些内部业务为阿里云的技术输出提供了最直观的行业洞察。而反过来，阿里云的技术积聚又反哺了集团业务。

　　这就构成了一个良性的闭环，使得阿里云可以坚决地在云计算业务上停止前瞻性的规划。

　　那么，在第三阶段之后，云异构计算将向何处去，阿里云又是如何判别的呢?

　　阿里云异构计算产品担任人潘岳谈到，从产品的角度而言，将来云异构计算的开展，一定是一个生态化的过程。

　　一方面，是阿里云这样的底层根底设备，被行业ISV(独立软件开发商)、处理计划公司集成，赋能AI等范畴的创新理论。

　　另一方面，是与英伟达这样的加速器厂商增强协作，进一步丰厚加速器的硬件生态。

　　而站在技术角度，阿里云异构计算研发总监龙欣表示，接下来，单一加速器将不再能满足AI、视频编解码等诸多范畴的业务需求，加速器硬件交融的趋向曾经显现。

　　将来，异构计算在技术上有可能呈现这样一次新的革新：经过软件池化解耦和硬件池化解耦，把多种加速器交融在一同，去满足AI等行业中业务落地阶段更普遍的加速需求。

　　这也将是阿里云下一阶段的重点探究方向。

　　并且，随着5G的规划，随着视频等可视化计算需求的增长，云异构计算不只仅是在AI范畴，也将在视频、云游戏等更多行业中扮演愈加重要的角色。

　　(本内容属于网络转载，文中涉及图片等内容如有侵权，请联系编辑删除。市场有风险，选择需谨慎!此文不作买卖及投资依据。)