阿里首公布AI数据 具体是什么情况？

上周平投哥以产品命名猜想为题，预测本周会发布重磅新品。在2019年杭州会议上，阿里巴巴集团首席技术官、阿里巴巴云智能总裁张剑锋发布了阿里首款AI芯片广800，这是一款云AI芯片，也是全球性能最高的AI推理芯片。夜光800主要用于视觉场景，在阿里巴巴集团的很多场景中都有广泛应用。其他企业可以通过阿里巴巴云获得夜光NPU的计算能力。据报道，光是古代三大剑之一。剑含而不显，光不发光，就像光800带来的无形却强大的计算能力。为什么夜光800能破纪录？夜光800主要用于云视觉处理场景，性能打破了现有AI芯片记录。根据阿里的数据，性能和能效都是全球最高的。芯片测试标准平台ResNet-50上的具体分数为:性能78563 IPS，比第二名高4倍；能效比500 IPS/W，是第二名的3.3倍。

张剑锋展示了该芯片与行业内典型计算能力“怪兽”的对比，包括两个AI芯片和两个GPU芯片，但没有说出芯片的品牌和型号。不过，张剑锋补充道，“这是我们兄弟公司，刚开发完发布会。”。与NVIDIA官网特斯拉V100计算卡公布的数据相比，ResNet50型号一秒钟可以处理的图像数为7830个图像/秒，相当于目前夜光800的十分之一。

在杭州市脑的业务测算中，一个光800的计算能力相当于10个GPU。

换句话说，阿里的夜光800把云上的推理性能推向了极致。作为非传统芯片挑战者的后来者，阿里平哥团队不仅充分发挥硬件的深度积累，还在配套软件栈和开发工具上投入巨资，撼动英伟达在云中的强大生态。目前，阿里拥有完全的自主性，包括自主开发的芯片架构、软件编译器、框架、工具链等。在深度学习开发工具和支持方面，阿里从2015年开始搭建AI学习平台PAI，涵盖多种培训和计算加速工具，强调大规模分布式计算的能力优势，已经迭代到第三代。针对广告、搜索、推荐等典型数据处理场景，阿里开发了新一代工业级分布式深度学习框架——XDL，专注于高维稀疏数据的性能优化，为AI计算能力软硬融合策略的实施提供了优良的先天条件。同时，夜光800对INT8的数据类型做了大量的优化，最终在性能、产量、功耗等指标上表现良好。“与培训相比，推理是云中更大的核心业务需求”。平投算法负责人邢彤表示，线上和线下的业务需求都是基于推理的，比如检测、分类、分割、识别等常见操作。

夜光800性能的突破，得益于软硬件的协同创新。在芯片架构上，夜光800采用创新的架构，针对深度学习中使用的大量权重参数和张量数据，在支持稀疏压缩和量化处理的基础上，通过数据访问和流水线处理技术的独特设计，大大降低了I/O需求和数据移动。NPU同时深度优化卷积、矩阵乘法、向量计算和各种激活函数，通过高效的硬件资源调度和完全并行的数据流处理，将AI操作的性能和能效推向极致。其中，性能提升必须解决内存墙问题。所谓内存墙，就是采用冯诺依曼结构的处理器，将存储和算术处理分开。当进行深度神经网络处理时，计算能力有所提高，但大量的读写操作会受到带宽的限制，芯片的整体性能也会受到限制。平投的做法是通过自主开发的架构大大减少对内存的访问，在保证性能的同时尽量降低芯片功耗。具体来说，optical 800将根据神经网络的推理运算特性，设计特定的硬件、高速连接存储结构和专用指令集，实现对内存和计算单元的高效组织和管理，用一条指令实现多种运算，提高计算效率和内存访问效率。三个月发行三个新筹码，阿里“硬”

平头兄弟芯片演进路线图阿里首款AI芯片发布后，其从云到终端的产品布局已经非常清晰。这些产品最近几个月也密集发布。在今年7月的阿里巴巴云上海峰会上，阿里巴巴集团副总裁齐发布了高性能RISC-V架构处理器910。铁铉910集成16核，主频2.5GHz，采用12级乱序流水线，支持高达8MB的L2缓存，配备AI增强的矢量计算引擎，可用于人工智能加速器、网络通信、自动驾驶。根据现场公布的数据，铁铉910的性能比业界主流芯片高出40%，比标准指令高出20%。8月，平投兄弟发布了由SoC架构、处理器、各种ip、操作系统、软件驱动、开发工具等组成的SoC芯片平台“剑士”，为AIoT提供了集成芯片架构、基础软件、算法、开发工具的整体解决方案。官方声明称，没有一把剑可以帮助芯片设计企业降低50%的设计成本和50%的设计周期。需要指出的是，7月发布的铁铉910是基本单元处理器IP，而剑士是芯片设计平台，所以light 800是阿里第一款AI芯片。这也意味着阿里的C-Sky系列、铁铉系列AIoT终端芯片ip、一站式无剑芯片设计平台、新发布的云AI芯片，构建了阿里端云集成的芯片生态，平头兄弟端云集成全栈芯片产品家族的雏形已经出现。更值得注意的是，端侧7个C-Sky系列嵌入式CPU IP核已经量产验证，授权客户超过100家，累计销售额超过10亿，应用于机器视觉、工业控制、车载终端、移动通信、信息安全等领域。基于RISC-V的玄铁处理器和无剑SoC平台也有客户，包括人工智能企业田芸李飞和老牌芯片公司聚信科技。夜光800也得到大规模应用，在阿里巴巴集团已经应用到很多场景，比如视频图像识别/分类/搜索、城市大脑等。未来还可应用于医学影像、自动驾驶等领域。同时，阿里巴巴云作为全球三大云服务提供商，将通过云服务提供其含光能力。张剑锋现场宣布，基于夜光800的AI云服务正式上线。

此外，在生态建设方面，平头阁还将成立芯片开放社区。不仅如此，平头阁还在为阿里巴巴云神龙服务器开发SoC专用芯片。未来，阿里将进一步完善产品形态，包括云AI训练芯片和终端AI推理芯片，以满足更多场景的计算能力需求。自主开发AI芯片的最终目的是什么？阿里从云到终端的AI芯片布局已经明确，客户已经很多了。这是否意味着阿里未来不仅不需要购买芯片，还可能取代其他芯片公司？答案是否定的，在这一轮AI浪潮中，我们可以看到，无论是国外的谷歌、亚马逊、Facebook，还是国内的阿里，这些比软件强的科技巨头都在积极开发AI芯片。

至于原因，Cadence的CEO、Walden International的创始人陈早前在接受采访时说:“科技巨头之所以积极部署AI，是因为他们不想落后，因为他们都有大量的数据。当然，科技公司开始制造芯片并不意味着传统芯片制造商将被取代。科技公司希望在一些应用中使用自行开发的芯片来提高效率。”

确实如此。以阿里为例，其业务跨越电子商务、金融、物流、云计算、大数据、全球化等场景。用户规模庞大，对计算能力的要求更高，挑战更大。传统的CPU、GPU、FPGA无法满足所有需求，面临着成本和功耗的挑战。定制的专用集成电路芯片可以同时实现更高的性能和更低的功耗。因此，基于对自身业务和需求的了解，技术巨头开始自主研发AI芯片，希望在降低整体计算成本的同时保持领先。从全球来看，谷歌TPU是从软到硬的全球科技企业的代表。夜光800的发布和商业使用表明，阿里的优势不再仅仅在软件领域。有了AI芯片的加持，阿里未来的优势也将是软硬兼施。为了达到这个目的，阿里几年前就开始布局了。在2017年的云起会议上，阿里建立了达摩研究所，这是阿里在世界各地建立的一个科学研究机构，以基础科学、破坏性技术和应用技术的研究为基础。达摩研究所由独立研究中心、大学联合实验室和全球开放研究项目组成，涵盖量子计算、机器学习、基础算法、网络安全、可视化计算、自然语言处理、下一代人机交互、芯片技术、传感器技术、嵌入式系统等。，涵盖机器智能、智能网络、金融技术等诸多工业领域。

平投哥得到了达摩学院和阿里巴巴云的软实力的加持。基于达摩研究所的算法能力，算法和硬件的差距是可以打破的。基于阿里巴巴云天妃云平台的优势，可以快速形成终端和云的集成芯片生态。现在，阿里自主开发芯片的目标已经部分实现。根据云起会议现场演示，在城市大脑中实时处理杭州主城区的交通视频需要40个延时300ms的传统GPU，使用延时150 ms的夜光800只需要4个GPU，每天在利涛产品库添加10亿张产品图片，使用传统GPU计算能力识别需要1个小时，使用夜光800后可以减少到5分钟。

很明显，平头歌的目的不是卖筹码。平头阁将延续母公司阿里巴巴集团“天下没有难做的生意”的愿景，开辟全新的商业模式，即平头阁模式，为企业提供包容性的计算能力。

另据介绍，鉴于AIoT市场应用驱动性强、场景碎片化等特点，芯片公司很难用传统方式设计芯片来满足未来的需求。平头阁希望通过端云集成芯片生态，为各个行业提供包容性的计算能力。张剑锋表示:“在全球芯片领域，阿里巴巴是一个新人。铁铉和汉光800是平投长征的第一步，我们还有很长的路要走。”

来源:网络内容综合。声明:本文转载于网络，版权归原作者所有。如果本文使用的视频、图片、文字涉及版权问题，请在文末留言通知我们，我们会尽快处理！本文内容为原作者观点，不代表本微信官方账号认同其观点并对其真实性负责。