明敏 发自 凹非寺量子位 报道 | 公众号 QbitAI
在今年特斯拉AI开放日上,D1芯片风光无限。
独特的晶圆封装系统+芯片设计,让D1在训练万亿参数级神经网络时,可以拥有数量级优势。
特斯拉更在发布会上表示,它在性能上已经完全碾压英伟达GPU和谷歌TPU。
![](https://www.lu-xu.com/pic.php?url=https://pics6.baidu.com/feed/c2fdfc039245d688ba1d2f930d7f7217d21b2434.jpeg?token=b13cb8026d9c1697bb336f062be49c47)
不过,颠覆性的设计能够带来关注,也会遭到质疑。
最近,半导体分析网站SemiAnalysis就表示:
D1芯片存在一些重大技术问题。
内存、成本上都有疑问
作为特斯拉首款AI训练芯片,D1芯片采用分布式结构和7nm工艺,搭载500亿个晶体管、354个训练节点,实现了超高算力和超高带宽。
根据特斯拉已经透露的信息,SemiAnalysis从以下几个方面提出了质疑:
首先是内存问题。
SemiAnalysis认为,D1芯片无论在功能单元层面还是系统层面,想要达到他们所说的算力,内存可能都不够。
![](https://www.lu-xu.com/pic.php?url=https://pics1.baidu.com/feed/738b4710b912c8fc8a7d132e5dbe9d4cd4882189.jpeg?token=662a64f5970795b508ea659f9e6c6c3a)
功能单元层面,D1芯片的单个功能单元具有1.25MB SRAM缓存、1TFlop的FP16/CFP8精度计算能力。
在芯片层面,裸片上没有其他SRAM结构,只有354个单元的1.25MB SRAM来支撑。
基于设计相似的IPU,SemiAnalysis推测这种设计会导致严重的内存缺陷,从而影响芯片的算力。
事实上,每个IPU芯片上SRAM的数量还是D1的两倍,但它在性能上和英伟达A100比起来,劣势依旧非常明显。
在BERT和ResNet50训练中,英伟达A100的速度分别是IPU的1.54倍和1.43倍。
![](https://www.lu-xu.com/pic.php?url=https://pics1.baidu.com/feed/6d81800a19d8bc3eb605cc051a36a917a9d34532.jpeg?token=5b2a14e02cee7ce7415197acab85a41e)
其次,就是在成本问题上。
特斯拉D1芯片之间可以实现无缝融合,这使它能够达到8 TB/s的IO,比ASIC和英伟达高出一个数量级。
为了满足这样大的IO,特斯拉采用了独特的封装方式,即InFO_SoW。
这种封装方式的特点就是可以够大。
在发布会上,它们也展示了由25个D1芯片组成的训练模块。
![](https://www.lu-xu.com/pic.php?url=https://pic.rmb.bdstatic.com/bjh/down/f8f32c34f84de7dcd7b7588d2d5bff59.gif)
但这种封装方式在实际生产中的难度很高,出现报废的情况会更多,由此也会导致成本突增。
![](https://www.lu-xu.com/pic.php?url=https://pics6.baidu.com/feed/d8f9d72a6059252dcb99a25cad260c325ab5b926.jpeg?token=b643d0c3e9347cd1c21fc5fc1983174d)
除了这两方面,SemiAnalysis认为D1还有很多未解决的问题。
比如,在发布会现场被问到软件方面的问题时,特斯拉工程师甚至回答他们完全没有准备。
![](https://www.lu-xu.com/pic.php?url=https://pics4.baidu.com/feed/eac4b74543a982267d88bad6103fb6084b90eb39.jpeg?token=91e360f004a6fcce82f70727b29fd997)
SRAM方面的问题也亟需解决,否则将会面临运行速度过快的风险。
以上种种,都导致特斯拉的开发人员需要对系统进行大量的优化。
此外特斯拉透露,目前他们已经部署的D1芯片只有3000个。
如此看来,D1芯片的摊销成本也是非常高了。
D1真的在神坛之上吗?
事实上,在特斯拉AI开放日的第二天,它的股价上涨甚至还不如英伟达。
可见投资界对于马斯克带来的新技术,也都非常冷静。
有人表示,特斯拉把技术封锁在自己的堡垒内,外界无法测评,也就无从得知它真正的优势和局限性。
![](https://www.lu-xu.com/pic.php?url=https://pics0.baidu.com/feed/5366d0160924ab18c9ad0dc3ac47e9c479890bd5.jpeg?token=a18f52c27d807cc298c340dbb1227284)
这一次向特斯拉开怼的是SemiAnalysis,它是一家半导体分析评论网站,首席分析师为Dylan Patel,毕业于佐治亚大学特里商学院。
![](https://www.lu-xu.com/pic.php?url=https://pics4.baidu.com/feed/4034970a304e251f2ecc9c59073bc61e7e3e539a.jpeg?token=8c1156cf4d8afd871aea8a3c47efd2d0)
参考链接:[1]https://semianalysis.com/the-tesla-dojo-chip-is-impressive-but-there-are-some-major-technical-issues/[2]https://news.ycombinator.com/item?id=28361807[3]https://www.linkedin.com/in/dylanpatelsa/
1.《特斯拉D1芯片遭实名diss:内存到封装都成问题》援引自互联网,旨在传递更多网络信息知识,仅代表作者本人观点,与本网站无关,侵删请联系页脚下方联系方式。
2.《特斯拉D1芯片遭实名diss:内存到封装都成问题》仅供读者参考,本网站未对该内容进行证实,对其原创性、真实性、完整性、及时性不作任何保证。
3.文章转载时请保留本站内容来源地址,https://www.lu-xu.com/junshi/1930463.html