世界第一AI芯片升级4万亿晶体管、90万核心[并不简单]
3月14日消息,Cerebras Systems发布了他们的第三代晶圆级AI加速芯片“WSE-3”(Wafer Scale Engine 3),规格参数更加疯狂,而且在功耗、价格不变的前提下性能翻了一番。
2019年的第一代WSE-1基于台积电16nm工艺,面积46225平方毫米,晶体管1.2万亿个,拥有40万个AI核心、18GB SRAM缓存,支持9PB/s内存带宽、100Pb/s互连带宽,功耗高达15千瓦。
2021年的第二代WSE-2升级台积电7nm工艺,面积不变还是46225平方毫米,晶体管增至2.6万亿个,核心数增至85万个,缓存扩至40GB,内存带宽20PB/s,互连带宽220Pb/s。
如今的第三代WSE-3再次升级为台积电5nm工艺,面积没说但应该差不多,毕竟需要一块晶圆才能造出一颗芯片,不可能再大太多了。
晶体管数量继续增加达到惊人的4万亿个,AI核心数量进一步增加到90万个,缓存容量达到44GB,外部搭配内存容量可选1.5TB、12TB、1200TB。
乍一看,核心数量、缓存容量增加的不多,但性能实现了飞跃,峰值AI算力高达125PFlops,也就是每秒12.5亿亿次浮点计算,堪比顶级超算。
它可以训练相当于GPT-4、Gemini十几倍的下一代AI大模型,能在单一逻辑内存空间内存储24万亿参数,无需分区或者重构。
用它来训练1万亿参数大模型的速度,相当于用GPU训练10亿参数。
四颗并联,它能在一天之内完成700亿参数的调教,而且支持最多2048路互连,一天就可以完成Llama 700亿参数的训练。
WSE-3的具体功耗、价格没公布,根据上代的情况看应该在200多万美元。#显卡#
3月14日消息,Cerebras Systems发布了他们的第三代晶圆级AI加速芯片“WSE-3”(Wafer Scale Engine 3),规格参数更加疯狂,而且在功耗、价格不变的前提下性能翻了一番。
2019年的第一代WSE-1基于台积电16nm工艺,面积46225平方毫米,晶体管1.2万亿个,拥有40万个AI核心、18GB SRAM缓存,支持9PB/s内存带宽、100Pb/s互连带宽,功耗高达15千瓦。
2021年的第二代WSE-2升级台积电7nm工艺,面积不变还是46225平方毫米,晶体管增至2.6万亿个,核心数增至85万个,缓存扩至40GB,内存带宽20PB/s,互连带宽220Pb/s。
如今的第三代WSE-3再次升级为台积电5nm工艺,面积没说但应该差不多,毕竟需要一块晶圆才能造出一颗芯片,不可能再大太多了。
晶体管数量继续增加达到惊人的4万亿个,AI核心数量进一步增加到90万个,缓存容量达到44GB,外部搭配内存容量可选1.5TB、12TB、1200TB。
乍一看,核心数量、缓存容量增加的不多,但性能实现了飞跃,峰值AI算力高达125PFlops,也就是每秒12.5亿亿次浮点计算,堪比顶级超算。
它可以训练相当于GPT-4、Gemini十几倍的下一代AI大模型,能在单一逻辑内存空间内存储24万亿参数,无需分区或者重构。
用它来训练1万亿参数大模型的速度,相当于用GPU训练10亿参数。
四颗并联,它能在一天之内完成700亿参数的调教,而且支持最多2048路互连,一天就可以完成Llama 700亿参数的训练。
WSE-3的具体功耗、价格没公布,根据上代的情况看应该在200多万美元。#显卡#
谁说芯片越小越高端?
美国半导体公司Cerebras Systems发布了第三代晶圆级AI加速芯片“WSE-3”。
没错,就是图片中那个,这也是一颗芯片,只不过有晶圆那么大,单颗面积达到了约46225平方毫米,是通常芯片面积的50倍以上。
据称,WSE-3芯片专为训练 AI 模型而造,使用了台积电的5纳米工艺,有 4 万亿个晶体管,90万个AI核心。缓存容量达到44GB,外部搭配内存容量可选1.5TB、12TB、1200TB。峰值AI算力高达125PFlops,也就是每秒12.5亿亿次浮点计算,堪比顶级超算。
与英伟达H100相比,可谓是全面领先,这就是大的好处。
所以说,芯片需要结合具体的使用场景来设计和制造,并不一定非要做到极致工艺。
#大叔说说#
美国半导体公司Cerebras Systems发布了第三代晶圆级AI加速芯片“WSE-3”。
没错,就是图片中那个,这也是一颗芯片,只不过有晶圆那么大,单颗面积达到了约46225平方毫米,是通常芯片面积的50倍以上。
据称,WSE-3芯片专为训练 AI 模型而造,使用了台积电的5纳米工艺,有 4 万亿个晶体管,90万个AI核心。缓存容量达到44GB,外部搭配内存容量可选1.5TB、12TB、1200TB。峰值AI算力高达125PFlops,也就是每秒12.5亿亿次浮点计算,堪比顶级超算。
与英伟达H100相比,可谓是全面领先,这就是大的好处。
所以说,芯片需要结合具体的使用场景来设计和制造,并不一定非要做到极致工艺。
#大叔说说#
#宋雨琦[超话]# #琦星高照宋雨琦#
【<琦迹小狗>盲盒计划设计投票】
778<琦迹小狗>盲盒计划即将开始!
盲盒计划共包含6款不同造型的手办。
的获取方式将以线上扭蛋机形式进行,每一颗扭蛋里都藏有6款手办中的任意一款~
扭蛋活动目前尚在设计阶段,经过78前期的投入,我们已经完成了四款造型的设计(Tb Doll ,CIB玫瑰,Mb拽狗,隐藏款)!!
为了提升大家的参与感,778诚邀大家一起决定剩下的两款造型!
经过一系列考量,我们选取了无版权争议、点最高的六款造型作为备选,并于今晚开启最终选择的投票!
请在下方 选择最令你心动的造型吧~
预计投票结束两周内完成设计并公布设计图。
具体的娃娃打样、定价及Go买方式将在设计完成后择日统一公开。
具体设计图https://t.cn/A6YrUBCP
【<琦迹小狗>盲盒计划设计投票】
778<琦迹小狗>盲盒计划即将开始!
盲盒计划共包含6款不同造型的手办。
的获取方式将以线上扭蛋机形式进行,每一颗扭蛋里都藏有6款手办中的任意一款~
扭蛋活动目前尚在设计阶段,经过78前期的投入,我们已经完成了四款造型的设计(Tb Doll ,CIB玫瑰,Mb拽狗,隐藏款)!!
为了提升大家的参与感,778诚邀大家一起决定剩下的两款造型!
经过一系列考量,我们选取了无版权争议、点最高的六款造型作为备选,并于今晚开启最终选择的投票!
请在下方 选择最令你心动的造型吧~
预计投票结束两周内完成设计并公布设计图。
具体的娃娃打样、定价及Go买方式将在设计完成后择日统一公开。
具体设计图https://t.cn/A6YrUBCP
✋热门推荐