世界第一AI芯片升级4万亿晶体管、90万核心[并不简单]

3月14日消息,Cerebras Systems发布了他们的第三代晶圆级AI加速芯片“WSE-3”(Wafer Scale Engine 3),规格参数更加疯狂,而且在功耗、价格不变的前提下性能翻了一番。

2019年的第一代WSE-1基于台积电16nm工艺,面积46225平方毫米,晶体管1.2万亿个,拥有40万个AI核心、18GB SRAM缓存,支持9PB/s内存带宽、100Pb/s互连带宽,功耗高达15千瓦。

2021年的第二代WSE-2升级台积电7nm工艺,面积不变还是46225平方毫米,晶体管增至2.6万亿个,核心数增至85万个,缓存扩至40GB,内存带宽20PB/s,互连带宽220Pb/s。

如今的第三代WSE-3再次升级为台积电5nm工艺,面积没说但应该差不多,毕竟需要一块晶圆才能造出一颗芯片,不可能再大太多了。

晶体管数量继续增加达到惊人的4万亿个,AI核心数量进一步增加到90万个,缓存容量达到44GB,外部搭配内存容量可选1.5TB、12TB、1200TB。

乍一看,核心数量、缓存容量增加的不多,但性能实现了飞跃,峰值AI算力高达125PFlops,也就是每秒12.5亿亿次浮点计算,堪比顶级超算。

它可以训练相当于GPT-4、Gemini十几倍的下一代AI大模型,能在单一逻辑内存空间内存储24万亿参数,无需分区或者重构。

用它来训练1万亿参数大模型的速度,相当于用GPU训练10亿参数。

四颗并联,它能在一天之内完成700亿参数的调教,而且支持最多2048路互连,一天就可以完成Llama 700亿参数的训练。

WSE-3的具体功耗、价格没公布,根据上代的情况看应该在200多万美元。#显卡#

谁说芯片越小越高端?

美国半导体公司Cerebras Systems发布了第三代晶圆级AI加速芯片“WSE-3”。

没错,就是图片中那个,这也是一颗芯片,只不过有晶圆那么大,单颗面积达到了约46225平方毫米,是通常芯片面积的50倍以上。

据称,WSE-3芯片专为训练 AI 模型而造,使用了台积电的5纳米工艺,有 4 万亿个晶体管,90万个AI核心。缓存容量达到44GB,外部搭配内存容量可选1.5TB、12TB、1200TB。峰值AI算力高达125PFlops,也就是每秒12.5亿亿次浮点计算,堪比顶级超算。

与英伟达H100相比,可谓是全面领先,这就是大的好处。

所以说,芯片需要结合具体的使用场景来设计和制造,并不一定非要做到极致工艺。

#大叔说说#

#宋雨琦[超话]# #琦星高照宋雨琦#
【<琦迹小狗>盲盒计划设计投票】

778<琦迹小狗>盲盒计划即将开始!
盲盒计划共包含6款不同造型的手办。
的获取方式将以线上扭蛋机形式进行,每一颗扭蛋里都藏有6款手办中的任意一款~

扭蛋活动目前尚在设计阶段,经过78前期的投入,我们已经完成了四款造型的设计(Tb Doll ,CIB玫瑰,Mb拽狗,隐藏款)!!

为了提升大家的参与感,778诚邀大家一起决定剩下的两款造型!
经过一系列考量,我们选取了无版权争议、点最高的六款造型作为备选,并于今晚开启最终选择的投票!

请在下方 选择最令你心动的造型吧~

预计投票结束两周内完成设计并公布设计图。

具体的娃娃打样、定价及Go买方式将在设计完成后择日统一公开。
具体设计图https://t.cn/A6YrUBCP


发布     👍 0 举报 写留言 🖊   
✋热门推荐
  • 后来又去考古,认识了可爱的方天择,风流倜傥,温柔体贴的王爷,风流肆意,自在如风的疾冲,温柔可靠又不服输的唐三,体贴,会注意细节,有点古板但是很会照顾人的顾医生,
  • 泰北蘭納緬甸法術團隊 泰北芳县法師 阿贊王磊師父 蘭納緬法三色全效法術蠟燭 師父這次特別定制法術蠟燭,把三種不同符印功效的蠟燭一起加持作法 黃色代表平安健康
  • ‮负但‬责管‮们她‬的师父很生气,他‮得觉‬本来家属可以‮她在‬肉身消失之前,去‮碰碰‬她的皮肤,摸摸‮的她‬五官,去抱一抱她,跟她说说话,哪怕‮在现‬是冰冷的
  • ”  凭心而论戴因在秘境里已经给了规则范围内能给的尊重,但是并不妨碍我看到他这张脸觉得尴尬和生气,我匆匆忙忙地说了一句“不用介意”就溜之大吉,这下好了,提瓦特我
  • 这张风寒指数表就很有意义了,它告诉我们,冻伤是可以量化的。 这张风寒指数表原本使用的单位是华氏温度和英里,它还提出了一个风寒温度的概念。
  • 图片东成镇:坚持把工作谋在前、干在先,镇党委第一时间召开区域核酸检测工作部署会,牢固树立“一盘棋”思想,迅速发动全镇17支党员先锋队和党员干部、入党积极分子、群
  • ——莫泊桑12. 人世真正的幸福,是一种知足感,是心气平和,笑对生活中所有的欲望浮沉,而身体康健是一切的根本,然后,还要精神明亮,这份素养,你得自己准备。——林
  • 补交2️⃣ 0️⃣ 0️⃣ 0️⃣押金+ 3️⃣ 2️⃣ 0️⃣ 0️⃣ 0️⃣ 货款,恭喜小米俪人团队,我的好姐妹宋医生,宋姐姐荣升麦吉丽市级总代,姐姐医院工
  • 这些封控区内的暖心行为,被社工反馈给了宠物的主人们,收获了大批点赞。在这一趟行程中,两位志愿者走入了四家住户家中,照护了6只小猫和1只小狗,均为它们补充了粮食和
  • 小老板自己利润也不高,因为生产的帽子,衣服是出口到其他穷国的,所以穷人,赚穷人的钱很难。1亿元一个的那种10亩的小庄园,也放开,让富人买,1000万一个的别墅,
  • 在晚年开始在乎那万家灯火有没有一盏灯为是她亮着,可是太晚了,明知自己不能忍受寂寞,反而年轻时候孤高绝尘,从来不为以后着想,这个世界谁又真的能养别人一辈子呢,没有
  • [打call] 整理好了一些不错的专场,宝们快杀进去逛逛! [打call] 整理好了一些不错的专场,宝们快杀进去逛逛!
  • 三星始终不忘初心,以严苛的标准衡量每个细节,从品质到品味于毫厘之间细心考究,这也是我比较认可这品牌的一个重要原因,拿到手机的第一眼,我就哇了个噻,有点震撼说实话
  • 随着成果的推广使用,身边不少同事也被吸引,几个情趣相近的同事由平常在一起“吃吃饭、喝喝酒,天南海北的侃大山”变成了“这个活怎么干省劲、那个事要是有个工具就干的更
  • 以前一直觉得风起长林不好看追了以后才发现是真香不仅是偶尔和榜一有些梦幻联动更发现第二部和第一部的受众群不一样如果说第一部是一场最终大快人心的权谋争斗第二部则更像
  • 肝血不足会让你晚上辗转反侧,胡思乱想,怎么也睡不着,就算睡着了之后也是一直在做梦,迷迷糊糊,有点动静就能醒,醒后难以入睡。破运动会 那几天一直在骂学校好大的梨
  • #唐九洲[超话]# #IXFORM唐九洲#请大家多多到#IXFORM首张EP#页面多多发帖安利‼️谨记专注自家专注自家➕自家1⃣️2️⃣3️⃣泡泡安利总部泡泡安
  • 真的多亏了那么多的支持和鼓励的短信,我现在才可以在这里平静坦荡地接受采访,也才可以有机会坐上飞往卡塔尔的飞机。很多人都想知道什么是正确的挽回方式,我挽回了对方
  • 其实,在光明的逐层变化中,也是业力逐渐消除,定力逐渐增强,智慧也次第开启,一直到圆满的过程。第五层时,明也消失,此时才是真正的"空性”的光明。
  • 当晚,荒野女巫突然来到苏菲家,对她下了诅咒把她变成了90岁的老婆婆。#两件趣事# 昨天晚上去吃婚宴,新郎姓罗,我坐在一个六岁的小孩儿旁边,我看到桌上的酒说这酒