M4提前发布背后的6个信号:
1.苹果急了,加快产品节奏,力图追上AI-算力-生产力倍速竞赛,简称"苹果急加速"。这是云侧模型-端侧模型-端侧算力架构-AI Siri等全生态布局的苹果步骤的一部分,未来还是会全线自研,至多模型会有类似App Store的本地化数据与业务分立。
2.M3系列的Mac Studio、Mac Pro还没发布就扔出原本明年上市的M4,Mac全线跨代升级因此大概率,M3 Ultra估计要黄了,M3 Extreme也是。但Mac Pro再不努力就彻底靠边站了,所以M4 Ultra包括传闻中的超级fusion大芯片必须加速。
3.实际上算力才是硬道理,能效并不是第一性原理,尽管能效也重要。M3尤其M3 Max尽管相比M2系列GPU提升幅度不小,但不仅NPU并无优势,偏科生的算力也落后竞争对手。AI、3D、影音、开发等场景下,苹果设备只有N卡加持的设备一半甚至不到的效率,最新的Mac始终跟在RTX4090后面吃灰。先不论我所分析的创作者经济的9个领域,即使过去最具优势的视频剪辑苹果的市场也在流失。
4.M4的NPU算力38TOPS跟自己上一代比有翻倍增长(M3为18TOPS),跟高通-英特尔-AMD甚至联发科等竞争对手比实际并不算逆天。NPU现在手机算力30+TOPS,AI PC算力40+~70+TOPS。苹果通过A17 Pro和M4只是跟上了行业步伐。CPU-NPU-GPU融合算力另说。总之CPU式的10%-30%的YY增长是远远不够的。
5.接下来重点是M4 Max、M4 Ultra会怎样(M4 Pro低阶化可忽略)。个人猜测这两者的NPU会来分别到75TOPS、150TOPS左右水平,MacBook Pro CPU18-20/GPU42-50/统一内存128-160G左右,Mac Studio CPU36-40/GPU84-100/统一内存256-288G左右,Mac Pro统一内存512G左右,但不排除往1T走。说的都只是顶配的最高可达范围,低配会远低于这些指标。
6.这意味着有一台顶配苹果笔记本的话,Llama3-70B能达到完全离线可用水平。也就是700亿参数int8的端侧大模型,生成速度可到8-10Tokens每秒(我目前在96G统一内存的M2 Max上安装成功的Llama3-70B每秒三五个Token比较慢)。一千亿参数的基本可用,两千亿参数可装勉强可运行。而在Mac Studio和Mac Pro里,安装量化压缩后的三千亿至四千亿参数大模型不是梦,小模型的小幅微调也有基础。
所以我一定不会花两万二人民币买一个哪怕有算力密度与能效至臻感的M4的iPad Pro,但有概率会花四万多升级一台M4 Max配置拉满的Macbook Pro运行千亿参数大模型和小幅微调小模型。异构是大家共同的方向,大统一内存是苹果的优势,这个没法否认。
那么接下来就是重点里的重点:M4 Ultra的算力密度和场景用途,反倒可能导致它被禁运。实际上M1/M2 Ultra的时候就隐隐感觉到了这种可能。
1.苹果急了,加快产品节奏,力图追上AI-算力-生产力倍速竞赛,简称"苹果急加速"。这是云侧模型-端侧模型-端侧算力架构-AI Siri等全生态布局的苹果步骤的一部分,未来还是会全线自研,至多模型会有类似App Store的本地化数据与业务分立。
2.M3系列的Mac Studio、Mac Pro还没发布就扔出原本明年上市的M4,Mac全线跨代升级因此大概率,M3 Ultra估计要黄了,M3 Extreme也是。但Mac Pro再不努力就彻底靠边站了,所以M4 Ultra包括传闻中的超级fusion大芯片必须加速。
3.实际上算力才是硬道理,能效并不是第一性原理,尽管能效也重要。M3尤其M3 Max尽管相比M2系列GPU提升幅度不小,但不仅NPU并无优势,偏科生的算力也落后竞争对手。AI、3D、影音、开发等场景下,苹果设备只有N卡加持的设备一半甚至不到的效率,最新的Mac始终跟在RTX4090后面吃灰。先不论我所分析的创作者经济的9个领域,即使过去最具优势的视频剪辑苹果的市场也在流失。
4.M4的NPU算力38TOPS跟自己上一代比有翻倍增长(M3为18TOPS),跟高通-英特尔-AMD甚至联发科等竞争对手比实际并不算逆天。NPU现在手机算力30+TOPS,AI PC算力40+~70+TOPS。苹果通过A17 Pro和M4只是跟上了行业步伐。CPU-NPU-GPU融合算力另说。总之CPU式的10%-30%的YY增长是远远不够的。
5.接下来重点是M4 Max、M4 Ultra会怎样(M4 Pro低阶化可忽略)。个人猜测这两者的NPU会来分别到75TOPS、150TOPS左右水平,MacBook Pro CPU18-20/GPU42-50/统一内存128-160G左右,Mac Studio CPU36-40/GPU84-100/统一内存256-288G左右,Mac Pro统一内存512G左右,但不排除往1T走。说的都只是顶配的最高可达范围,低配会远低于这些指标。
6.这意味着有一台顶配苹果笔记本的话,Llama3-70B能达到完全离线可用水平。也就是700亿参数int8的端侧大模型,生成速度可到8-10Tokens每秒(我目前在96G统一内存的M2 Max上安装成功的Llama3-70B每秒三五个Token比较慢)。一千亿参数的基本可用,两千亿参数可装勉强可运行。而在Mac Studio和Mac Pro里,安装量化压缩后的三千亿至四千亿参数大模型不是梦,小模型的小幅微调也有基础。
所以我一定不会花两万二人民币买一个哪怕有算力密度与能效至臻感的M4的iPad Pro,但有概率会花四万多升级一台M4 Max配置拉满的Macbook Pro运行千亿参数大模型和小幅微调小模型。异构是大家共同的方向,大统一内存是苹果的优势,这个没法否认。
那么接下来就是重点里的重点:M4 Ultra的算力密度和场景用途,反倒可能导致它被禁运。实际上M1/M2 Ultra的时候就隐隐感觉到了这种可能。
#坚持运动打卡#抖音全都是外国人洋妞。#睁眼看世界#表哥biou表姐VS广西壮族表妹。江西老表沦陷在了俄罗斯萌妹里面了吗?哈哈哈。#燃动一夏#谢点赞哔哩:海离薇,唉。#高等数学分析高数微积分calculus#【交换积分次序】sier速通ten数学xio:逆天海离薇利用不定积分分部积分法求解二重积分int(xydxdy),0
《新京报书评周刊》,专栏文里讲李商隐《晚晴》:“李商隐天性忧郁……忧郁的诗人,他们会一味沉浸在自己的忧郁里,如此写出来的诗,也细腻别致,但终归小家气,只关乎己,看不见广阔的天地。”
看到这种评价真有点生气。“只关乎自己”,为什么就“小”?写自己的忧郁,又怎么就小家子气了?
(义山粉的拳头硬了)
……林少华的“大小论”“阴郁论”出现传染现象了?
雨果:
“世间有一种比海洋更大的景象,那便是天空;还有一种比天空更大的景象,那便是内心活动。
“赞美人心,纵使只涉及一个人,只涉及人群中最微贱的一个,也得熔冶一切歌颂英雄的诗文于一炉,赋成一首优越成熟的英雄颂……在那种外表的寂静下就有荷马史诗中那种巨灵的搏斗,密尔顿诗中那种龙蛇的混战,但丁诗中那种幻象的萦绕。人心是广漠寥廓的天地……”(人文社,李丹、方于译本)
划线:人心就是天地。
“不小”有三,人心为大。
文艺作品不管写天地还是写人心,不管写豪情还是写忧郁,只要写得深刻动人,就该有同等地位。
(这个……我一直觉得这是常识!怎么会还需要讨论!……)
写得浅薄生硬、不真诚不勇敢、多套路无新意,才是文艺之罪,才是该挨批评的“小”。
(原文:Il y a un spectacle plus grand que la mer,c’est le ciel;il y a un spectacle plus grand que le ciel,c’est l’ intérieur de l’ame.
大领导引用过,说成“比天空更宽阔的是人的胸怀,对待不同文明,我们需要比天空更宽阔的胸怀。” 但,并不是胸怀。一词之差,句意给人改了。“l’ intérieur de l’ame” 是“心灵的内部”。)
(我就说在多邻国学点francais有用吧~)
看到这种评价真有点生气。“只关乎自己”,为什么就“小”?写自己的忧郁,又怎么就小家子气了?
(义山粉的拳头硬了)
……林少华的“大小论”“阴郁论”出现传染现象了?
雨果:
“世间有一种比海洋更大的景象,那便是天空;还有一种比天空更大的景象,那便是内心活动。
“赞美人心,纵使只涉及一个人,只涉及人群中最微贱的一个,也得熔冶一切歌颂英雄的诗文于一炉,赋成一首优越成熟的英雄颂……在那种外表的寂静下就有荷马史诗中那种巨灵的搏斗,密尔顿诗中那种龙蛇的混战,但丁诗中那种幻象的萦绕。人心是广漠寥廓的天地……”(人文社,李丹、方于译本)
划线:人心就是天地。
“不小”有三,人心为大。
文艺作品不管写天地还是写人心,不管写豪情还是写忧郁,只要写得深刻动人,就该有同等地位。
(这个……我一直觉得这是常识!怎么会还需要讨论!……)
写得浅薄生硬、不真诚不勇敢、多套路无新意,才是文艺之罪,才是该挨批评的“小”。
(原文:Il y a un spectacle plus grand que la mer,c’est le ciel;il y a un spectacle plus grand que le ciel,c’est l’ intérieur de l’ame.
大领导引用过,说成“比天空更宽阔的是人的胸怀,对待不同文明,我们需要比天空更宽阔的胸怀。” 但,并不是胸怀。一词之差,句意给人改了。“l’ intérieur de l’ame” 是“心灵的内部”。)
(我就说在多邻国学点francais有用吧~)
✋热门推荐