转译：《苹果计划让 AI 技术直接在自家硬件上运行，而非依赖云端》
苹果最近一项关于让大语言模型在智能手机上运行的研究，清晰地表明这家 iPhone 制造商有意在生成式人工智能方面追赶它的硅谷对手。
这项名为 “[LLM in a Flash](https://t.cn/A6l9zS4G)” 的研究报告提出了一个解决目前计算难题的新方案，研究人员这样描述。
他们提出的方法将为有限内存设备上有效运行大语言模型铺平道路。所谓的“推断”，指的是大语言模型（像 ChatGPT 这样的应用背后的大型数据库）如何处理用户的询问。一般来说，聊天机器人和大语言模型需要在比 iPhone 强大得多的巨型数据中心中运行。
这篇论文于 12 月 12 日发表，但在上周三晚些时候，知名 AI 研究网站 Hugging Face [将其推至聚光灯下](https://t.cn/A6lKNxmf) 后，才引起了更广泛的关注。这是苹果本月发布的第二篇关于生成式 AI 的论文，前面那篇是让像 Stable Diffusion 这样的图像生成模型能够在其定制芯片上运行。
面对智能手机市场十年来最严重的低迷，设备制造商和芯片制造商寄望于新 AI 功能能够振兴市场。根据 Counterpoint Research，市场出货量预计下降了 5%。
虽然早在 2011 年，苹果就推出了首个虚拟助手 Siri，但自从 OpenAI 一年前推出其革命性聊天机器人 ChatGPT 以来，苹果在硅谷掀起的生成式 AI 热潮中显得有些落后。即便苹果在 2018 年招募了谷歌的顶尖 AI 高管 John Giannandrea，但在 AI 社区，许多人依然认为苹果相比大型科技竞争对手处于劣势。
与微软和谷歌主要专注于通过其庞大的云计算平台提供聊天机器人和其他生成式 AI 服务不同，苹果的研究显示，它更倾向于研发能够直接在 iPhone 上运行的 AI 技术。
苹果的竞争对手，例如三星，正准备在明年推出一种新型的“AI 智能手机”。Counterpoint 预计，到 2024 年，将有超过 1 亿部专注于 AI 的智能手机出货，到 2027 年，40% 的新设备将具备这样的功能。
世界最大移动芯片制造商高通的首席执行官 Cristiano Amon 预测，将 AI 引入智能手机将为消费者带来全新的体验，并有望扭转手机销量的下降趋势。
他在最近接受《金融时报》采访时表示：“你将在 2024 年初看到搭载多种生成式 AI 应用的设备发布。随着这些技术的推广，它们将开始显著改善用户体验，并推动新创新，这可能会引发智能手机的新一轮升级热潮。”
他还说，更智能的虚拟助手能够预测用户的行为，比如发送短信或安排会议，而设备还将能够实现新型的照片编辑技巧。
谷歌本月推出了其新 Gemini 大语言模型的版本，该版本将“原生”运行在其 Pixel 智能手机上。
在个人设备上运行像 ChatGPT 或谷歌的 Bard 这样的大型 AI 模型面临着巨大的技术挑战，因为智能手机并不具备数据中心那样的巨大计算资源和能量。解决这一挑战不仅可能使 AI 助手的响应速度更快，而且还能实现离线工作。
确保在用户自己的设备上处理查询，而不将数据发送到云端，也可能带来隐私上的好处，这一点近年来一直是苹果的重要优势。
其研究团队指出：“我们的实验旨在提高个人设备上的推断效率。” 苹果在包括 Falcon 7B 在内的多个模型上测试了这种方法，Falcon 7B 是阿布扎比技术创新研究所开发的一个较小版本的开源大语言模型。
为了让大语言模型能够在电池供电的设备上运行，AI 研究人员一直在致力于优化。虽然学术论文并不能直接显示苹果将如何将新功能融入其产品，但它们提供了一个罕见的机会，让我们一窥其神秘的研究实验室和公司的最新技术成果。
苹果的研究人员在论文的结论中写道：“我们的工作不仅解决了当前的计算难题，也为未来的研究开辟了新道路。我们相信，随着大语言模型的持续增长和复杂化，像这种工作这样的方法将对于在各种设备和应用中充分发挥它们的潜力至关重要。”
苹果对于置评请求尚未立即回应。
来源：https://t.cn/A6l9D4uL
苹果最近一项关于让大语言模型在智能手机上运行的研究，清晰地表明这家 iPhone 制造商有意在生成式人工智能方面追赶它的硅谷对手。
这项名为 “[LLM in a Flash](https://t.cn/A6l9zS4G)” 的研究报告提出了一个解决目前计算难题的新方案，研究人员这样描述。
他们提出的方法将为有限内存设备上有效运行大语言模型铺平道路。所谓的“推断”，指的是大语言模型（像 ChatGPT 这样的应用背后的大型数据库）如何处理用户的询问。一般来说，聊天机器人和大语言模型需要在比 iPhone 强大得多的巨型数据中心中运行。
这篇论文于 12 月 12 日发表，但在上周三晚些时候，知名 AI 研究网站 Hugging Face [将其推至聚光灯下](https://t.cn/A6lKNxmf) 后，才引起了更广泛的关注。这是苹果本月发布的第二篇关于生成式 AI 的论文，前面那篇是让像 Stable Diffusion 这样的图像生成模型能够在其定制芯片上运行。
面对智能手机市场十年来最严重的低迷，设备制造商和芯片制造商寄望于新 AI 功能能够振兴市场。根据 Counterpoint Research，市场出货量预计下降了 5%。
虽然早在 2011 年，苹果就推出了首个虚拟助手 Siri，但自从 OpenAI 一年前推出其革命性聊天机器人 ChatGPT 以来，苹果在硅谷掀起的生成式 AI 热潮中显得有些落后。即便苹果在 2018 年招募了谷歌的顶尖 AI 高管 John Giannandrea，但在 AI 社区，许多人依然认为苹果相比大型科技竞争对手处于劣势。
与微软和谷歌主要专注于通过其庞大的云计算平台提供聊天机器人和其他生成式 AI 服务不同，苹果的研究显示，它更倾向于研发能够直接在 iPhone 上运行的 AI 技术。
苹果的竞争对手，例如三星，正准备在明年推出一种新型的“AI 智能手机”。Counterpoint 预计，到 2024 年，将有超过 1 亿部专注于 AI 的智能手机出货，到 2027 年，40% 的新设备将具备这样的功能。
世界最大移动芯片制造商高通的首席执行官 Cristiano Amon 预测，将 AI 引入智能手机将为消费者带来全新的体验，并有望扭转手机销量的下降趋势。
他在最近接受《金融时报》采访时表示：“你将在 2024 年初看到搭载多种生成式 AI 应用的设备发布。随着这些技术的推广，它们将开始显著改善用户体验，并推动新创新，这可能会引发智能手机的新一轮升级热潮。”
他还说，更智能的虚拟助手能够预测用户的行为，比如发送短信或安排会议，而设备还将能够实现新型的照片编辑技巧。
谷歌本月推出了其新 Gemini 大语言模型的版本，该版本将“原生”运行在其 Pixel 智能手机上。
在个人设备上运行像 ChatGPT 或谷歌的 Bard 这样的大型 AI 模型面临着巨大的技术挑战，因为智能手机并不具备数据中心那样的巨大计算资源和能量。解决这一挑战不仅可能使 AI 助手的响应速度更快，而且还能实现离线工作。
确保在用户自己的设备上处理查询，而不将数据发送到云端，也可能带来隐私上的好处，这一点近年来一直是苹果的重要优势。
其研究团队指出：“我们的实验旨在提高个人设备上的推断效率。” 苹果在包括 Falcon 7B 在内的多个模型上测试了这种方法，Falcon 7B 是阿布扎比技术创新研究所开发的一个较小版本的开源大语言模型。
为了让大语言模型能够在电池供电的设备上运行，AI 研究人员一直在致力于优化。虽然学术论文并不能直接显示苹果将如何将新功能融入其产品，但它们提供了一个罕见的机会，让我们一窥其神秘的研究实验室和公司的最新技术成果。
苹果的研究人员在论文的结论中写道：“我们的工作不仅解决了当前的计算难题，也为未来的研究开辟了新道路。我们相信，随着大语言模型的持续增长和复杂化，像这种工作这样的方法将对于在各种设备和应用中充分发挥它们的潜力至关重要。”
苹果对于置评请求尚未立即回应。
来源：https://t.cn/A6l9D4uL
刚翻看鲁迅的《祝福》，看到这段关于祥林嫂的：
“卫老婆子忽而带了一个三十多岁的女人进来了，说那是祥林嫂的婆婆。那女人虽是山里人模样，然而应酬很从容，说话也能干，寒暄之后，就赔罪，说她特来叫她的儿媳回家去，因为开春事务忙，而家中只有老的和小的，人手不够了。
‘既是她的婆婆要她回去，那有什么话可说呢。’四叔说。
于是算清了工钱，一共一千七百五十文，她全存在主人家，一文也还没有用，便都交给她的婆婆。
那女人又取了衣服，道过谢，出去了。”
祥林嫂勤苦三个月半的工钱就这样给了她的婆婆，且不论后面祥林嫂被婆婆卖了，把卖来的钱给二儿子娶老婆，单论这个工钱没有给到祥林嫂个人，而被主家理所当然的给了她的婆婆。让我想起了《父权制和资本主义》里面的一段话：“即使女性进入了劳动力市场，但只要她们无法享有自己的劳动力所有权，女性就只会成为劳动力市场的奴隶。”
以前听过一个论调：女人是没有家的。这话或许过于决绝，但也有其风闻来源。当社会制度和文化将女性立为从属地位的时候，从个人角度讲，她是从父从夫从子的，从宏观角度讲，她们是从属于男性社会的。在未出嫁的时候，父母早已做好了出嫁的准备，在长远的计划中，并没有将女儿纳进去。当女儿有了夫家以后，夫家对其有所有权。而娘家的利益团体，会把嫁出去的女儿排除出去，就比如说之前的出嫁后哪怕户口在原村的情况，村集体的分红也是没有的新闻。而组成新家庭的时候，夫家这边本身有原生家庭的优势，哪怕儿子已经结婚了，他们的联系仍然不变，丈夫的父母对儿子的所有扩展到了对儿子儿媳的所有。这些都是观念所默许的，从而反应到具体现实中，从婚礼的所有步骤中也可窥得一见。
祥林嫂这个人在《祝福》这篇文章里，可以看出来是一个具有抗争精神的女人，在作为童养媳的时候，死了丈夫就偷跑出来做工，手脚勤快得主家在年底的福礼中都不需要再要一个短工，被婆婆绑回去塞到花轿子里嫁人的时候，一头撞香案角上。可哪怕这样一个女人，也被那个封建社会来回“吃”到麻木。丈夫儿子死后，大伯收走了他们的房屋。回鲁家做工，被鲁四老爷嫌弃“败坏风俗”，以前担当的福礼，现在碰都不让碰，嫌她会让祖宗厌恶。又被人厌烦来回叨叨不幸，再被人来回打趣被迫嫁人时的抗争——“这总是你自己愿意的”“我不相信你这么大的力气，真会拗他不过。你后来一定是自己肯了，倒推说他力气大”“可惜，白撞了那么一下”。攒了一年的工钱，因为担心死后被阎王锯成两半分给两个丈夫，就都拿去捐了门槛。最后死在了那个冰冷的年底，被鲁四老爷唾为“谬种”。
《人类简史》中曾经讨论过一个点，就是想象的力量，所有人都认同的东西，就会有力量，能驱动成千上万的人，从而使部落的管理权更加扩大。社会风俗也是如此，人类的观念对于人类社会有强大的驱力，你们认为什么，什么就会组成这个社会。所以，要革新认知，而这个“革”掌握在每个人的手上。
愿世间再无祥林嫂。
#鲁迅#
“卫老婆子忽而带了一个三十多岁的女人进来了，说那是祥林嫂的婆婆。那女人虽是山里人模样，然而应酬很从容，说话也能干，寒暄之后，就赔罪，说她特来叫她的儿媳回家去，因为开春事务忙，而家中只有老的和小的，人手不够了。
‘既是她的婆婆要她回去，那有什么话可说呢。’四叔说。
于是算清了工钱，一共一千七百五十文，她全存在主人家，一文也还没有用，便都交给她的婆婆。
那女人又取了衣服，道过谢，出去了。”
祥林嫂勤苦三个月半的工钱就这样给了她的婆婆，且不论后面祥林嫂被婆婆卖了，把卖来的钱给二儿子娶老婆，单论这个工钱没有给到祥林嫂个人，而被主家理所当然的给了她的婆婆。让我想起了《父权制和资本主义》里面的一段话：“即使女性进入了劳动力市场，但只要她们无法享有自己的劳动力所有权，女性就只会成为劳动力市场的奴隶。”
以前听过一个论调：女人是没有家的。这话或许过于决绝，但也有其风闻来源。当社会制度和文化将女性立为从属地位的时候，从个人角度讲，她是从父从夫从子的，从宏观角度讲，她们是从属于男性社会的。在未出嫁的时候，父母早已做好了出嫁的准备，在长远的计划中，并没有将女儿纳进去。当女儿有了夫家以后，夫家对其有所有权。而娘家的利益团体，会把嫁出去的女儿排除出去，就比如说之前的出嫁后哪怕户口在原村的情况，村集体的分红也是没有的新闻。而组成新家庭的时候，夫家这边本身有原生家庭的优势，哪怕儿子已经结婚了，他们的联系仍然不变，丈夫的父母对儿子的所有扩展到了对儿子儿媳的所有。这些都是观念所默许的，从而反应到具体现实中，从婚礼的所有步骤中也可窥得一见。
祥林嫂这个人在《祝福》这篇文章里，可以看出来是一个具有抗争精神的女人，在作为童养媳的时候，死了丈夫就偷跑出来做工，手脚勤快得主家在年底的福礼中都不需要再要一个短工，被婆婆绑回去塞到花轿子里嫁人的时候，一头撞香案角上。可哪怕这样一个女人，也被那个封建社会来回“吃”到麻木。丈夫儿子死后，大伯收走了他们的房屋。回鲁家做工，被鲁四老爷嫌弃“败坏风俗”，以前担当的福礼，现在碰都不让碰，嫌她会让祖宗厌恶。又被人厌烦来回叨叨不幸，再被人来回打趣被迫嫁人时的抗争——“这总是你自己愿意的”“我不相信你这么大的力气，真会拗他不过。你后来一定是自己肯了，倒推说他力气大”“可惜，白撞了那么一下”。攒了一年的工钱，因为担心死后被阎王锯成两半分给两个丈夫，就都拿去捐了门槛。最后死在了那个冰冷的年底，被鲁四老爷唾为“谬种”。
《人类简史》中曾经讨论过一个点，就是想象的力量，所有人都认同的东西，就会有力量，能驱动成千上万的人，从而使部落的管理权更加扩大。社会风俗也是如此，人类的观念对于人类社会有强大的驱力，你们认为什么，什么就会组成这个社会。所以，要革新认知，而这个“革”掌握在每个人的手上。
愿世间再无祥林嫂。
#鲁迅#
细读那个每个字价值上亿的文件，突出一个外行人想管内行事，既想剪人家的翅膀又要人家飞出海外。满纸荒唐言，写满了“都要管”，但却对“怎么管，用什么管，凭什么管”只字不提……
虽然规范化乱象以及遏制歪风邪气的初衷是好的，但怎么看都觉得整份文件从起草到发布充满了一种无法言喻的怨气以及极不专业的定义，就这样你要人怎么对未来充满信心，要市场怎么相信它真的是为了走向更好而不是迈进另一个寒冬……
……
侧面反映了车轱辘话学太久，连“务实”都属于难能可贵的当下，市场已经完全失去了靠猜靠“自己理解”的耐心……
虽然规范化乱象以及遏制歪风邪气的初衷是好的，但怎么看都觉得整份文件从起草到发布充满了一种无法言喻的怨气以及极不专业的定义，就这样你要人怎么对未来充满信心，要市场怎么相信它真的是为了走向更好而不是迈进另一个寒冬……
……
侧面反映了车轱辘话学太久，连“务实”都属于难能可贵的当下，市场已经完全失去了靠猜靠“自己理解”的耐心……
✋热门推荐