【#上海交大推出全新大模型推理框架#】

原本需要一张16万元的80G A100干的活，现在只需要一张不到2万元的24G 4090就够了！

上海交大IPADS实验室推出的开源推理框架PowerInfer，让大模型推理速度加快了11倍。

而且不用量化，就用FP16精度，也能让40B模型在个人电脑上运行；如果加入量化，2080 Ti也能流畅运行70B模型。

结合大模型的独特特征，通过CPU与GPU间的混合计算，PowerInfer能够在显存有限的个人电脑上实现快速推理。

相比于llama.cpp，PowerInfer实现了高达11倍的加速，让40B模型也能在个人电脑上一秒能输出十个token。https://t.cn/A6laCqjE

#长春电子科技学院[超话]##学在长电##小电微阅读#
【史铁生的顶级文笔】
唯有文字能担当此任，宣告生命曾经在场。

我常觉得这中间有着宿命的味道：仿佛这古园就是为了等我，而历尽沧桑在那儿等待了四百多年。它等待我出生，然后又等待我活到最狂妄的年龄上忽地残废了双腿。

——史铁生《我与地坛》

苦难既然把我推到悬崖边缘，那么就让我在这里坐下来，顺便看看悬崖边上的流岗雾霭，唱支山歌给你听。

——史铁生《我与地坛》

在满园弥漫的沉静光芒中，一个人更容易看到时间，并看到自己的身影。

——史铁生《我与地坛》

既然是梦想，不妨就让它完美些罢。何必连梦想也那么拘谨那么谦虚呢？我便如痴如醉并且极端自私自利地梦想下去。

——史铁生《我与地坛》

你要爱就要像一个痴情的恋爱那样去爱，像一个忘记的梦者那样去爱，视他人之凝目如盏盏鬼火，大胆去走你的夜路。

——史铁生《病隙碎笔》

终于醒悟：其实每时每刻，我们都是幸运的，因为任何灾难的面前，都可能再加一个“更”字。

——史铁生《病隙碎笔》

人的命就像这琴弦，拉紧了才能弹好，弹好了就够了。

——史铁生《命若琴弦》

唯有文字能担当此任，宣告生命曾经在场。

——史铁生《务虚笔记》 https://t.cn/A6GNnOV1

看似威风凛凛的老虎文身里，饱含着两个男人的智慧与深情。【下】（前情见主页）
#新刊速递#

惊诧之余，陈三虎一下子明白了大鹏文身的目的，于是说：“我知道，你是为了不让小丽和我们难堪才这么做的。好孩子，你不该这样做，在身上文这么大的文身，会影响工作和前途的。”

香云也附和道：“只要你不嫌弃你叔叔这文身就够了，真的不该这么做……”

图片
听了父母的话，小丽突然笑了起来，转身从挎包里拿出一瓶风油精，拉过大鹏的胳膊，往虎头上滴了两滴，然后抽出一张餐巾纸擦了起来。转眼间，老虎头便被擦去了一半，露出了白白的皮肤。

老两口被这魔术般的表演惊呆了，敢情大鹏身上的虎头是画上去的，根本不是什么文身！

看着发蒙的老两口，大鹏说：“现在社会对文身的看法在慢慢发生改变，很多年轻人图一时兴趣，又不想受皮肉之苦，就选择了文身贴，如果不喜欢还可以随时更换。”说着，他从挎包中拿出一张花朵图案的贴纸，在小丽的手臂上涂点油，将贴纸压上去，片刻后再将贴纸揭去，一朵如同文上去的彩色牡丹花，便活灵活现地印在了小丽的手臂上。

老两口惊奇不已，连连夸好。香云想了想，犹豫着问：“能不能用这种办法把你叔叔身上的斑点盖住？”

大鹏说：“当然可以了，等我上网搜搜，选一组更威风更漂亮的文身贴给叔叔贴上去，保准让您二老满意。”

陈三虎笑得合不拢嘴，他对文身贴这事没那么在意，只是为女儿找到了一个好对象而高兴不已。

作者：莫炳生
插画：孙小片
点击订购：https://t.cn/A6lcpAtN