单机部署一个自用”chatGPT“。chatGPT这么火,但是需要魔法,还有其他一些免费的,当然也都可以用,国内也有文心一言,星火模型等等,但是因为我有些特殊的环境需要,没有互联网,那么咱也可以自己单机部署一个,其实很简单,就是RWKV,国内还有清华的chatGLM,int4量化模型,显卡要求也不高,6G显存就能跑,但是部署起来相对麻烦,虽然也有懒人包,你也可以试试,但是我今天说的这个RWKV却显得更快更强,最低2G显存,甚至无需GPU加速用CPU和内存一样跑,单文件直接运行,有兴趣的可以去看!就是github上的RWKV runner,自己搜索自己下载,就知道多好用了!只需要一个exe即可完成一键部署。性能不好用1B,3B,性能好的用7B,14B,都没有问题,对上下文的支持也很好。而之前说的chatGLM上下文支持就很弱了。 自己弄一个,离线断网也能用起来!
使用也很方便,下载后,双击打开界面后,直接点击运行,会自动检查环境并且安装相应的依赖,选择适合自己机器性能的模型,运行也会自动下载相应的模型,速度还很快!
如果不会用,就@我,我手把手教你!哈哈
使用也很方便,下载后,双击打开界面后,直接点击运行,会自动检查环境并且安装相应的依赖,选择适合自己机器性能的模型,运行也会自动下载相应的模型,速度还很快!
如果不会用,就@我,我手把手教你!哈哈
我的置顶:
这里是山海存的碎碎念,可以叫我赖赖[亲亲]
很喜欢讲话,可以随时跟我小窗
我的提问箱:https://t.cn/A6NQrKUF
小赖同志玩光夜和代号鸢,光夜单机是6推,还有个身份是袁基厨子
不喜欢吵架偶尔断网2G人,为成为一个伟大厨子而奋斗[努力][努力][努力]
大概就这样,下面是我整理的饭,如果没收录进去的就是不满意的。
三个人的一点点东西:https://t.cn/A6NkIHAo
袁基:
小日常板块:
自渎:https://t.cn/A6NPm1qt
吃醋:https://t.cn/A6NkIHAf
周公:https://t.cn/A6NkIHAi
用手:https://t.cn/A6NkIHAV
床垫:https://t.cn/A6NkIHAS
第一次:https://t.cn/A6NkIHAK
餍足:https://t.cn/A6NkIHAC
争吵:https://t.cn/A6NkIHAI(我也挺喜欢)
积食:https://t.cn/A6NkIHAp(小纯爱)
对立:https://t.cn/A6NkIHA6(琢磨挺久的)
射艺:https://t.cn/A6NkIHA0
别扭:https://t.cn/A6NkIHAa
厚乳:https://t.cn/A6NkIHAx
舌:https://t.cn/A6NkIHAN
他的手:https://t.cn/A6NkgKiE(我最爱的)
抽筋:https://t.cn/A6NkIHAJ(热度最高的)
黄昏之际:https://t.cn/A6NkIHAM(我的里程碑)
暧昧黄昏:https://t.cn/A6NkIHAl(有一点车)
穿越小脑洞:(我还挺喜欢的)
(1):https://t.cn/A6NkIHAY
(2):https://t.cn/A6NnvhRo
(3):https://t.cn/A6NEsuiw
秋上唳蝉声(骨)未完结
一、二:https://t.cn/A6NWGunl
三、四:https://t.cn/A6NuMEOR
五、六:https://t.cn/A6NuMBxb
骨科会停一段时间,所以大家不用看了
小分析:https://t.cn/A6NkIHAj
刘辩:https://t.cn/A6NPe8i6
傅融:https://t.cn/A6NhLTfQ
孙策:https://t.cn/A6NkIHAT(只有一点点)
这里是山海存的碎碎念,可以叫我赖赖[亲亲]
很喜欢讲话,可以随时跟我小窗
我的提问箱:https://t.cn/A6NQrKUF
小赖同志玩光夜和代号鸢,光夜单机是6推,还有个身份是袁基厨子
不喜欢吵架偶尔断网2G人,为成为一个伟大厨子而奋斗[努力][努力][努力]
大概就这样,下面是我整理的饭,如果没收录进去的就是不满意的。
三个人的一点点东西:https://t.cn/A6NkIHAo
袁基:
小日常板块:
自渎:https://t.cn/A6NPm1qt
吃醋:https://t.cn/A6NkIHAf
周公:https://t.cn/A6NkIHAi
用手:https://t.cn/A6NkIHAV
床垫:https://t.cn/A6NkIHAS
第一次:https://t.cn/A6NkIHAK
餍足:https://t.cn/A6NkIHAC
争吵:https://t.cn/A6NkIHAI(我也挺喜欢)
积食:https://t.cn/A6NkIHAp(小纯爱)
对立:https://t.cn/A6NkIHA6(琢磨挺久的)
射艺:https://t.cn/A6NkIHA0
别扭:https://t.cn/A6NkIHAa
厚乳:https://t.cn/A6NkIHAx
舌:https://t.cn/A6NkIHAN
他的手:https://t.cn/A6NkgKiE(我最爱的)
抽筋:https://t.cn/A6NkIHAJ(热度最高的)
黄昏之际:https://t.cn/A6NkIHAM(我的里程碑)
暧昧黄昏:https://t.cn/A6NkIHAl(有一点车)
穿越小脑洞:(我还挺喜欢的)
(1):https://t.cn/A6NkIHAY
(2):https://t.cn/A6NnvhRo
(3):https://t.cn/A6NEsuiw
秋上唳蝉声(骨)未完结
一、二:https://t.cn/A6NWGunl
三、四:https://t.cn/A6NuMEOR
五、六:https://t.cn/A6NuMBxb
骨科会停一段时间,所以大家不用看了
小分析:https://t.cn/A6NkIHAj
刘辩:https://t.cn/A6NPe8i6
傅融:https://t.cn/A6NhLTfQ
孙策:https://t.cn/A6NkIHAT(只有一点点)
特急!自家网咖高端机台式电脑 i7i9主机 二手电脑全套包邮
没有经验选址不是太好,做不下去了,电脑是网吧机器,成色9新以上,用了半年左右,各种证照齐全,
每台卖出的电脑保证原装配件没有修过。不知道怎么选购配置和我说,我给你建议。
【普通办公区】配置:双核处理器 4G内存 120GB固态 高清集成显卡 收银用的办公电脑单主机690元980元一套(默认22寸),质量非常好,办公用非常流畅。(适应普通办公电商淘宝家用等等)
【游戏区】配置:i5 四核处理器 8G内存 120GB固态硬盘 GTX730 或650独立显卡 主机1490元包邮带走(畅玩LOL DNF CF等游戏)
【卡座区】配置:i7级十二线程处理器 8G内存 GT650 2g独显 128固态爽快送500g机械硬盘 1890元(添390推荐24显示器送全新游戏发光键盘鼠标)(畅玩LOL DNF CF等游戏,梦幻传奇多开,模拟器多开)
【电竞区】配置:i7级高频2670八核十六线程处理器 16三星内存 GTX1060 3g独显 240G固态 2000元包邮(推荐添390元带走24寸全新显示器送全新游戏发光键盘鼠标)(游戏直播 大型单机 设计软件随便带
【尊贵区】配置:i5-12400f十二线程处理器 16G内存 GTX3060 独显 500g固态 5190元一台包邮德邦顺丰(推荐添390元带走24寸全新显示器送全新游戏发光键盘鼠标)(永劫无间 艾尔登法环 3Dmax设计无压力#笔记本电脑[超话]##台式电脑[超话]# https://t.cn/R2WxOxg
没有经验选址不是太好,做不下去了,电脑是网吧机器,成色9新以上,用了半年左右,各种证照齐全,
每台卖出的电脑保证原装配件没有修过。不知道怎么选购配置和我说,我给你建议。
【普通办公区】配置:双核处理器 4G内存 120GB固态 高清集成显卡 收银用的办公电脑单主机690元980元一套(默认22寸),质量非常好,办公用非常流畅。(适应普通办公电商淘宝家用等等)
【游戏区】配置:i5 四核处理器 8G内存 120GB固态硬盘 GTX730 或650独立显卡 主机1490元包邮带走(畅玩LOL DNF CF等游戏)
【卡座区】配置:i7级十二线程处理器 8G内存 GT650 2g独显 128固态爽快送500g机械硬盘 1890元(添390推荐24显示器送全新游戏发光键盘鼠标)(畅玩LOL DNF CF等游戏,梦幻传奇多开,模拟器多开)
【电竞区】配置:i7级高频2670八核十六线程处理器 16三星内存 GTX1060 3g独显 240G固态 2000元包邮(推荐添390元带走24寸全新显示器送全新游戏发光键盘鼠标)(游戏直播 大型单机 设计软件随便带
【尊贵区】配置:i5-12400f十二线程处理器 16G内存 GTX3060 独显 500g固态 5190元一台包邮德邦顺丰(推荐添390元带走24寸全新显示器送全新游戏发光键盘鼠标)(永劫无间 艾尔登法环 3Dmax设计无压力#笔记本电脑[超话]##台式电脑[超话]# https://t.cn/R2WxOxg
✋热门推荐