[转载搬运] 【无限制版本地大模型启动器】【开盒即用】【最低CPU可... [1+50M][百度盘]

y563295973

这是一款【无限制版本地大模型启动器】，开盒即用，让本地部署大模型没有任何技术门槛！

你需要做的就是打开软件——选择模型——启动模型，然后就可以像调用Deepseek等服务商或中转站的api一样，在你的软件里或酒馆里调用这个模型了。


软件目前支持调用当下比较火的两个模型——qwen 3.8 27B和MiniCPM-V-4.7的35B-A3B版本和1B版本

这个1B模型，就是cpu都能跑的，但是不要指望它的智商有多高。


qwen 3.8 27B和MiniCPM-V-4.7 35B-A3B，推荐配置为16G显存，32G内存，模型权重15G左右，加上kv，理论上显存+内存能有25G应该就能跑动，不确定，我的测试环境是英伟达显卡11G显存+48G内存，amd显卡20G显存+32G内存，再低的环境没测试过，需要自行测试，无任何承诺。


软件无内置模型，想用哪个，就点击下载模型，下载哪个！

lance7380099

下载模型太慢了，有什么办法吗？

y563295973

lance7380099 发表于 2026-10-18 08:15
下载模型太慢了，有什么办法吗？

里面有网盘链接。

w007wowo

内置了3个未下载的模型，其他模型放到models文件夹下完全认不出。试着下载了3个里面的一个模型，用酒馆可以联接上，但连文字的功能都不行，一个字都说不出来。给酒馆换回其他ai源就能正常使用。

y563295973

w007wowo 发表于 2026-10-18 15:33
内置了3个未下载的模型，其他模型放到models文件夹下完全认不出。试着下载了3个里面的一个模型，用酒馆可以 ...

本地部署吃电脑环境，确实做不到所有人电脑都能用，我测试了两台电脑，英伟达显卡11G显存+48G内存，amd显卡20G显存+32G内存，都可以正常使用，至于文字能力，你测试的是1b模型吧，这个图一乐就行了