【无限制版本地大模型启动器】【开盒即用】【最低CPU可...
这是一款【无限制版本地大模型启动器】，开盒即用，让本地部署大模型没有任何技术门槛！你需要做的就是打开软件——选择模型——启动模型，然后就可以像调用Deepseek等服务商或中转站的api一样，在你的软件里或酒馆里调用这个模型了。
软件目前支持调用当下比较火的两个模型——qwen 3.8 27B和MiniCPM-V-4.7的35B-A3B版本和1B版本
这个1B模型，就是cpu都能跑的，但是不要指望它的智商有多高。
qwen 3.8 27B和MiniCPM-V-4.7 35B-A3B，推荐配置为16G显存，32G内存，模型权重15G左右，加上kv，理论上显存+内存能有25G应该就能跑动，不确定，我的测试环境是英伟达显卡11G显存+48G内存，amd显卡20G显存+32G内存，再低的环境没测试过，需要自行测试，无任何承诺。
软件无内置模型，想用哪个，就点击下载模型，下载哪个！
下载模型太慢了，有什么办法吗？ lance7380099 发表于 2026-10-18 08:15
下载模型太慢了，有什么办法吗？
里面有网盘链接。
内置了3个未下载的模型，其他模型放到models文件夹下完全认不出。试着下载了3个里面的一个模型，用酒馆可以联接上，但连文字的功能都不行，一个字都说不出来。给酒馆换回其他ai源就能正常使用。 w007wowo 发表于 2026-10-18 15:33
内置了3个未下载的模型，其他模型放到models文件夹下完全认不出。试着下载了3个里面的一个模型，用酒馆可以 ...
本地部署吃电脑环境，确实做不到所有人电脑都能用，我测试了两台电脑，英伟达显卡11G显存+48G内存，amd显卡20G显存+32G内存，都可以正常使用，至于文字能力，你测试的是1b模型吧，这个图一乐就行了
页:
[1]