跳到正文
我的
GitHub · 去对齐工具与仓库·· 20 小时前精选AI 评分60

Unmuzzled 发布本地离线 AI 聊天工具,一条命令启动 llama.cpp 推理

rahulagarwal18/unmuzzled

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/rahulagarwal18/unmuzzled

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Unmuzzled 是一个完全在本机运行的离线 AI 聊天工具,执行 npx unmuzzled 即可在浏览器打开界面,通过 llama.cpp 与 node-llama-cpp 推理,支持 CUDA、Vulkan、Metal 并回退 CPU。默认模型为 DeepSeek-V4-Pro-Qwen3.5-9B-UNCENSORED-heretic 的 Q4_K_M 量化版,下载 5.63 GB、运行约需 7 GB 内存,作者称其拒绝行为经 Heretic 处理后从 100/100 降到 3/100。在 Intel i5-1135G7 笔记本上实测 2–3 tokens/second、模型加载约 40 秒,模型下载完成后不再发起网络请求。

推荐理由

作者给出了默认模型从 Qwen3.5-9B 到去拒绝微调再到 GGUF 量化的完整链路,以及笔记本上的实测速度,便于判断本地离线聊天是否够用。

来源:GitHub · 去对齐工具与仓库 · github.com

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。