Unmuzzled 发布本地离线聊天工具
先了解这件事
rahulagarwal18 发布本地离线 AI 聊天工具 Unmuzzled：执行 npx unmuzzled 即可在浏览器打开界面，由 llama.cpp 与 node-llama-cpp 在本机推理，支持 CUDA、Vulkan、Metal，并可回退 CPU。默认模型为 DeepSeek-V4-Pro-Qwen3.5-9B-UNCENSORED-heretic 的 Q4_K_M 量化版，下载 5.63 GB、运行约需 7 GB 内存；作者称其拒绝行为经 Heretic 处理后从 100/100 降到 3/100。 在 Intel i5-1135G7 笔记本上实测 2–3 tokens/second、模型加载约 40 秒，模型下载完成后不再发起网络请求。模型需点击 Download 后才开始下载，可暂停和续传；Android 端提供 113 MB 的 beta APK，默认 9B 模型需约 12 GB 内存的 64 位手机；使用 --host 0.0.0.0 会把模型暴露给局域网内所有人且无登录验证。
AI 根据报道生成 · 20 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
- GitHub · 去对齐工具与仓库精选Unmuzzled 发布本地离线 AI 聊天工具，一条命令启动 llama.cpp 推理
Unmuzzled 是一个完全在本机运行的离线 AI 聊天工具，执行 npx unmuzzled 即可在浏览器打开界面，通过 llama.cpp 与 node-llama-cpp 推理，支持 CUDA、Vulkan、Metal 并回退 CPU。默认模型为 DeepSeek-V4-Pro-Qwen3.5-9B-UNCENSORED-heretic 的 Q4_K_M 量化版，下载 5.63 GB、运行约需 7 GB 内存，作者称其拒绝行为经 Heretic 处理后从 100/100 降到 3/100。在 Intel i5-1135G7 笔记本上实测 2–3 tokens/second、模型加载约 40 秒，模型下载完成后不再发起网络请求。
本事件热度走势
- 可比范围当前
- 6
- 可比范围峰值
- 1011月6日 22:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。