GitHub · 去对齐工具与仓库·· 18 天前精选AI 评分55
Cyberbatman 发布可装进 U 盘的 Windows 本地 LLM 便携包
sOuL2000s/The-Personal-Portable-AI-LLM-ft.-The-Cyberbatman-
来源与原文
GitHub · 去对齐工具与仓库
发布时间：（北京时间）
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/sOuL2000s/The-Personal-Portable-AI-LLM-ft.-The-Cyberbatman-
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
sOuL2000s 在 GitHub 发布 AI Pendrive，一个基于 llamafile 0.10.5 的 Windows 本地 LLM 便携包，双击 start_4gb_gpu.bat、start_6gb_gpu.bat、start_8gb_gpu.bat 或 start_no_gpu.bat 即可在 127.0.0.1:8080 启动本地服务器和浏览器 UI。模型使用 HauhauCS 的 Qwen3.5 2B/4B/9B Uncensored GGUF 权重，需手动下载，不自动检测硬件；默认上下文 256K tokens、KV cache q4_0 量化，并默认启用内置 agent 工具（读写文件、shell 命令等），status.bat 提供每五秒刷新的终端仪表盘。
推荐理由
原文详细给出了各硬件档位的启动脚本、上下文与 KV cache 配置，读者可以照着在 U 盘或移动 SSD 上复现这套本地部署。
来源：GitHub · 去对齐工具与仓库 · github.com