跳到正文
GitHub · 灵魂体仓库·· 17 天前AI 评分49

StickLLM v0.2:即插即用的隐私 AI USB,本地运行 LLM 不上云

StickLLM/stickllm

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/StickLLM/stickllm

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

StickLLM 是一个可启动的隐私 AI USB,插入后启动锁定的 Debian live 环境,在本机或局域网手机上与本地 LLM 对话,无任何云端调用。默认会话为 RAM 覆盖、重启即清空,持久化配置和下载模型需显式确认;v0.2 增加配对码解锁浏览器聊天与 Models 菜单,内置 Qwen2.5-7B Q5(GGUF)。目前仅支持 AMD 桌面 CPU + 32 GB 内存 + NVIDIA RTX 3090(24 GB)主机,项目采用 MIT 许可。

来源:GitHub · 灵魂体仓库 · github.com