跳到正文
GitHub · 去对齐工具与仓库·· 18 天前AI 评分54

Pocket LLM:基于 llama_cpp_dart 的隐私优先本地 AI 助手开源

PradyX/pocket_llm

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/PradyX/pocket_llm

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

PradyX 在 GitHub 开源了 Pocket LLM,一个完全在设备端运行的隐私优先本地 AI 助手,使用 GGUF 模型配合 llama_cpp_dart 做本地推理,不需要云端 API。应用支持多模态图像聊天、内置 llmfit 性能基准测试、流式输出、多会话管理、会话内切换模型、推理配置(Balanced、Battery Saver、Maximum Performance)和可复用的 Persona 系统提示词,支持 Android、macOS 和 Linux 桌面,技术栈为 Flutter + Riverpod,采用 GNU GPL v3 许可证。

来源:GitHub · 去对齐工具与仓库 · github.com