跳到正文
  1. Reddit · r/LocalLLaMA71

    Reddit 用户开源 Sentinel:用代码护栏而非提示词构建本地第二大脑

    Reddit 用户 /u/dimensionof0 开源了 the-sentinel(MIT 协议),一个在代码层而非提示词层设置护栏的本地 LLM 知识库系统,防止模型自引输出导致知识库被污染。

    推荐理由:作者用实测数据对比了提示词与代码护栏的效果,并给出 6 GB 显存下的具体运行方案,方法可直接迁移到类似知识库项目。

  1. GitHub · 去对齐工具与仓库59

    JadELHAJJ-prog 开源本地 AI Agent 项目 local-ai-agent

    作者开源了一个完全本地运行的 AI Agent 项目 local-ai-agent,支持浏览网页、执行代码和分析图像、视频与文档。

    推荐理由:作者完整公开了本地 Agent 的架构、工具清单和 8GB VRAM 下的模型切换细节,可复现也可借鉴到类似项目。

已经到底了