内容形态
开源仓库与工具：人格工程、记忆系统、去对齐脚本、推理与微调工具链。
2,050 条精选近 30 天 2,043 条共收录 8,516 条
GitHub 项目 rlei-odes/lcf（Lancy Content Flow）发布，这是一个开源自托管方案，用本地 LLM 辅助填写 8D/4D 问题解决报告、产品规格、偏差通知等结构化文档。内容只在接受后才存在，质量门禁通过或记录人工覆盖原因后才能导出 docx；支持 Ollama、vLLM、LM Studio、llama.cpp 等任何 OpenAI 兼容端点，数据不出本地网络，20B 级 instruct 模型即可流畅使用。
推荐理由：开源项目把 LLM 限制在确定性框架内做结构化文档起草，人工接受和质量门禁的设计思路对类似工作流有参考价值。
GitHub 项目 devlikebear/tars 宣布恢复开发，最新 tagged 版本为 v0.52.0。TARS 是用 Go 编写的本地 AI Agent 运行时，单个二进制打包浏览器控制台、API server、CLI、后台任务、记忆与扩展系统，支持 subagent 编排、SQLite Work Ledger、heavy/standard/light 三档模型路由、cron 调度、Telegram 通道、Skill Hub 扩展与 computer_use，并提供与 OpenClaw、Hermes Agent 的对比表。项目采用 MIT 许可，可通过 Homebrew、curl 脚本或 PowerShell 安装。
推荐理由：README 给出了本地 Agent 运行时的完整架构与同类项目对比表，读者可以借此评估本地可控 Agent 方案的取舍。
thisisspartan 在 GitHub 发布 llama-log-observability，一个解析 llama-server 日志的实时仪表盘，用单个零依赖的 www.js 文件以纯 Node.js 实现。面板可视化 KV cache 来源与 VRAM/Host RAM 分布、上下文 checkpoint、MTP/n-gram 投机解码接受率与请求历史，并读取 /slots 和 /metrics 端点交叉核对，不改动 llama.cpp 本身。作者给出完整示例：在 RTX 5060 Ti 16GB 上以 q4_0 KV cache 加 host-RAM checkpoint 运行 Qwen3.8-27B MTP GGUF（IQ3_S 量化），跑通 124000 上下文。项目以 MIT 协议开源。
推荐理由：一个零依赖的单文件 Node.js 面板，把 llama-server 日志变成 KV 缓存、checkpoint 和投机解码的实时可视化，可直接复用。
nexc-engine 在 GitHub 开源，是一个自托管的可视化 LLM 图工程平台：用户在类 Obsidian 画布上用 [[wikilinks]] 画目标草图，LLM 将其细化为结构化计划，再按 DAG 调度执行，每个节点由 LLM 调用、Python 运行时中生成的角色 agent 或 texc-symphony 编码 agent 处理，产出 docx、代码等可下载交付物。
推荐理由：README 给出了从画布草图到 DAG 执行的完整架构、部署命令和与 n8n、CrewAI 等工具的逐项对比，方便读者评估是否适用。
Emryswu 在 GitHub 开源 ResumeLens，一个基于本地向量检索加大模型生成的简历与职位 JD 匹配系统，后端用 Spring Boot，向量部分用本地 ONNX 运行 Alibaba-NLP/gte-multilingual-base-int8（768 维），精析走关键词重排加语义阈值门控的 RAG。项目附可解释的 chunk 级证据链报告和手写 tool-calling AI 助手，写操作需用户确认；阈值 0.72 来自 18 组配对、198 次检索的阈值扫描实验，作者说明了该结论只适用当前模型与分块配置且无独立 holdout，并给出 RAG 与全文直投的消融对比（块级证据 F1 0.957 对 0.468）。
推荐理由：作者不只给出代码，还附上阈值 0.72 的扫描校准数据和 RAG 消融对比，方法对做检索工程的人可直接迁移。
作者在 GitHub 发布一个生产风格的 LLM 护栏微服务，用 23 个规则族检测提示词注入、越狱尝试和敏感数据（API 密钥、邮箱、电话），提供 /v1/check/prompt 与 /v1/check/response 两个端点并返回 allow/block JSON 决策。服务以非 root Docker 镜像部署到 kind Kubernetes 集群，用 Secret 做 API key 认证，Kyverno Enforce 策略拒绝特权容器和无资源限额容器。在 112 条留出测试文本上精确率 100%、召回率 87.5%、误报 0，引擎单线程 p95 延迟 0.063 ms，作者同时说明了对 leetspeak、非英语注入、改写探针等 9 类漏检及评测集规模小的局限。
推荐理由：原文给出了规则设计和留出集上的精确率召回率数据，还列出已知漏检类型，适合想自建 LLM 护栏服务的读者参考。
GitHub 项目 Arslan 发布，一个本地优先的个人 AI orchestrator，在你自己的机器上用你自己的 LLM API key 运行。每次请求由 host agent 拆分任务、在内核沙箱里运行生成的代码并返回答案。spawn 的提示词会从运行历史自动修订，但需在至少 10 对留存历史任务上盲评取得至少 60% 胜率且各维度不劣于现任版本，生成可读 diff 后由用户点击 Promote 才生效。
推荐理由：项目把自进化人格拆成可审查的流程，用留存任务对打加人工 Promote 把改动挡在生效前，方法本身可以借鉴。
Dhruv Dubey 发布 DSPM Memory（pip install dspm-memory），将多轮 LLM 对话压缩 80% 以上，同时宣称在基准套件上关键约束和决策 100% 保留。每轮对话被转成带类型的语义补丁，约束和决策在 7 阶段压缩管线中受结构性保护；实测 7 个领域各 40 轮对话，budget 250 时 token 压缩 82.8%、CRR 100%，消融显示移除 shadow-selection 后 CRR 从 100% 降到 37.9%。支持任意 OpenAI 兼容 provider，提供 save/load 跨会话持久化、修订取代旧值和事实密集文本的 dense 抽取模式，配套论文存于 Zenodo（10.5281/zenodo.19438636）。
推荐理由：作者给出了消融实验和分预算档位的压缩率与关键保留率数据，读者可以据此评估这套记忆压缩方法是否值得接入自己的多轮对话流程。
jevper 是 OpenAI 已公开的 Decisions API 架构和 System One 线格式的独立实现，可在任意 OpenAI 兼容模型或 Anthropic Messages API 上运行，pip 安装后仅需 pydantic>=2.7。
推荐理由：原文详细说明了在任意 OpenAI 兼容模型上复现 Decisions API 的方法与四种读取方式，还给出各本地服务器的实测差异，方法可直接复用。
xgonzox729 发布 sysml-v2-llm-kit，在 OpenCode 中让本地 Gemma 4 26B A4B 通过在合适时机投放官方参考资料来学习 SysML v2，而非依赖其以 v1 为主的训练数据。套件常驻约 8K token 的速查表和工作流文件，附带 100 个 OMG 官方训练模型、可按需加载的示例索引、BNF 语法 grep、低温度 sysml agent 和 /sysml-review 审查命令，并提供 7 条评测提示词用于 A/B 调整温度、thinking 模式和量化等级；示例与语法文件遵循 EPL-2.0，其余为 MIT 许可。
推荐理由：原文讲清了用及时投放官方参考资料替代模型旧训练数据的具体做法，含调参和评测方法，可迁移到其他领域知识注入场景。
sferarc 在 GitHub 发布 peeksafe，一个零运行时依赖的 TypeScript 库，为非确定性 eval 套件提供可任意早停且保持错误控制的统计门控，通过 npm install peeksafe 安装，要求 Node 22 或更新。README 指出先验地观察结果再加 Benjamini-Hochberg 校正没有错误控制，并在 20 个无变更 PR 上实测：每 4 次运行窥视一次时，m=10 的套件每个 PR 产生 0.65 个假发现，m=200 为 0.20；同样的运行在固定样本量单次检验下为 0 个假发现。
推荐理由：原文用同一批 no-op PR 实测了边看边停加 Benjamini-Hochberg 的假发现成本，并给出可复用的 e-value 门控方案。
Portkey 在 GitHub 开源了 Portkey-AI/models 仓库，收录 40+ 提供商共 2000+ 个模型的定价与配置数据，提供免费、无需鉴权的 API。该数据库服务于每天经 Portkey AI Gateway 处理 400B+ token 的 200+ 家企业的成本归因，统一解决了模型命名混乱、计价单位不一、隐藏计费维度和价格频繁变动等问题，价格以美分每 token 计，并区分批量定价、缓存读写、思考 token、搜索和视频秒数等附加计费项。
推荐理由：这是 Portkey 官方维护的开源 LLM 定价数据库，提供免费无鉴权 API 和统一的价格字段结构，可直接接入成本核算。
开发者 Andrey Lipanov 在 GitHub 发布 HA_Pilot，一个主动式家居管家项目，由 Home Assistant 自定义集成 Pilot Eyes 和运行时 Agent 插件两部分组成。项目让 LLM 不进入实时控制回路，日常由确定性代码零 token 处理，Agent 每天对标记事实做一次推理，通过信任队列、审计日志、每日预算（默认 ₽10/天）和一键回滚逐步获得自动执行权限，全部数据本地存储，需 Home Assistant Supervisor 环境，许可证为 PolyForm Noncommercial 1.0.0。
推荐理由：原文讲清了让 LLM 不进实时回路、由确定性代码承担日常工作的家居管家架构和信任机制，部署思路可迁移。
Reddit 用户 /u/chemist_slime 发布 cmpunlocker v0.5，新增 ECC 支持并免费额外解锁 4 个 SM，gen3 解锁也在计划中，工具见 https://github.com/amoghmunikote/cmpunlocker/releases。作者对比 CMP170hx（1.5TB/s 显存带宽）与价格涨至 5k 的 64GB DGX Spark（273 GB/s），认为前者以不到一半价格更适合 localAI。
推荐理由：原文给出了硬件解锁工具的版本更新和与 DGX Spark 的带宽价格对比，读者可以据此评估本地部署的替代方案。
Kerneta 发布 daidocs 5.1.1，将 AI 助手记忆做成磁盘上的纯文本文件：.dai 存文档与会话历史，.cai 用 tree-sitter 构建代码调用图，路由器决定由哪一半回答问题。LongMemEval-S 上 GPT-4o 作答得 83.00%（415/500），比同一模型无记忆的 60.60% 高 22.40 分，每题约读 10,065 token，少读约 10.3 倍；同一记忆层换五个作答模型准确率在 78% 到 92% 之间。所有数字附逐题评判与 sha256 清单，格式 Apache-2.0，支持 MCP 接入 Claude Desktop、Cursor 等工具。
推荐理由：原文公开了记忆系统的格式规格、基准条件与逐题证据，读者可以自行复现其检索与准确率数字。
作者开源了面向石家庄出行的垂直旅游 AI Agent 项目 ShijiazhuangAgent，包含行程规划与自由问答两条业务链路。技术上是 LangGraph 图编排加 BM25/向量 RRF 混合检索，mock、siliconflow、ollama 三个 LLM Provider 可用一个环境变量切换，默认 mock 离线可跑全链路；项目附 193 加 43 个单测，并给出结构化输出容错回炉、检索不可用时分级降级、WS 契约单一来源、prompt 层防幻觉与 46 例金标评估集等工程细节。
推荐理由：项目把不可靠的 LLM 输出落成可用产品的工程做法写得可逐条对到代码，读者可以借此借鉴垂直 Agent 的容错、降级与测试方法。
GitHub 项目 crabhi/django-deluxe 发布，提供在 Monty 沙箱中运行 LLM 生成代码的 Django 工具。用 @sandboxed 装饰器定义人工审查的边界类，docstring 即任务、__call__ 即入口签名，生成代码提交到 generated/ 目录并在每次运行时对照 stubs 做类型检查；支持 pydantic 模型与 dataclass 以 JSON dict 进出沙箱，默认资源限制为 512 MiB、60 秒执行、1000 次宿主调用，并提供 run_generated 等在 Monty 中运行测试的辅助函数。
推荐理由：原文完整给出了用 @sandboxed 装饰器划定人审边界并在 Monty 沙箱运行 LLM 生成代码的做法，可迁移到自己的 Django 项目。
talhayme 在 GitHub 开源了 evalkit（llm-eval-harness），一个 LLM 功能评估与发布门槛工具，把提示词变更的效果变成 CI 可阻断的检查项。默认离线运行，无需 API key，全量套件 1 秒内跑完；支持绝对阈值（通过率、准确率、幻觉率、p95 延迟、成本）与基线回归对比，检查失败时以非零退出码阻止合并。groundedness 刻意不用 LLM-as-judge，采用可单测的确定性指标；用例以 JSON 数据形式编写，支持 expect_refusal 标记拒绝类场景；提供 FallbackProvider 处理提供商超时与限流，配套 CI workflow 还包含一个反向检查，确保已知坏的运行必须失败。
推荐理由：原文给出了评估门槛的完整做法，从确定性指标、阈值到基线回归都可直接复用到自己的 LLM 发布流程。
xianyu-sheng 在 GitHub 发布 Xenon，一个让 AI 编码 Agent 可信运行的 Python 运行时，工具输出作为 Evidence、LLM 输出作为 Claim，所有副作用经同一工具收敛点。v0.9.x 新增意图契约（每轮不可变 TurnContract、显式禁令一票否决、低置信操作询问用户）和 read_document 零依赖解析 xlsx/docx/xls/.et/csv/。评测显示 SWE-bench Lite 40.0% 实例通过率（同模型 +6.7pp），多引擎矩阵 45.8%，Cache Rails 缓存命中率 97.35%、节省 93% token 成本；支持 7 种推理引擎、12 家 LLM Provider 与 MCP，MIT 协议，可作 CLI 或库使用。
推荐理由：README 给出同模型 A/B 与评测协议，读者可以了解一套以证据校验收敛 Agent 副作用的运行时做法。
renefichtmueller 发布 Adaptive LLM Gateway v0.3（实验版，Apache 2.0），自动发现本机已安装的订阅 CLI，把 Claude Max、ChatGPT Plus、Copilot 等包月套餐封装为 OpenAI/Anthropic 兼容的本地 HTTP API。内置提示词注入防御（OWASP LLM-01，20+ 模式，中英双语，扫描低于 5ms）、PII 脱敏与还原、输出流防御、基于审计日志的成本感知自适应路由、推理轨迹拆分存储、时间回溯重放、MCP 服务器模式、统一订阅钱包与 /v1/responses 经 OAuth 桥接的订阅直通。
推荐理由：作者把订阅制 CLI 封装成本地 API 网关，还带上注入防御和 PII 脱敏，适合订阅用户对比现有按 token 计费网关的差异。