内容形态
开源仓库与工具：人格工程、记忆系统、去对齐脚本、推理与微调工具链。
2,053 条精选近 30 天 2,046 条共收录 8,532 条
作者开源了一个用 QLoRA 在 CUAD（510 份商业合同、35 类条款）上微调 Qwen2.5-7B-Instruct 的项目，覆盖条款分类和有依据的条款问答两项任务，LoRA 适配器（165 MB）已上传 Hugging Face（PimoLee5/qwen2.5-7b-cuad-qlora）。
推荐理由：原文给出基座、3-shot 与微调三组对照的完整指标，并人工审计幻觉标记，可看清微调带来的召回与校准收益及其代价。
GitHub 开源项目 Duruo0815/free-llm-radar 定时检测国内外 57 家免费大模型服务的可用性，分官方 API 平台、第三方中转/聚合站、Agent/助手工具三类。
推荐理由：开源仓库用三级探活和双网络视角区分免费大模型服务的真实可用性，还提供变更推送与本地部署方案，方法可直接复用。
KushalP1 发布 context-doctor（npx context-doctor savings），一条命令在本地回放你的 Claude Code 会话历史，以美元显示各优化杠杆能省多少钱。
推荐理由：作者用自己的会话历史逐请求回放，给出每条省钱杠杆的具体美元数字，读者可按自己的账单估算收益。
julio-ct96 在 GitHub 发布 llm-cache-tap，一个架在本地客户端（opencode、Claude Code、脚本等）与供应商 API 之间的代理。
推荐理由：原文完整交代了代理的部署方式、证书信任配置和隐私边界，读者可以直接照着在本地跑起来排查缓存未命中。
釜山大学等机构开源 RestoreKV，在 query-agnostic KV 缓存驱逐后用少量 restore tokens 经一次 LoRA 适配生成恢复缓存，仅训练 0.4% 参数，无需任务特定微调。
推荐理由：原文给出 RestoreKV 的训练细节与多组预算匹配评测数字，读者可据此判断该方法在激进 KV 缓存压缩下的实际收益。
mohammadirham37 在 GitHub 发布 JenderalRouter，一个自托管多用户 LLM 网关，提供兼容 OpenAI（/v1/chat/completions）与 Anthropic（/v1/messages，可直接接 Claude Code）的单一 API 端点和管理 dashboard。
推荐理由：原文给出完整的部署命令、多用户配额与 combo fallback 机制细节，读者可以直接照着在 Ubuntu VPS 上自建多 provider LLM 网关。
witt3rd 在 GitHub 发布 prospecta v0.1，一个基于双向预期合成的记忆检索库：写入和读取两端都由 LLM 生成预期问题，在问题空间而非内容空间做匹配。
推荐理由：原文讲清了在问题空间而非内容空间做匹配的双向检索设计，并给出三通道混合索引与适用场景对比，方法可迁移。
Pennant 在 GitHub 开源，是一款运行在 Mac 上的免费 AI Agent，配有 iPhone 伴侣应用，可用自然语言分派任务，如整理收件箱、写帖子和改代码，支持定时任务和目标追踪。
推荐理由：开源 Mac 端 AI Agent，发布、删除和花钱前强制弹出审批卡片，并给出成本账本与本地隐私设计，适合关注 Agent 可控性的人参考。
littleseven 在 GitHub 开源了 PoLang（破浪相册），一个 AI Agent 驱动的 Android 智能相册应用，MIT 协议、免费无广告，已上架 Google Play。
推荐理由：开源的 Agent 驱动相册应用，README 给出了与 Queryable、PicQuery 的逐项能力对比和完整模块架构，可作端侧 AI 应用工程参考。
jundot 在 GitHub 开源了面向 Apple Silicon 优化的本地 LLM 推理引擎 oMLX，支持连续批处理与热内存加冷 SSD 的分层 KV 缓存，上下文中途变化时历史缓存仍可跨请求复用，并可通过菜单栏应用管理。
推荐理由：作者给出了自建推理引擎的分层 KV 缓存设计与实测数据，GLM-5.2 自定义内核下 prefill 提速约 30 倍，可作本地部署参考。
GitHub 项目 bilibiliUID1480494301/relay-hub 发布了一个自托管 LLM 中转/网关，把官方 API Key 与本地自托管推理服务统一为 OpenAI/Anthropic 兼容入口，纯 Python 标准库实现、零第三方运行时依赖，PyPI 分发名为 hubrelay。
推荐理由：自托管 LLM 中转站，纯 Python 标准库零依赖，把官方 API 与本地推理服务统一成 OpenAI/Anthropic 兼容入口，含号池调度与用量记账。
Sunil Mehta 开源了 llm-inference-platform，在 Apple Silicon Mac 上通过 vLLM-Metal 原生运行 LLM 推理，并提供 FastAPI 网关、Prometheus/Grafana 监控和可复现基准脚本。
推荐理由：开源项目在 Apple Silicon 上用 vLLM-Metal 原生跑模型推理，并配套可观测网关和可复现基准，适合想本地部署 LLM 服务的读者参考。
JuL 是一个开源 Python 库，对文本回答类型化问题（Choice、Noul、Score）并附带概率，答案直接从模型隐藏状态读出，无需推理轨迹，Mac 上单次决策 55 ms。
推荐理由：原文给出与 Jev 托管 API 的同题对比基准和延迟、ECE 数据，读者可据此评估本地部署替代托管决策 API 的可行性。
mxxm-t 在 GitHub 开源了 llmx，一个无依赖的 C++17 LLM 推理运行时，可命令行运行或作为 OpenAI 兼容服务器，支持单机多设备跑同一模型。
推荐理由：README 明确列出了已支持与计划中的模型、量化类型、后端和多设备模式，读者可据此判断该 CPU/Vulkan 推理运行时是否覆盖自己的硬件。
DuDuClaw 在 GitHub 发布，用一个 Rust binary 把 Claude Code、Codex、Antigravity 等 CLI 工具接入 Telegram、LINE、Discord 等 11 个通讯软件，核心采用 Apache 2.0 授权。
推荐理由：README完整给出了架构、通道与runtime清单和安全机制细节，读者可以据此评估这个把CLI工具接入多通讯软件的开源方案是否够用。
GitHub 开源工具 preference-prompt-tool 让用户在成对结果中最多选择 8 次，从选择历史推断隐式偏好并组装成个人专属系统提示词，可选接入 GEPA 优化。
推荐理由：作者用 MACSum 数据和独立指标把选择式个性化与通用指令、已知偏好指令做了对照，并如实报告了未达显著的部分。
HitMargin 开源 ai-proxy，对外暴露统一 OpenAI 兼容接口，聚合 kilo.ai、openrouter.ai、chat.deepseek.com、api.trae.cn、cnb.cool 等多个上游，支持本地 Deno、Deno Deploy、Cloudflare Workers 三种部署。
推荐理由：README 详细记录了各上游协议差异与静默失败的排查过程，如缓存命中率 50% 天花板的成因分析，方法可直接迁移到类似聚合代理的调试。
作者把小型判定器 Jev 接入自己的 AI 助手并使用一个多月，开源了含接入指南、判定点清单、影子期评测方法与踩坑集的实战手册（https://github.com/zhaoyanan-pixe/jev-cookbook）。手册总结 6 条原则，如失败必须 fail-open、先影子后放权、硬红线不进判定流程，并给出各任务族可靠度从 90%+ 到 15% 不等的实测观察，强调效果依场景而定。
推荐理由：作者用一个月实战总结出先影子后放权的接入方法，并给出不同任务族可靠度差异的实测数据，方法可迁移到自己的 AI 助手。
hwdsl2 发布 docker-ollama 镜像，用于以 Docker 运行 Ollama 本地大语言模型服务器，提供 OpenAI 兼容的 /v1 API 子集和原生 Ollama API。
推荐理由：这个 Docker 镜像默认用 Caddy 强制 Bearer token 认证并自动生成 API key，README 还给出磁盘与内存需求表，便于自行评估部署成本。
Valni Labs 发布 pi-switchboard 扩展，将 pi 编码智能体接入 Switchboard，登录一次后 /model 即可列出支持的 Claude 及 OpenAI/OpenAI 兼容模型，按 token 计费，无订阅、无需各厂商账号。
推荐理由：原文给出安装命令、登录流程、计费与错误处理细节，读者可据此评估是否把 Switchboard 接入 pi 编码智能体。