新闻、仓库与研究，按时间排列。
CodfishYao 在 GitHub 发布 DeepSeek Harness（DSH）本地知识库插件 dsh-knowledge-base-local，以纯 Markdown 为数据源，支持 agent 工具、CLI 和 Web 面板三种访问方式。功能包括 BM25 加向量混合检索、三种向量模式（本地/LLM/api embedding）、PDF 和 Office 零依赖文本抽取、MCP server（stdio 或 Streamable HTTP，可接入 Claude Desktop、Cursor）、AES-256-GCM 静态加密与多用户 RBAC。零运行时依赖，仅需 Node.js ≥ 22，采用 MIT 协议。
推荐理由：为 DeepSeek Harness 做的本地知识库插件，以纯 Markdown 存储、零运行时依赖，检索、加密、MCP 接入的实现思路可直接借鉴。
BabyZilla 是一个 OpenCode v2 插件，通过七层机制压缩上下文，宣称可节省 70–99% token。它把会话摘要蒸馏为状态、决策等 JSONL 模块，按请求将消息列表限制在 8%（下限 12K、上限 45K token），压缩旧工具输出与推理文本，每条被省略内容都可用 babyzilla recall 命令恢复原文。支持 Kimi K3 这类 1M 窗口模型和小窗口本地模型，压缩方式保持字节稳定以维持 provider prompt cache 有效；附带可选桌面宠物 CLI 和带硬性限制的自调优循环。项目地址 https://github.com/StibaDu/babyzilla，已在 OpenCode v2.0.29（macOS）测试。
推荐理由：README 给出七层压缩的具体机制和分层实测数据，并解释了缓存噪声与可逆召回设计，适合评估长会话成本问题的人参考。
作者发布 pi-vcc，为 Pi 编程智能体提供不调用LLM的算法式会话压缩，靠提取与格式化生成摘要。与 Pi 默认方案相比，中位体积缩减97.6%，压缩延迟中位1ms，成本为零，输出确定性一致；基于1884个真实会话实测。压缩后的历史可通过 vcc_recall 按关键词或正则搜索回原始会话文件，摘要按最多6个分段加简要转写组织，多次压缩时分段合并并重新封顶。安装方式为 pi install npm:@sting8k/pi-vcc 或从 GitHub 安装，MIT 许可。
推荐理由：作者用1884个真实会话给出压缩率与延迟的量化对比，读者可据此评估这套无LLM的上下文压缩方案是否值得装。
mojoaar 在 GitHub 发布自托管编码智能体长期记忆工具 Mímir 0.2.0，单容器部署，通过 MCP 和 REST 存取记忆，按仓库路径作用域提供决策、约定与经验。记忆以路径树存储，每条含标题、摘要和正文，人类可读，不存不可检查的嵌入向量；提供七个 MCP 工具，支持关键词与语义混合搜索，学习用 DeepSeek 或 OpenCode 等自有模型，语义搜索默认可用 Ollama 的 nomic-embed-text（768 维）。尚未支持备份、MFA、审计页面、记忆浏览器、i18n 和导入已有仓库。
推荐理由：自托管编码智能体长期记忆方案，路径树加人类可读存储，不依赖黑盒嵌入，给出了完整的部署与接入方法。
OpenLore 是一个面向 AI 编码智能体的本地优先记忆与护栏工具，基于静态分析构建代码知识图谱，热路径无 LLM、无需 API key，同一查询始终返回相同答案。一条 openlore install 命令可自动检测 Claude Code、Cursor、Cline 等智能体并注册 MCP 服务器；orient() 单次调用返回任务相关函数、调用者与插入点（15k 节点图上约 430µs p50）。在 Spec 14 基准中，大型陌生仓库的深度任务往返次数下降 26%（excalidraw 25→16），小型熟悉仓库则常为负收益，官方同时公布了亏损数据。治理侧提供 breaking-change 判定、敏感边界检查、verify_claim 与统一提交门 openlore enforce。
推荐理由：README 公开了随仓库规模变化的收益与亏损实测数据，并给出在自己仓库上复现的命令，方便读者判断工具是否适用。
Anton Sannikov 在 GitHub 发布 Mnema，一个把用户记忆存为本地纯 Markdown 文件的工具，供 Claude、ChatGPT、Gemini、DeepSeek 或本地模型共享上下文，无云端、无账号，支持 Windows、macOS 和 Linux。记忆包含画像、记忆地图和带日期的事实，过期事实会被重写或归档；支持多模型协作模式（Council、Debate、Red team 等），可通过 MCP 接入 Claude Code、Claude Desktop 和 Cursor，内置 13 个本地模型选项并支持 Ollama。
推荐理由：本地 Markdown 文件记忆可同时供云端与本地模型读取，原文还给出 153,000 字符合同问答中 token 消耗的实测数据。
awnpw 开源了 Nekolyra，一个跑在自己电脑上的 QQ 群 AI 机器人，带群/人/画像三层 SQLite 长期记忆、分文件夹知识库、表情库、语音合成和 14 页 Web 管理界面。支持 Windows/Linux/Docker 三种部署，数据全存本地，需另配 QQ 协议端和 AI 接口；README 同时列出了语音、识图、群管等模块的成熟度边界和已知不一致之处。
推荐理由：README 把功能边界和未实测部分都写清楚了，想自部署 QQ 群 AI 机器人的人可以直接对照判断成本和坑。
开源项目 Project Lenie 提供 LLM 驱动的数据收集、管理与搜索：可收集管理链接、将网页内容存入 PostgreSQL 并支持私有检索，还能转录 YouTube 视频便于查找片段。当前 Claude Code 通过 /lenie-obsidian-note 等技能经 REST API 读写 Lenie 数据库并直接写入 Obsidian vault；技术栈包括 Flask REST API、React SPA、PostgreSQL with pgvector 及 AWS serverless 部署。
NMoi-Agent 是一个本地优先的 LLM 客户端，采用 Rust 无头核心加各平台原生 UI，数据留在用户设备上，以 GPL-3.0-only 许可开源。项目当前处于 stage 0，核心代码已完成、测试待 CI 执行，包含 SQLite 存储、L0–L3 启动校验、上下文管理四模式、内容寻址归档、写入时刻脱敏及 NMoi-Agent doctor/init/backup 等 CLI 诊断命令。
ikpsthakur/oslo-hack 是一个公开仓库，提供用于在奥斯陆寻找小型项目伙伴的手机友好单页网站，并采用适配 Andrej Karpathy LLM Wiki 模式的 AI 维护项目 wiki，无需后台模型或 API key。访客聊天机器人使用 OpenRouter 的 nvidia/nemotron-3.5-lightning:free 模型，网站与 API 托管于 Vercel，知识来自公开访客指南与含 56 条虚构记录的合成知识库，经 allowlist 在构建时编译，免费额度为每天 50 次请求。该迁移于 2026-10-22 获用户批准并在 Vercel Gateway 返回 HTTP 403 后完成，PR #4 已合并部署并验证真实回复。
Oufrid 发布 HCS（Holographic Context Standard）v0.2，一个开源上下文文件格式，配套 CLI 和 MCP server，让 AGENTS.md、CLAUDE.md 之类的上下文摘要可追溯、可验证。每条声明引用源码位置并带哈希，hcs check 能在 CI 中检测过期声明（忽略重排格式、跟随代码移动），hcs score 用验证过的探测题输出带 95% 置信区间的保真度和误导率。编译时逐条验证逐字引用以排除幻觉摘要，仓库 51 个 TS/JS/Python 文件上启发式与 tree-sitter 定位在 474 个符号中 470 个一致；针对提示词注入， tuning 后高风险级在自建语料捕获 90% 攻击且无误报，但留出集仅捕获 47%。
推荐理由：原文给出引用锚点、哈希校验和保真度测量的具体做法，读者可以照着理解上下文摘要如何做到可追溯、可检测过期并量化损失。
Antonella Cuvertino 与 Miriam Hammami 开发了 CAT-IA，一个为虚构组织 Nexo TI 提供支持的原型助手，可分类工单、检索内外部文档并生成带引用的答复草稿，供人工审核。系统采用 LangChain Core 1.6.9、CrewAI 1.15.27、SQLite 与 Ollama 本地运行 Qwen qwen2.5:1.5b，结合受限 ReAct 或 CrewAI 顺序编排。EP2 版本于 21/10/2026 依据教师反馈新增主题切换控制、引用验证、SQLite 草稿写入，并支持通过 nomic-embed-text 进行混合检索。
kgaidev/kgai 在 GitHub 开源，定位为 AI 编程工作流中的共享决策记忆：AI 在改代码时自动把结构性决策记录为知识图谱，包括变更、原因和被否决的方案，改动前 AI 会先查已有决策。决策是不可变的内容寻址事件，并行写入不产生文本合并冲突，语义冲突以分支形式呈现并保留解决记录；官方称 100 万条决策、30 个写入者分片下查询约 100ms。支持 Claude Code 插件、Codex CLI（需 ≥ 0.150）和 Gemini CLI，团队同步为 opt-in，使用用户自己的 S3 桶（git 远端为实验性），另有 VS Code/Cursor/Windsurf 扩展和实验性 kgai-mod 插件，MIT 许可，本地优先，代码不出本机。
推荐理由：这个共享决策记忆在 100 万条决策、30 个写入者分片下查询仍约 100ms，且团队同步以自家 S3 为 opt-in，可作长期记忆落地方案参考。
一位 Reddit r/LocalLLaMA 用户询问换用新 agent harness 是否值得。其现有方案基于 openclaw 4.23 与 Qwen 3.8 27b，运行在 64GB Mac Studio M2 Max 上，通过 Telegram 交互，自建了多层级夜间日记、heartbeat 脚本、d20 随机唤醒、向量数据库及约 50k 系统提示词等记忆与调度机制，希望了解其他 harness 能带来哪些实际改进。
rossoctl 开源 context-guru，通过少带上下文和缓存省钱两条路径降低 Agent 流量的 token 成本，官方称合计可省 5-15% 的 API 开销。默认只做缓存管理不改内容，支持 Claude Code 与 Codex（实验性），提供 off 到 xhigh 五档预设、实时节省状态栏与仪表盘，采用 Apache-2.0 许可证。
推荐理由：README 给出各省钱路径的实测占比与分级预设，读者可以对照自己的 Agent 用法估算 token 开销能省在哪。
dreamor 开源 MemVault 0.6.0（MIT 协议），一个单二进制 Rust 编写的自托管记忆层，通过 MCP（stdio/SSE/Proxy）让 Claude Code、Cursor、dsh 等任意 MCP 客户端在会话启动时自动注入共享记忆。核心特性包括 BM25+向量+RRF 混合检索、MUST 级强制注入、语义去重与时间衰减、失败教训自动蒸馏，并提供 bench 命令测量有/无记忆的任务成功率差异；数据存于单个 SQLite 文件，可用本地 Ollama 做嵌入与抽取，零云端依赖。
推荐理由：README 给出了检索、注入、去重到任务级评测的完整机制说明，可作为自托管跨 Agent 共享记忆方案的选型参考。
Fate 1.0.0 发布，是一个 Windows Electron 应用，直接读写你已有的 Obsidian vault 中 Markdown 文件，提供文件、搜索、编辑器、图谱、数据库、Canvas、Planner、版本等八类界面。其 agent 记忆机制把用户原话逐字追加到 vault 内 System/stated.jsonl，下次会话开头自动带回，agent 无权写日志也无权决定是否读取；在规则陈述一次后文件被删除的测试中，开启该机制 3 次运行全部恢复规则，关闭则 0 次恢复。
推荐理由：作者把记忆写入和召回都从模型自主判断改为确定性机制，并给出开关前后的 3/3 对 0/3 恢复率对比，方法可直接参考。
Melo 是一个开源的本地优先 AI 工作区，覆盖 macOS、iPhone 和终端，对话、知识与记忆默认存本地，同步可选。用户可接入 Claude、OpenAI、OpenRouter、本地模型等自定义连接，按项目组织工作，跨对话携带上下文，并为每个 Agent 配置指令、模型与能力，支持 MCP 工具、可复用技能和多 Agent 协作。2026 年 10 月 17 日更新改进了工具兼容性、长对话上下文召回和共享项目记忆。
推荐理由：开源的本地优先 AI 工作区，对话、知识和记忆都存本地，还支持多模型接入与 Agent 协作，适合关注数据主权的读者。
开源项目 section9 发布 0.9.1，把 Claude Code 的每条提示词记录为本地 markdown 文档（vault/），通过状态机、本地仪表盘（http://127.0.0.1:9909）与 git 同步，让多个人、多台机器、多个会话续写同一份工作记录，并在会话开始时重新注入进行中的任务。支持 open→in-progress→review→done/blocked 状态流转、GitHub 仓库连接与团队邀请，含 29 种角色 agent 与 13 个 skill；验证环境为 2026-09-14、0.9.1、Linux(WSL2)、python 3，macOS 实测进行中。
推荐理由：原文给出请求状态机、会话启动注入与 git 多机同步的完整设计，可作为 Claude Code 外部记忆方案的自建参考。
Percolation Labs 在 GitHub 开源了 percolate，一套构建在 Postgres 之上的 AI 工作流引擎与 Agent 记忆系统，Agent、工作流、运行、文档及其图结构都以行的形式存储，运行轨迹可直接用 SQL 查询。
推荐理由：原文说明了把 Agent、工作流和运行轨迹全部落成 Postgres 行的设计，可直接查询运行轨迹，并给出安装与构建路径。
GitHub 开源项目 edge-context-router 在浏览器内运行，通过有界广度优先搜索从内存图结构提取最小可行上下文（MVC），并按任务复杂度做语义路由：简单任务交给本地 WebGPU 模型，复杂推理路由到 GPT-4、Claude 3.5 Sonnet 等云端 API。该项目称可节省 60-80% 云端 API 成本，示例企业负载下月成本从 $2,800 降至 $480，采用 Apache-2.0 许可证。
DevZjQx 发布 oh-my-clm，一个可加载到 Pi 的精简 live-context 扩展，参考 Facebook Research context-language-models 把当前上下文镜像到普通文件、由模型自行整理的思路。扩展在 Pi 构建 projection 时把可编辑上下文镜像到 /tmp/clm-${sessionId}/LIVE_CTX_MAIN.md，模型可通过 cleanup 工具按 block ID 删除冗余内容或同 call rewrite 缩短 block；所有编辑采用 shrink-only 策略，不能严格缩短上下文的编辑会被拒绝。
推荐理由：README 把镜像协议、编辑校验和 Pi 与 DSH 两侧持久化语义差异讲得很完整，适合想自己做上下文管理的开发者参考实现思路。
一位 SillyTavern 用户反映，安装 summaryception 扩展三天后 token 消耗剧增，约 5 小时内在 nano-gpt 上花费超过 10 美元，每条消息消耗 10-20 美分，输入 token 是输出的 25 倍。该扩展每 3 条消息生成约 200 词摘要，但似乎每次都把全部历史摘要一并发送。用户换用更便宜模型测试仍无改善，质疑这种消耗是否正常。
GitHub 上的 Story-Continuity-Copilot v1.8.0 面向中文网文，检查新章节与既有文本的矛盾和证据不足，并给出可追溯的检查结果。新增助手面板支持问作品、写前回顾和帮我改这一处，每个回答均标注出处，单任务最多 8 步、¥0.30。检查流程含初筛、分诊、复核与二次审查，基于 deepseek-flash，每章最多 5 次关键复核、2 次二次审查等上限；助手在 2026-10-19 的第四次正式评测中通过全部 18 项注册指标。
开源桌面应用 Niko Buddy 发布 v2.18.1，定位为面向 200 万至 300 万字连载小说的记忆型 AI 写作系统，核心流程为写前自动提取上下文、写后沉淀章节记忆、图谱追踪关系变化、审查系统防崩坏、人工确认定稿。v2.18.1 修复了 grok-4.7(xhigh) 对抗式审查判出的 6 条 P1 问题，v2.18.0 新增动态工作热力图、风格节奏雷达与资产联动只读诊断；技术栈为 Tauri 2 + React 19 + Rust，向量存储用 LanceDB，数据本地存储，支持 OpenAI 兼容接口与 Ollama，当前发布资产以 Windows 为主，MIT 协议开源。
eliothu2026 在 GitHub 开源代际记忆桥梁，在长辈口述时并行完成逻辑梳理、背景还原、记忆锚点可视化和追问建议。项目用合并队列解决亚秒级语音与 1-2 分钟单段分析的吞吐错配，状态存 SQLite 可断点续接，并用手写工具循环的考据 agent 调用维基检索核实史实；工程上已彻底移除 CrewAI，改为直连 DeepSeek + Pydantic。支持免 key 回放演示、本地 faster-whisper 语音转写与 0 依赖静态 HTML 演示。
开源工具 gitmind 为 Claude Code、Codex 等支持 MCP 的编码 Agent 提供持久化记忆，笔记以 Markdown 存放于 git 仓库，通过私有 GitHub 仓库在多台机器间同步，无中心服务器。每台机器运行本地 stdio MCP 服务器，每次写入即提交、启动时拉取、后台推送；提供 search_notes、write_note、project_context 等 13 个工具，配 SessionStart 与 Stop 两个 Claude Code hooks 实现自动回忆与保存提醒。云托管版 cloud/ 可基于 Cloudflare 自托管（AGPL-3.0），支持 claude.ai、ChatGPT 与团队工作区。
推荐理由：README 给出了存储结构、同步机制与工具清单，读者可以据此评估是否把这套 git 驱动的编码 Agent 记忆方案搬进自己的工作流。
bbaz123 在 GitHub 发布 Novel Studio v1.2.0（实验通道），一个本地优先的长篇小说与网文 AI 写作工具，用伏笔账本、角色状态检查和 14 层上下文组装保证百章以上连载的一致性。零 npm 依赖、数据存于单个 SQLite 文件、仅监听 127.0.0.1，可完全离线使用；LLM（DeepSeek 或任意 OpenAI 兼容端点）为可选，AI 产出以提案形式需人工确认。离线测试为 51 套件 385 断言 0 失败、55 项 CI 检查通过；实测仅覆盖 win32-x64，模型质量评测显示逐字引用可靠但价值抽取召回率约 0.26。项目地址 https://github.com/bbaz123/novel-studio。
本地笔记应用 Tessellate（前身为 MemoryMap AI）目前处于 beta 阶段，可下载使用。它通过本地 AI 自动归档、打标签并链接笔记，回答时每句话附笔记引用，数据保存在本机单个 SQLite 文件中，无需账号、云或遥测，支持 Ollama、LM Studio 或 llama.cpp 的 llama-server 作为本地模型。Agent 模式内置 72 个工具和 21 个技能，小模型模式下 4B 模型也可逐步完成任务；改名后旧版需手动迁移 %APPDATA% 数据文件夹。
Agiterra 开源 knowledge-indexer 插件（MIT 协议），在每次文件写入时自动为 Claude Code 的知识库建立索引。它通过 PostToolUse hook 为每个项目启动一个 Haiku sidecar（--model haiku），为变更文件生成一行摘要和 10–25 个关键词，并调用 vectorize.py 做增量向量嵌入，实现跨 .knowledge/ markdown 文件的语义搜索。sidecar 按项目目录哈希共享，懒启动、空闲约 1 小时后自动回收，并提供 /knowledge-indexer:start 和 /knowledge-indexer:stop 两个手动控制命令。
stancsz 发布 Sift v0.10.0，一个仅用 CPU 的 Python 库和 LiteLLM Proxy 回调，做抽取式上下文压缩，保留近期工作原文、从旧历史选取相关证据，压到可配置 token 预算（默认 24,576，最多可处理 1,000,000 输入 token），过程确定且不额外调用模型。本地 Qwen3.8-27B 的 LongBench v2 小样本诊断显示输入 token 减少 27.9%、平均 TTFT 降低 28.2%，但任务质量保持、真实成本节省和端到端提速均未确立；作者明确说明页面上的 85-96% 节省是单请求价格演算而非实测结果。项目为实验性预览，MIT 协议，尚未发布到 PyPI，需从 GitHub 安装并固定 LiteLLM 1.103.0。
推荐理由：作者同时给出基准数据、失败案例和局限声明，读者可以看到上下文压缩工具真实的收益边界而不是只看宣传数字。
CuppaTea1983 在 GitHub 发布 Leviathan，一个把语言模型直接加载进 NVIDIA 显卡显存运行的本地工具，无需服务器、云端、账号或订阅，要求 GTX 16 系 / RTX 20 系以上显卡和 CUDA 13.0 驱动。模型需转换为 .lev 格式加载，持久记忆保存为 .fqm 文件，采用原子写入防止损坏，并通过分形级联压缩使旧对话折叠、文件大小趋于平稳。工具还提供以纯文本形式存储的知识库（ANI 路由）、推理脚手架、多模型轮流协作的 Inline Studio 编码、参数化 3D 建模 Planner 与打印前检查 Fabricator，并支持 Ollama、OpenAI 兼容端点和 Grok 等托管模型。
推荐理由：本地 GPU 运行模型并附带持久记忆与知识库路由，README 详述 .lev/.fqm 两种文件格式与原子写入机制，可作本地部署方案参考。
ContextSentry 是一个本地 PreToolUse hook 和上下文优化 CLI，用于阻止 LLM 编码智能体因读取大文件而撑爆上下文窗口。其 350 行断路器拦截超长文件读取，将解析任务交给本地 llama3.2（经 Ollama）生成带行号摘要，并支持代码直接写盘；遥测引擎用 SQLite 统计拦截次数与估算的 GPT-4o 美元节省。
GitHub 上的 mrwogu/hassio-addons 仓库将多个上游项目打包为 Home Assistant 插件，支持 amd64 与 aarch64 多架构镜像，涵盖 VPN 客户端（OpenVPN、WireGuard）、PDF 处理、SSO 身份认证、工作流自动化、任务管理等应用。Renovate 每 6 小时检查上游发布，更新经 3 天缓冲、PR、适配器测试与构建后自动合并，发布不可变 GHCR 镜像。仓库集成代码采用 MIT 许可，打包应用保留各自上游许可。
Amnibro 在 GitHub 开源本地 AI 助手 Amni-Ai（Adam），采用 GF(17) 无损纹理压缩权重，4 GB VRAM 即可运行，完全离线、无需 API key。v6.12.0 的 block-spec 推测解码在重复查询上达 10–11× 单流加速、3B 模型批量吞吐约 52×，且逐 token 验证保持无损。它提供 Ollama 兼容 /api/* 与 OpenAI 兼容 /v1/* 端点及 MCP，支持闭环记忆纠错与沙箱验证的自我改进课程库，源码以 CC BY-NC 4.0 发布。
GitHub 新仓库 ModularChat - PierogiEdition 是一个本地优先的聊天应用，用 Rust 服务器承载 web 客户端，设备通过 5 分钟有效的 6 位配对码连接。providers.json 支持 OpenRouter、9Router 及本地 provider，路由以 provider:model 形式存储，API 密钥仅保存在 PC 上，手机只收配对令牌。支持葡萄牙语（巴西）和英语界面切换、vault 加密备份、-Sandbox 隔离副本及 1000000 上下文窗口的预设配置。
GitHub 上的 llm-bawt 是 BawtHub 的后端，将 bot 线程、记忆、档案和任务保存在服务端，使同一对话可在网页应用、语音和 llm CLI 间延续。核心为 8642 端口的 FastAPI 服务和 8001 端口的 MCP server，提供 OpenAI 兼容的 /v1/chat/completions 流式接口，并提供 claude-code-bridge、openclaw-bridge、codex-bridge 三种 Agent 桥接，数据由 PostgreSQL + pgvector 与 Redis 支撑。
chedim 在 GitHub 发布 membrane v0.3.4，一套面向常驻 AI 的实体域记忆系统，以超向量场存储实体、关系与断言，本地 HTTP 服务器运行在 Ollama 或 Home Assistant 之上。写入经去重、variety 门控等守卫并记录到 audit.jsonl，回放 A/B 在实际 seat 上测得 0.77 平均一致率；多 seat 共享通过 origin 命名空间实现写不相交、读合并，仓库自身字段持有约 1.4 万活跃实体。私人使用免费，商用需作者书面许可。
推荐理由：作者给出几何可读的实体域、写入审计和 0.77 回放一致性等实测数据，可对照常见向量存储式记忆的差异。
GitHub 上的 Context-Gateway 是一款代理工具，可自动压缩 AI 智能体的对话历史并只向模型发送相关数据，从而提升响应速度，支持任何通过标准 API 接入的智能体，无需编码即可配置记忆大小。软件在本地处理 AI 通信、不外传数据，支持 Windows 10+、macOS 10.14+ 和主流 Linux，最低需 2 核 64 位 CPU、4GB 内存和 500MB 存储空间，可从官方 Releases 页面下载。
MacKV-Opt 是一款面向 Apple Silicon Mac 的开源工具，通过管理 KV cache 让本地大模型支持更长的对话上下文，兼容 GGUF 格式模型和 Ollama。软件要求 M1/M2/M3 系列芯片、至少 16GB 统一内存和 macOS 13.0 及以上，支持 32k tokens 等上下文窗口的 benchmark 测试，提供 tokens-per-second 与内存用量统计，完全本地运行，数据不出设备。