新闻、仓库与研究，按时间排列。
研究者提出离群维度感知注意力线性化方法 OAL，指出少量离群维度贡献了 softmax 注意力线性化近似误差的主要部分。该方法通过 Hadamard 积形式与分组二次核保留离群维度的差异化处理，在 Qwen2.5-0.5B 上较 DiJiang 将冻结注意力输出的相对 MSE 降低约 8.9%；配合 LoRA 微调将 WikiText-103 困惑度从 31.71 降至 27.50，并提升 PIQA、HellaSwag 和 ARC-E 准确率。
arXiv 论文 UPTURN（arXiv:2610.13672）提出无需微调的推理自纠错框架：用 130K 参数 MLP 头在冻结编码器上学习失败 rollout 的干预位置，再以新用户回合注入指令并重新生成后缀。研究发现固定生成预算下行内注入无法可靠重定向推理，而新回合注入可以；在四个推理模型和六个数学基准上，UPTURN 在所有设置下平均准确率均超过 32-rollout 基线，在匹配纠错预算下优于自纠错和反思 token 注入基线，并可跨模型迁移至 GPQA-Diamond，与 GRPO 和自纠错方法互补。
推荐理由：这篇论文提出了免微调的自纠错框架，用新用户回合而非行内注入来重定向推理，并给出了跨四个推理模型与六个数学基准的验证结果。
一项 arXiv 研究重新在当前策略下估计样本难度，并设计 GRPO 分阶段课程，将活跃难度带逐步推向更难样本。GSM8K 实验中，三个随机种子下递进到中等偏难难度带使测试准确率达到 0.6591±0.0077，高于固定中等难度的 0.6449±0.0024；但进一步递进到更难难度带则降至 0.6405±0.0053。结果表明难度递进的收益是非单调的，有效课程应超越中等难度但避免过度拔高。
GitHub项目Guch1120/Local_LLM_by_using_MobilePhone发布，这是一个iOS应用，可将iPhone变成OpenAI兼容的本地推理服务器，供附近PC调用，推理数据留在设备上。项目基于LiteRT-LM v0.17.1和llama.cpp（Metal GPU后端），已在iPhone 16上验证Gemma 4 E2B文本推理，支持JPEG/PNG图像输入、USB端口转发、Hugging Face模型直接下载、诊断日志（最多500条、不记录提示词），并提供Ubuntu端辅助脚本和TestFlight部署流程。
推荐理由：原文给出了iPhone跑本地多模态模型的完整部署路径和实测机型，可作为在手机上搭OpenAI兼容推理API的可迁移方案。
YLQQQQ 发布 ExposedPath v1.4.1，研究异步 LLM 推理中的 request-visible Host–device exposure，方法链为 Raw → Canonical → S → A/B → D / Exposure Signature。Gate0–7 历史 PASS，Gate8 按工程范围 PASS，Gate9 评估已启动但最终资格仍处于 BLOCKED，Qwen A 原产物保持条件性、不授予完整 Q0 或模型科学有效性资格。日常开发仅在仓库根目录 main 进行，原始 trace、模型与服务器日志不进入 Git。
一篇 arXiv 论文提出由 analyst、coder 和 recorder 三个角色组成的多智能体 LLM 调优框架，配合实验日志与沙盒执行环境，仅自动调优指定组件而不改动网络整体结构。在五个任务上验证：MNIST 与 Digits 脉冲网络分类准确率分别提升 13 和 6 个百分点，GNLSE 单孤子解误差降低约 2491 倍、不变量保持误差平均降低超 100 倍，KS 方程质量漂移降低 14 倍。
一项受控研究在 ARC-AGI-1 上以统一协议考察预训练和测试时训练（TTT）预算对视觉风格模型 VARC 与递归模型 TRM 的影响，交叉对比五种预训练预算与四种 TTT 预算。结果显示，增加 TTT 样本呈现次数在所有设置下都提升两模型的 ARC pass@2 指标；增加 TTT 任务变体数只对 TRM 持续有益，VARC 往往在更少变体下表现更好。VARC 不预训练也保持竞争力，而 TRM 更依赖预训练，研究据此呼吁在可比预算下报告结果。
论文提出一个约束获取工具，可从输入数据及多问题实例的正负示例解中生成规模无关的约束程序。系统先基于全局约束与二元约束上的典型模式找到规模特定模型，再泛化为可运行于未见数据的规模无关模型，并输出 MiniZinc 代码与模型的文本描述。作者在 PTHG21 Challenge 示例问题上评估了该工具，验证了方法的可行性。
论文提出 HOA（Humanize Olympiads Agent），一个开源的流程级框架，通过独立审稿、结构化 wiki 和 Lean 证明验证三条反馈通道协调多个智能体会话求解奥赛题。使用 GPT-5.6 Sol 时，HOA 在 IMO、IPhO、IOI 2026 满分，IChO 2026 接近满分，PutnamBench 672 题全部解出，并以 251/304（82.6%）位居 Lean-Eval 榜首；改用开源模型 Kimi-K3 也在 IMO、IPhO、IOI 满分，IChO 达 97.1% 金牌水平，部分超过闭源 GPT-5.6 Sol + /Goal 基线。论文地址 https://arxiv.org/abs/2610.13632v1。
推荐理由：论文提出多会话协作框架替代单会话求解，并给出用开源模型逼近闭源模型奥赛成绩的对比数据，方法可迁移到其他长程推理任务。
论文提出 Multi-Stream Attention Residuals（MSAR），将 Attention Residuals（AttnRes）扩展为多头深度注意力机制，通过多尺度因果卷积从序列上下文获取流多样性，并以轻量自适应混合合并各流。在 18B 和 28B MoE 规模的全部 12 个下游基准上，MSAR 一致优于标准残差连接、mHC 和 AttnRes。Scaling-law 实验显示其相对标准残差基线实现 1.58× iso-loss 计算加速，高于 AttnRes 的 1.35× 和 mHC 的 1.30×。
santosardr 在 GitHub 开源 RIS-Kernel，一个模型无关的稀疏注意力推理引擎，可在无加速的普通 CPU（16–128 GB RAM）上运行 64k+ token 的长上下文推理，无需修改模型权重。在 Qwen2-1.5B-Instruct 上 32,768 token 受控评测中，1% 密度、70 seeds 的 RIS-Stochastic 达到 75.00% 准确率，超过原生稠密注意力的 71.88%；65,536 token 时稠密注意力会显存溢出，RIS 相对零上下文基线（51.56%）最多提升 14.06 个百分点。GPU 环境下 40k token 峰值显存从 36.2 GB 降至约 9.4 GB。
推荐理由：仓库给出了在无加速 CPU 上跑 64k+ 上下文的实测精度与内存数据，读者可以据此评估稀疏注意力方案的可用性。
arXiv 论文 zip2zip++ 提出仅改进压缩层与 LZW codec、不动底层预训练模型，来缩小 LZW 动态词表压缩带来的质量差距。方法包括解耦输入/输出动态 embedding 层、size-aware RoPE 定位以及支持选择性合并和多视角分段的改进 LZW codec。在四个模型上，该方案在所有评估语料上降低了 perplexity 并提升数学推理准确率，在相近压缩比下弥合约一半与未压缩基线之间的质量差距。
AudioTETRIS 是一个 training-free 的两阶段框架，利用音频编码器的表示几何作为声学先验，计算逐 token 融合分数并跨 decoder 层进行渐进式 top-k token 选择。在 Qwen2-Audio-7B、Phi-4-Multimodal 和 Audio Flamingo 3 上，仅用 25% 音频 token 即可在多项语音任务上保持接近未压缩的性能，并在中等压缩率下达到或超过全 token 准确率，持续优于现有 training-free 基线。
arXiv 论文提出多智能体框架 MENTOR，针对 RLVR 训练中的“零奖励坍缩”问题，实时诊断失败根因并动态生成针对性教学提示词，引导学习智能体的下一次尝试。它作为即插即用模块可无缝集成到 GRPO 等策略优化管线，无需改动训练基础设施。数学与代码生成实验显示其优于 SOTA 基线，Llama-3.2-3B-Instruct 相对基座模型平均相对提升最高达 78.3%。
一位 r/LocalLLaMA 用户下单了 Epyc 7443（24 核 48 线程）、H12SSL-NT-B 主板和 256GB 2666MHz 内存，并搭配四块 GPU（3090、5070 Ti、2×5060 Ti）共 72GB VRAM。升级将把四块 GPU 的 PCIe 带宽翻倍，内存带宽从 96GB/s 提至约 170GB/s 理论值（实测预期约 110GB/s），总显存加内存达 328GB，可运行 GLM5.3-flash 及 Qwen3.8-flash-next 的大量化版本。
molab-cli 是一个开源命令行工具，可将本地轻量环境（如 Android Termux、笔记本或 CI/CD runner）直接连接到 MoLab 与 CoreWeave 上的 NVIDIA RTX PRO 6000 Blackwell（96GB VRAM）GPU pod，不占用本地存储。它通过 Marimo HTTP/2 端点实现 80+ MB/s 流式传输，内置基于 SQLite 的后台任务引擎、多 pod 批处理调度，并提供官方 MCP Server（19 个类型化工具）和 Python SDK，供 Cursor、Claude Desktop 等 AI 智能体自主操作云 GPU。
Yaning Fan 在 GitHub 发布 ChemHazard-LLM 的仅代码可复现包，涵盖五个开源大模型的 zero-shot 与 LoRA 筛选、种子 123/777/2025 的三成员集成、Bemis-Murcko 骨架评估及 NITE Japan-GHS 外部测试集流程。数据目录、模型权重和 LoRA 适配器不随包分发，完整复现历史分数需按 DATA_REQUIREMENTS.md 自行获取输入。代码采用 MIT License，计划通过 GitHub-Zenodo 集成归档发布。
该 arXiv 论文提出 Step-wise Truncation Probing（STP）方法，在固定采样推理轨迹的多个保留前缀上重复生成答案，以刻画模型-任务层面的过度思考现象，并定义 Overthinking Ratio 与 Accuracy Degradation 两个指标。论文将动态路由、固定预算和动态提前退出纳入统一框架，基于 STP 测量为各策略构建 token-精度 Pareto 前沿。作者还开发了可复用基准 OTBench，覆盖 70.5B 推理 token、六个模型和四组基准。
CUCUMBER 是一个泰语课程信息问答系统，由 LLM 负责解读用户问题语义，课程代码、学分、学年/学期、学习计划和先修课等事实则只来自 SQLite 数据库与已核验证据，证据不足时以 fail closed 方式拒答。系统采用 semantic-intent/v4 intent 契约和 semantic-interpreter/v15 提示词，支持 AIT、BIT、DSBA、GENED、IT 五个课程体系，可回答学分统计、多方案对比、选修组要求等问题，并提供 Web UI、API 与 CLI 三种使用方式。
GitHub 上的 bunway 是一个基于 Bun 的自托管 LLM 网关，单容器部署、零运行时依赖，提供 OpenAI 兼容 API。它支持按优先级的故障转移（4xx/5xx 分类并将不可用上游置入冷却）、SQLite 按 token 计费（含 input/output/cache read/cache write）和内置控制台。项目以 MIT 许可开源，demo 无需 API key 即可体验。
GitHub 上的 fastInfer 是一个处于早期开发阶段的实验性 LLM 推理运行时，核心方向是自定义 Triton GPU 内核和可复现的性能测量。目前仅实现了 PyTorch 矩阵乘法参考实现、CPU 正确性测试、CUDA-event 基准和环境报告脚本，首个 Triton 内核与 serving 组件尚未实现，也未发布任何 GPU 性能结果。基准默认对 1×256 与 256×256 矩阵做 float16 乘法，包含 10 次 warmup 和 30 次计时重复，要求 Python 3.10+。
KRLabsOrg 开源 verbatim-rag，一个溯源优先的抽取式 RAG 工具包，通过检索文档、抽取相关片段并带引用返回原文摘录来缩小生成面。其 150M 参数 ModernBERT 抽取器在 100 行 ACL-Verbatim 基准上取得 53.6 micro Word-F1，高于最强受测 LLM 抽取器的 48.7；README 强调这是溯源保证而非真实性保证，并支持 SPLADE 加本地抽取器在 CPU 上免 LLM API 运行，同时发布了数据集、训练管线与 MIT 许可的推理代码。
推荐理由：原文给出了抽取式 RAG 的架构、基准数字与部署方式，可帮助读者了解用逐字引用约束生成面的具体做法。
Ubastic 发布 llm-relay，一个仅需 Node ≥ 18、零依赖的本地 LLM API 中转代理，默认监听 http://localhost:8788。它把多个平台的 key 池化，无余额、无效、封禁的 key 自动剔除，限流 key 冷却 60 秒并带 ±25% 抖动，并发按 LRU 分摊；同时打通 OpenAI 与 Anthropic 两种协议（含 reasoning_content 与 thinking 互转、工具调用），支持 http/https/socks5 出站代理、配置导入导出与管理页密码保护，并提供 mock 上游等多套自测脚本。项目地址 https://github.com/Ubastic/llm-relay
Nakano-official 在 GitHub 发布 Loop-Engine，一个让 AI 自主运行实现循环而不依赖测试自申告或权限越权的实验性执行基座，将 Planner、Runner、Solver、Critic 四个角色分离并用 uid 隔离权限。Runner（runner/loop.py，约2400行，仅标准库）已实现，2026-08-21 完成从6行需求到11步、零人工介入的完整执行；2026-09-01 用本地 Qwen3.5-9B（RTX 2060 6GB、41.6 tok/s）替换 Codex 作 Solver 的对照实验中，两者均为 11/11 绿灯、48件测试通过、零人工介入，本地模型耗时15分12秒反而快于 Codex 的19分37秒。
推荐理由：原文给出了完整的设计原则、角色分离方案和两组对照运行数据，读者可以据此评估不依赖自申告测试的 AI 实现循环是否可行。
开发者 vladimirrott 在 GitHub 发布 mojo-dllm，用 Mojo 语言实现的推理栈在 CPU 上运行扩散语言模型 LLaDA-8B 与 Dream-7B，无需 Python 和 GPU，从量化 GGUF 文件加载。
推荐理由：作者用同一台 CPU 上与 llama.cpp、diffuse-cpp 的对照数据和 CI 强制的可复现基准，让读者能核实 Mojo 实现的真实性能。
一项 arXiv 研究发现 S-Space——多模态语言模型（MLLM）内部一个线性表示子空间，其中 object-token 表示编码水平、垂直和距离轴上的连续坐标，充当模型的内部空间工作空间。因果干预表明感知将物体位置编码其中，内部推理在其中变换视角，语言响应选择性读取它。诊断进一步显示 MLLM 能形成有效的空间表示，但在视角变化所需的空间变换上存在关键瓶颈。
开源 Go CLI 工具 callm 发布，编译为单个静态二进制，可跨多个 OpenAI 兼容网关调用 LLM，内置 DeepSeek、OpenRouter、Anthropic、Kimi Code、智谱、千问、OpenAI、Groq、Ollama 等 13 个以上供应商预设。支持 SSE 实时流式输出、推理字段展示与 --parse-think 解析内联 <think> 标签、--stats 显示延迟与 token 统计、模型目录浏览与 Zed/Kilo/Continue 配置导出，默认供应商为 Poolside（poolside/laguna-s-2.1）。工具对密钥解析优先级、当前目录 .env 默认不加载以防密钥重定向、以及 v0.10.0 对截断和拒绝输出的失败处理均有明确规则。
mosenet-labs 发布 llmproxy，一个基于 Pingora 的 LLM Provider 代理，单进程单端口提供 OpenAI、Anthropic 和 Gemini 原生协议入口，并用 Topcoat 构建 Providers、Models、Model Routes 控制台。网关按模型标识或显式路由名称选择上游模型与 Provider，支持 HTTP/SSE 转发；调用需虚拟 Key，按资源组隔离管理，模型调用与 /models 列表均要求配置新 Key。数据默认存于 ./data/llmproxy.sqlite3，也支持 PostgreSQL；/v1/auto 协议自动识别尚未实现。
dagoalguez 发布 quipullm 4.2.x 早期版本，一个自托管 LLM 服务器，推理引擎用 WebGPU（WGSL + JavaScript）从头编写并运行在浏览器窗口内，后端为纯 Python 标准库，无需 pip、npm、二进制或 Docker。它读取标准 GGUF 文件，提供 OpenAI 兼容 API 和聊天页面，每个架构与 llama.cpp 逐数值比对验证（logit 相对误差低于 2e-3）。实测 Intel UHD 核显上 LFM2 350M 为 44.3 tok/s、Gemma 3 4B 为 5.3 tok/s；AMD、Apple 等硬件未测，无 TLS，且一次只服务一个请求。
推荐理由：一个从零用 WebGPU 写的浏览器内推理引擎，验证方法和已测硬件的局限都写得很坦白，适合研究本地部署的人参考。
MiddlePathLabs 发布 gufo-dashboard，一个用于 Gufo 推理服务器的本地统计面板，支持 HTTP、SSE 和 WebSocket 代理，可跟踪 token 用量、吞吐、延迟、cache 命中与投机解码数据。数据存储于 SQLite，可选问答文本捕获（默认关闭），推荐 Gufo 0.5.0 以上版本（已验证 0.10.0）。项目用 Python 或 Docker 运行，无内置认证和 TLS，默认绑定 0.0.0.0，仅面向可信本机和私有网络部署。
研究者提出归因框架 Explanatory World Models（EWM），用前沿语言模型生成的解释替代按时间邻近性传播奖励的方式，识别促成最终结果的早期事件。在 Crafter 和 WordCraft 上 EWM 大幅超越 PPO 与 LaRe，奖励越延迟收益越大；在 KuaiRand 上离线优于 SFT 与 LaRe，在线优于 A2C，并在工业级生成式推荐器离线评估中提升 Recall。
开源项目 MineGuard AI 是面向重型采矿作业的领域专用 AI 监控平台，用 YOLOv8 实时检测 PPE 违规，并由 LangChain 与 Google Gemini 驱动的 Agentic RAG 审计器对照 Mines Act, 1952、CMR、MMR 及 DGMS 通报自动生成法定违规日志。项目还提供交互式法规问答 Copilot 和 Streamlit 界面，置信度阈值为 0.50，采用 MIT License 开源，需配置 Google AI Studio 的 API key。
论文提出 Humanize MLE Agents（HMA），通过两个智能体在共享工作区上交替执行、每会话最多 k 次实验并重置上下文，避免单会话长程减速和自定义 harness 随模型升级失效的问题。在 MLE-bench 的 75 个 Kaggle 任务上，HMA 达到 78.2% 的 any-medal 率，超过最强开源基线 8.0 个百分点且只用其四分之一时间预算；跨五种异构智能体对的六种配置平均提升 6.4 个百分点，另有核优化案例达到 878 个周期、距社区榜首 1.6%。
推荐理由：论文给出双智能体会话轮换的 CR-SMDP 理论条件与 75 个 Kaggle 任务实测数据，读者可据此评估工作流级方法相对单智能体的优势边界。
腾讯在 Hugging Face 开源 Youtu-Parsing-Omni，一个 5B 全模态解析模型，单次输入文档页、自然图像、图表、流程图、几何图形、音频或音视频，按任务提示词输出统一 JSON 结构，覆盖版面、表格、公式、ASR、OCR、声学事件等感知结果与描述类认知结果。模型在 OmniDocBench v1.6 拿到 96.96 Overall，OmniParsingBench 平均 75.08 为最佳开源权重模型（仅次于 Gemini-3-Pro），并附带 vLLM 插件与推理示例。
推荐理由：原文给出了 5B 尺寸模型在 OmniDocBench v1.6 和 OmniParsingBench 上的具体分数，可据此评估它的文档与多模态解析水平。
研究者提出 BranchOPD（Branching On-Policy Distillation），基于学生不确定性与师生分歧选择信息量大的决策点，从共享前缀分支重采样并对主轨迹与分支施加 token 级教师监督。共享前缀复用使学生生成 token 开销在 ALFWorld 和 WebShop 上分别降低约 19% 和 31%（相对 7 条独立轨迹）；相比 Vanilla OPD，平均数学准确率（avg@16）提升 18.55 个百分点，ALFWorld ID/OOD 平均成功率提升 13.8 个百分点。
Lumen——一款面向 Apple Silicon（Metal）的 GPU 常驻 LLM 推理引擎——现可通过 Homebrew 安装，执行 brew tap faisalmumtaz89/lumen 和 brew install lumen 即可。tap 中的 Formula/lumen.rb 由 Lumen 的 release workflow 随每个 GitHub Release 重新生成，包含 tarball 的 URL、版本号和 sha256。
grounded-llm 项目研究 LLM 能否通过 cross-attention 读取并利用显式状态地图，以改善动作选择与长程任务完成。当前实验冻结 Qwen2.5-1.5B-Instruct 和地图，只训练读取接口；寻路沿用地址 K 与状态 V 分离方案，积木任务加入融合 FFN 和失败上下文重新训练，答案限 Top-10。项目还公布了大 batch 负结果与小 batch 证据状态等本轮结果。
作者开源了 chemq，一个面向化工厂运营数据的自然语言分析系统，以六周课程形式组织，基础设施完整可用，router.py、text2sql.py、rag.py、agents.py 四个模块留作练习，参考实现放在 ai/solutions/。系统用 SQL 语义视图固化指标定义，LLM 只能查询视图；SQL 防护由意图分类、sqlglot AST 校验的 sqlguard、只读角色加 RLS 三层组成，验证了只读账号可读语义视图、被拒写 fact_* 明细表。评测金标准答案由参考 SQL 生成，CI 以 100% 拒答准确率为门槛；实测显示提示词更短的"便宜"模型因 4,096-token 缓存下限反而贵 5 倍。合成数据含 12 个月数据并植入四类异常供检测测试，MIT 许可。
Pablo Manrique 等在 arXiv 发布 SqueezeBench，一个抗饱和的数学能力基准，每题固定一个仅在小区间取值已知的整数函数 f(n)，提交者用机器证明的 Lean 函数给出更优上下界记录，成功会抬高门槛而非移除题目。基准附带极值组合学十个问题和二十个初始记录，前沿模型代理每记录限 1 小时通过 82 次提交改进全部记录；两个更新模型接续又通过 60 次提交改进了 20 个记录中的 19 个。10 个问题中有 8 个仍至少有一个记录渐近落后于已发表最优界。
推荐理由：提出以记录递进式构造衡量数学能力，缓解基准饱和问题，并给出多代模型代理的实测数据。
论文提出 Oído 推理引擎，在 ESP32-S3（240 MHz 双核、512 KB SRAM、无神经加速器）上运行 13M 参数 Conformer-CTC int8 模型，实现开放词表英语语音识别。LibriSpeech test-clean/test-other 片上 WER 为 3.70%/8.23%，加 1.3M 参数语言模型后降至 3.33%/7.15%，transducer 头达 2.99%/6.67%，比同芯片厂商识别器少 2.3-2.8 倍错误，也优于笔记本全精度 Whisper 与 Moonshine tiny。
推荐理由：论文给出了在无神经加速器的 ESP32-S3 上跑开放词表语音识别的完整方案和实测 WER、耗时数据，方法与测量细节都可复现。