跳到正文
10月6日周二
  1. arXiv · cs.AI30

    分层强化学习实现欠驱动双足机器人无碰撞运动

    一项研究提出分层强化学习(HRL)框架,让每腿四个驱动关节、无髋踝侧摆的欠驱动双足机器人在避障时保持平衡。高层策略每十个控制步输出机体速度指令,低层策略用 SAC 联合训练跟踪指令。在 PyBullet 随机环境每方法 100 次评估中,静态场景成功率 98.0%、动态 88.0%,高于 SAC+A* 等规划器混合基线的 78.0% 和 68.0%,路径长度与 A* 参考相差在 4% 以内。

  2. arXiv · cs.CL52

    uTTT:跨层共享测试时记忆的 Universal Test-Time Training 架构

    论文提出 Universal Test-Time Training(uTTT),让所有层读写同一份在线更新的共享记忆,使记忆在时间与深度两个维度上循环,并给出 uTTT-MoE 与 uTTT-Dense 两种实现。

    推荐理由:论文提出让各层共享同一测试时记忆的 uTTT 架构,并给出 RULER 与新视角合成数据,可对照层私有记忆方案评估收益。

  3. arXiv · cs.CL58

    Attention Relay:无需训练让文本嵌入模型获得指令感知能力

    arXiv 论文(arXiv:2610.05564)提出 Attention Relay 方法,将指令微调 LLM 产生的注意力权重传递给 Transformer 嵌入模型自身的注意力,使嵌入模型无需训练即可遵循任务指令。

    推荐理由:论文提出无需训练的 Attention Relay,把 LLM 注意力权重传给嵌入模型,并在多个模型族组合上验证了指令感知效果。

  4. arXiv · cs.CL52

    CoBPE 组合式 tokenization 论文:序列缩短 30%,下游平均提升 1.2 分

    Yuval Reif 在 arXiv 发布论文(arXiv:2610.05597,COLM 2026),提出组合式 tokenization 方法 CoBPE,将短语表示为词元基础 token 加一组可复用表面修饰符,在嵌入空间组合并在输出端联合预测。在 780M 和 1.3B 规模的从零对照预训练中,CoBPE 在相同训练算力下将序列缩短 30%,下游平均性能较标准 BPE 提升 1.2 分。

    推荐理由:论文给出 780M 与 1.3B 两个规模的对照预训练数据,读者可以据此评估组合式 tokenization 在等算力下的实际收益。

  5. arXiv · cs.CL39

    Atomic Visual Entailment:通过原子事实分解与学习选择增强零样本视觉语言推理

    论文提出 Atomic Visual Entailment(AVE),将视觉蕴含假设分解为原子事实,用冻结的视觉语言模型生成候选预测,再由轻量分类器学习选择最终标签。该方法在 SNLI-VE 上达到 0.803 测试准确率,无需微调任何视觉语言模型,且无需区域级监督即可定位视觉证据。研究发现分解仅在保留假设上下文时有效,学习选择比多数投票更能恢复互补错误的价值。

  6. arXiv · cs.CL42

    Plan Canvas:为连续语言流固定推理区域

    Plan Canvas 通过在目标画布上固定推理轨迹与答案的边界,解决连续语言流去噪生成中轨迹长度不定、答案起点未知的问题。在 backbone 与画布长度与自由轨迹基线相同的条件下,Deep ProsQA 准确率从 73.0% 提升至 87.0%,有效路径回答占比从 30.8% 升至 59.1%,最长证明上收益最大。

  7. GitHub · 去对齐工具与仓库57

    Operonx 开源工作流引擎发布,同一 async DAG 兼顾批处理与流式语音流水线

    batman1m2001-cyber 在 GitHub 发布 Operonx,一个支持 yield 的 async DAG 工作流引擎,同一套图可跑 Airflow 式批任务和 VAD → STT → LLM → TTS 的流式语音流水线。

    推荐理由:原文给出了 yield 流式调度、多供应商 LLM 一行切换和内置追踪等具体设计,读者可据此评估是否用于自己的流水线。

  8. Reddit · r/LocalLLaMA63

    KLIF 发布:一个窗口加 CLI 统一管理 llama.cpp、vLLM 等本地模型服务

    /u/Koksny 发布了本地模型服务前端管理工具 KLIF(MIT 协议,Rust 编写,AMD 优先),可将 llama.cpp、sd.cpp、vLLM、TTS 等本地推理后端集中到一个窗口和 CLI 管理,支持通过 web 面板操作,并能让 agent 按需开关后端而无需说明各服务端口。

    推荐理由:原文讲清了 KLIF 不带后端和权重、只做前端管理的定位,以及让 agent 按需开关本地后端的用法,便于判断是否适合自己的工作流。

  9. GitHub · 去对齐工具与仓库64

    开源模型路由网关 SMG 发布,统一管理多引擎与云厂商流量

    smg-project 在 GitHub 发布 Shepherd Model Gateway(SMG),一个面向大规模 LLM 部署的模型路由网关,用 Rust 编写,支持 vLLM、SGLang、TensorRT-LLM、MLX 等自托管引擎及 OpenAI、Anthropic、Gemini、xAI 等云厂商,统一为一个端点。

    推荐理由:原文列出了10种路由策略和缓存感知调度的具体实现,面向大规模LLM部署的读者可对照自身架构评估是否适用。

  10. GitHub · 去对齐工具与仓库67

    Local-LLM-Launcher-GUI 发布:基于 vLLM 与 llama.cpp 的本地模型浏览器控制面板

    jimdawdy-hub 发布 Local-LLM-Launcher-GUI,一个基于 vLLM 和 llama.cpp 的浏览器本地控制面板,用于在自有硬件上下载和运行大语言模型。

    推荐理由:作者基于 vllm-cli 做出带内存预估和红绿灯提示的本地模型启动面板,对不想反复试错参数的本地部署用户有直接参考。

  11. GitHub · 灵魂体仓库52

    iyulab 开源 IndexThinking:面向推理模型的 LLM 集成工作记忆管理库

    iyulab 在 GitHub 开源 IndexThinking,一个面向具备推理能力大语言模型的单轮工作记忆管理库,MIT 协议。核心功能包括截断自动续写(WasTruncated 标记)、统一各厂商思考格式的推理提取、会话级上下文滑动窗口、token 用量追踪与截断 JSON/代码块修复;提供内存、分布式缓存和可选 SQLite 状态存储。

  12. GitHub · 灵魂体仓库66

    Handoff Router 开源:单 GPU 多推理引擎的 VRAM 交接路由

    idawz07 发布开源工具 Handoff Router,提供 OpenAI 兼容端点,把 llama.cpp、vLLM、SGLang、Strata、NInfer 等本地模型服务器作为后端统一管理,按请求中的 model 字段在引擎间交接 GPU。

    推荐理由:原文明确了它和 llama-swap、Ollama 等换模型工具的差异,管理单位是引擎而非模型,适合单卡多引擎互斥的场景。

  13. GitHub · 去对齐工具与仓库69

    Apertura:基于 MLX 的 Gemma-4 Objective-C++ 本地重建项目发布

    apocryphx 发布 Apertura,一个用 Objective-C++ 基于 MLX 从零重建的 Google Gemma-4 推理引擎,可在 Apple Silicon Mac 上完全本地运行 Gemma-4 全部文本系列模型,推理时不依赖 Python 和云端。

    推荐理由:原文给出了与 PyTorch 参考实现逐算子对齐的实测数据,以及与 llama.cpp 的吞吐对比,可据此评估这个本地推理重建的忠实度。

  14. Reddit · r/LocalLLaMA60

    IceFog72 发布 ik_llama.cpp 分支:MoE 专家常驻与混合 CPU/GPU 执行优化

    /u/IceFog72 发布 ik_llama.cpp 分支,加入带宽自适应 CPU/GPU 混合执行、专家常驻(expert residency)、jadidbourbaki 的 n-gram cache 优化适配以及 Q2_0 量化支持,可用 --moe-resident auto --moe-resident-mib N 控制常驻专家占用的 VRAM 上限。

    推荐理由:作者在自建 RTX 2060 6GB 环境给出前后对比数据,读者可据此判断这套 MoE 常驻专家方案是否适合自己的瓶颈场景。

  15. GitHub · 去对齐工具与仓库47

    SchemaRouter 0.16.0 发布:面向 LLM/RAG Agent 的类型化能力检索与 schema 感知执行层

    开源项目 SchemaRouter 发布 0.16.0 稳定版(Beta/pre-1.0),为 LLM/RAG Agent 提供类型化能力检索与 schema 感知执行层,将异构 schema 编译为统一能力模型并在执行时二次校验。它支持 OpenAPI、MCP、GraphQL 等协议,可接入 SQLite、Qdrant、Neo4j、Elasticsearch 等多类数据源,并在检索和执行前应用 deny-by-default RBAC/ABAC 策略。项目以 MIT 许可开源,支持 Python 3.10–3.14,可通过 pip install schemarouter 安装。