分层强化学习实现欠驱动双足机器人无碰撞运动
一项研究提出分层强化学习(HRL)框架,让每腿四个驱动关节、无髋踝侧摆的欠驱动双足机器人在避障时保持平衡。高层策略每十个控制步输出机体速度指令,低层策略用 SAC 联合训练跟踪指令。在 PyBullet 随机环境每方法 100 次评估中,静态场景成功率 98.0%、动态 88.0%,高于 SAC+A* 等规划器混合基线的 78.0% 和 68.0%,路径长度与 A* 参考相差在 4% 以内。
新闻、仓库与研究,按时间排列。
一项研究提出分层强化学习(HRL)框架,让每腿四个驱动关节、无髋踝侧摆的欠驱动双足机器人在避障时保持平衡。高层策略每十个控制步输出机体速度指令,低层策略用 SAC 联合训练跟踪指令。在 PyBullet 随机环境每方法 100 次评估中,静态场景成功率 98.0%、动态 88.0%,高于 SAC+A* 等规划器混合基线的 78.0% 和 68.0%,路径长度与 A* 参考相差在 4% 以内。
一篇 NeuRIPS MATH-AI Workshop 2026 论文提出 Discovery–Execution(DE)框架,用短预算运行预测数学推理随算力扩展的曲线。
Zaiquan Yang 等在 arXiv 发布论文(arXiv:2610.05373),提出 Un-OPD 框架,解决块扩散语言模型(BDLM)在线蒸馏中的两类优化偏差:师生块边界不匹配导致的上下文错位,以及高支持度信号被快速吸收引发的过度自信坍缩。
论文提出 Harness-Search,一个多智能体搜索 harness,将提出检索动作、更新持久状态和决定停止三个职责拆分给 Retrieval Policy、Memory Operator 和 Summary Auditor,构成 Propose-Commit-Audit 循环,以减少单智能体在长程搜索中丢失未解决问题或过早终止的问题。
一项基于 Llama-3.2-1B-Instruct 的消融研究通过 360 组受控实验,在 BANKING77 和 CLINC150 数据集上比较了 mean、max、last-token、attention 及 FFT 增强等池化策略在干净与噪声条件下的意图分类表现。
论文提出 Universal Test-Time Training(uTTT),让所有层读写同一份在线更新的共享记忆,使记忆在时间与深度两个维度上循环,并给出 uTTT-MoE 与 uTTT-Dense 两种实现。
推荐理由:论文提出让各层共享同一测试时记忆的 uTTT 架构,并给出 RULER 与新视角合成数据,可对照层私有记忆方案评估收益。
arXiv 论文(arXiv:2610.05564)提出 Attention Relay 方法,将指令微调 LLM 产生的注意力权重传递给 Transformer 嵌入模型自身的注意力,使嵌入模型无需训练即可遵循任务指令。
推荐理由:论文提出无需训练的 Attention Relay,把 LLM 注意力权重传给嵌入模型,并在多个模型族组合上验证了指令感知效果。
一项 NeurIPS 2026 研究提出 expansion utility 指标,衡量在已有推理链的哪个存储步骤重启续写能提升正确性,覆盖 9 个模型、6 个 benchmark 共 41 组组合。
Yuval Reif 在 arXiv 发布论文(arXiv:2610.05597,COLM 2026),提出组合式 tokenization 方法 CoBPE,将短语表示为词元基础 token 加一组可复用表面修饰符,在嵌入空间组合并在输出端联合预测。在 780M 和 1.3B 规模的从零对照预训练中,CoBPE 在相同训练算力下将序列缩短 30%,下游平均性能较标准 BPE 提升 1.2 分。
推荐理由:论文给出 780M 与 1.3B 两个规模的对照预训练数据,读者可以据此评估组合式 tokenization 在等算力下的实际收益。
DREAM 是一种改进多模态多智能体辩论(MAD)的方法,通过零样本探测轮为每个智能体动态分配最优视觉分辨率,并用基于 ANLL 的不确定性回滚聚合对抗群体思维。在六个多模态数据集上,DREAM 无需数据集特定调优即可将准确率较多智能体辩论基线提升 1.5-3.2%。
论文提出 Atomic Visual Entailment(AVE),将视觉蕴含假设分解为原子事实,用冻结的视觉语言模型生成候选预测,再由轻量分类器学习选择最终标签。该方法在 SNLI-VE 上达到 0.803 测试准确率,无需微调任何视觉语言模型,且无需区域级监督即可定位视觉证据。研究发现分解仅在保留假设上下文时有效,学习选择比多数投票更能恢复互补错误的价值。
arXiv 论文 2610.05685 提出 BreadthKV,研究长链式推理(CoT)解码时在固定内存预算下如何分配 KV 缓存的 token 数量与精度。
推荐理由:论文用 60 题端到端校准决定位宽分配,并给出 AIME 上 91% 对 40% 的触顶率对比,方法与数据都可复现。
arXiv 论文 2610.05774 提出 AdaSpark,一种在服务过程中在线学习验证宽度与候选接受概率的 DSpark 树验证调度器,无需预先 profile、校准或扫描。
推荐理由:论文给出在线学习调度器在多个数据集和目标模型上的加速对比,无需预先 profile 或校准即可接近最优树宽。
Plan Canvas 通过在目标画布上固定推理轨迹与答案的边界,解决连续语言流去噪生成中轨迹长度不定、答案起点未知的问题。在 backbone 与画布长度与自由轨迹基线相同的条件下,Deep ProsQA 准确率从 73.0% 提升至 87.0%,有效路径回答占比从 30.8% 升至 59.1%,最长证明上收益最大。
该论文将大语言模型的文本修订建模为博弈问题:token 位置为玩家、词表为动作、效用为模型对数条件概率,并证明 Nash 均衡的似然可随序列长度增长而指数级高于自回归输出。
论文提出 Hybrid Linear Attention(HLA),一种面向 Gated DeltaNet 的查询依赖分块级注意力机制,将已完成分块表示为精确仿射状态转移,并用内容依赖路由门控插值历史转移与恒等映射,辅以有效支持正则化。
batman1m2001-cyber 在 GitHub 发布 Operonx,一个支持 yield 的 async DAG 工作流引擎,同一套图可跑 Airflow 式批任务和 VAD → STT → LLM → TTS 的流式语音流水线。
推荐理由:原文给出了 yield 流式调度、多供应商 LLM 一行切换和内置追踪等具体设计,读者可据此评估是否用于自己的流水线。
Rapid-MLX 是基于 MLX 的开源(Apache 2.0)LLM 推理服务器,兼容 OpenAI 和 Anthropic API,主打编码智能体所需的可靠工具调用。
GitHub 开源仓库 HowLLMsWork 用 Python 和 NumPy 从零实现 LLM 核心机制,涵盖 tokenization、因果语言建模、自回归生成与 KV cache 推理。
/u/Koksny 发布了本地模型服务前端管理工具 KLIF(MIT 协议,Rust 编写,AMD 优先),可将 llama.cpp、sd.cpp、vLLM、TTS 等本地推理后端集中到一个窗口和 CLI 管理,支持通过 web 面板操作,并能让 agent 按需开关后端而无需说明各服务端口。
推荐理由:原文讲清了 KLIF 不带后端和权重、只做前端管理的定位,以及让 agent 按需开关本地后端的用法,便于判断是否适合自己的工作流。
作者在 RX 580 8GB 上用 Mesa RADV 的 Vulkan 路线绕开已放弃 Polaris 的 ROCm,通过 OpenAI 兼容路由在单卡上运行 qwen2.5-coder 1.5B/7B。
推荐理由:作者用 Vulkan 绕开 ROCm 对 Polaris 的放弃,在 RX 580 8GB 上跑通多模型并给出完整实测数据,方法可迁移到同类老卡。
smg-project 在 GitHub 发布 Shepherd Model Gateway(SMG),一个面向大规模 LLM 部署的模型路由网关,用 Rust 编写,支持 vLLM、SGLang、TensorRT-LLM、MLX 等自托管引擎及 OpenAI、Anthropic、Gemini、xAI 等云厂商,统一为一个端点。
推荐理由:原文列出了10种路由策略和缓存感知调度的具体实现,面向大规模LLM部署的读者可对照自身架构评估是否适用。
mattx86 在 GitHub 发布 rustllama,一个 Rust 编写的 LLM 推理运行时,支持系统内存与显存混合卸载、OpenAI 兼容 HTTP 服务、CLI 和原生 egui GUI,全部打包为单一二进制,不依赖 llama.cpp。
jimdawdy-hub 发布 Local-LLM-Launcher-GUI,一个基于 vLLM 和 llama.cpp 的浏览器本地控制面板,用于在自有硬件上下载和运行大语言模型。
推荐理由:作者基于 vllm-cli 做出带内存预估和红绿灯提示的本地模型启动面板,对不想反复试错参数的本地部署用户有直接参考。
Apache 基金会推出 llmao,即 llm.apache.org 的 LLM 网关控制平面实现,用户以 ASF 账号登录并管理 PAT,推理经 LiteLLM 代理完成。
开源项目 long-horizon-cpu-llm 让用户无需 GPU、在普通 x64 CPU 上运行长上下文大语言模型,支持 GGUF 和 Hugging Face Transformers 格式,并提供基于 Streamlit 的可视化界面。
MeshCompute 是一个免费开源的去中心化项目,让普通电脑通过互联网联合运行原本需要高端 GPU 的大型语言模型(如 Llama)。
iyulab 在 GitHub 开源 IndexThinking,一个面向具备推理能力大语言模型的单轮工作记忆管理库,MIT 协议。核心功能包括截断自动续写(WasTruncated 标记)、统一各厂商思考格式的推理提取、会话级上下文滑动窗口、token 用量追踪与截断 JSON/代码块修复;提供内存、分布式缓存和可选 SQLite 状态存储。
idawz07 发布开源工具 Handoff Router,提供 OpenAI 兼容端点,把 llama.cpp、vLLM、SGLang、Strata、NInfer 等本地模型服务器作为后端统一管理,按请求中的 model 字段在引擎间交接 GPU。
推荐理由:原文明确了它和 llama-swap、Ollama 等换模型工具的差异,管理单位是引擎而非模型,适合单卡多引擎互斥的场景。
apocryphx 发布 Apertura,一个用 Objective-C++ 基于 MLX 从零重建的 Google Gemma-4 推理引擎,可在 Apple Silicon Mac 上完全本地运行 Gemma-4 全部文本系列模型,推理时不依赖 Python 和云端。
推荐理由:原文给出了与 PyTorch 参考实现逐算子对齐的实测数据,以及与 llama.cpp 的吞吐对比,可据此评估这个本地推理重建的忠实度。
vLLM 是源自 UC Berkeley Sky Computing Lab 的开源 LLM 推理与 serving 库,已有超过 2000 名贡献者参与维护。
sunerpy 在 GitHub 发布 bedrock-gateway-rust,一个用 Rust 编写的 OpenAI 兼容 HTTP 网关,单个静态链接二进制即可将 Chat Completions、Responses、Completions 和 Embeddings 请求路由到 AWS Bedrock,现有 OpenAI SDK 和 agent 零代码改动接入。
/u/IceFog72 发布 ik_llama.cpp 分支,加入带宽自适应 CPU/GPU 混合执行、专家常驻(expert residency)、jadidbourbaki 的 n-gram cache 优化适配以及 Q2_0 量化支持,可用 --moe-resident auto --moe-resident-mib N 控制常驻专家占用的 VRAM 上限。
推荐理由:作者在自建 RTX 2060 6GB 环境给出前后对比数据,读者可据此判断这套 MoE 常驻专家方案是否适合自己的瓶颈场景。
Aleph__Alpha 的 Kolibri-1 在无微调的情况下自主玩 Breakout,实验测试其在约束条件下的结构化输出能力。推理针对动作概率优化,每步决策约 25ms,无文本生成,采用开放权重。
GitHub 仓库 srirsatt/CUDAinference 是一个专注于 CUDA C++ 大语言模型推理的学习日志项目,使用三块 GPU:NVIDIA t1000(8GB VRAM)、NVIDIA a5000(24GB VRAM)和 NVIDIA H100(80GB HBM3 VRAM)。目前仓库尚无 stars、watchers 和 forks。
开源项目 SchemaRouter 发布 0.16.0 稳定版(Beta/pre-1.0),为 LLM/RAG Agent 提供类型化能力检索与 schema 感知执行层,将异构 schema 编译为统一能力模型并在执行时二次校验。它支持 OpenAPI、MCP、GraphQL 等协议,可接入 SQLite、Qdrant、Neo4j、Elasticsearch 等多类数据源,并在检索和执行前应用 deny-by-default RBAC/ABAC 策略。项目以 MIT 许可开源,支持 Python 3.10–3.14,可通过 pip install schemarouter 安装。
shaharia-lab 在 GitHub 开源了 Ferrox,一个用 Rust 编写、无状态可水平扩展的 LLM API 网关,提供 OpenAI 兼容 API,可将请求路由到 Anthropic、OpenAI、Gemini 和 AWS Bedrock。
FlashInfer 是一个面向推理的高性能 GPU 内核库与内核生成器,为 attention、GEMM 和 MoE 操作提供统一 API,后端涵盖 FlashAttention-2/3、cuDNN、CUTLASS 和 TensorRT-LLM。
John Smith 等人的论文《Optimizing Large Language Models for Contextual Reasoning in Multi-Task Environments》提出优化策略以增强 LLM 在多任务环境中的上下文推理能力,实验显示在动态环境中适应性更优。
John Smith 等人的论文《Optimizing Large Language Models for Contextual Reasoning in Multi-Task Environments》提出优化策略以增强 LLM 在多任务间的上下文推理,实验显示在动态环境中适应性更优。