意大利立法过程:一个统一结构化数据集
研究者用经人工标注验证的 LLM 抽取流程,把意大利议会非结构化文本转为带日期的有序事件(法案提出、委员会审议、全会审议、批准等),构建了覆盖 1985 至 2026 年、第 IX 至 XIX 届议会全部 5346 部法律、共 101413 个事件的数据集。该数据集可用于计算法律与立法研究及过程导向的数据科学方法。
新闻、仓库与研究,按时间排列。
研究者用经人工标注验证的 LLM 抽取流程,把意大利议会非结构化文本转为带日期的有序事件(法案提出、委员会审议、全会审议、批准等),构建了覆盖 1985 至 2026 年、第 IX 至 XIX 届议会全部 5346 部法律、共 101413 个事件的数据集。该数据集可用于计算法律与立法研究及过程导向的数据科学方法。
一项 arXiv 研究发现,LLM 在医学证据核验中能正确识别同一临床试验的多篇发表,却在汇总证据时过度采信同试验报告。基于 14 个经来源审计的临床试验族和五种模型条件测试,GPT-5.5 在每个溯源任务族中 10/10 次识别调用正确,但 5/5 次汇总调用均过度采信;Qwen3-4B 与 Ministral-3-8B 的选定条件呈现同样反差。加入研究分组指令后,GPT-5.5 的过度采信从 4/5 降至 0/5。
slavabars 在 GitHub 发布开源项目 decision-cascade,一个本地运行的机器原生决策引擎,不生成文本而是让 state 经编码器后由 Noul、Choice、Score 三类决策头返回带置信度的类型化概率结果,无 token 生成、延迟确定。支持 SFT 训练与 RLCD 校准(GRPO 式),内置 ECE/Brier 校准、延迟剖析与级联路由:本地头部先答,低置信度问题按阈值或错误预算升级到外部 SystemOne 兼容服务(如 Cloudflare Clef、Perplexity Decider)。
推荐理由:仓库给出从 SFT 训练、ECE/Brier 校准到延迟剖析的完整闭环和诚实数字,适合想本地化决策引擎的读者参考其评测方法。
GEMS(Guided Editing of Molecular Structures)通过学习的 2-switch 键编辑,从分子式与串联质谱出发迭代修正候选分子结构,保持分子式和原子价态不变。在 NPLIB1 上 Hit@1/Hit@10 达 29.64%/50.81%,MassSpecGym 上达 30.22%/41.33%,超过可比设置的已发表基线;NPLIB1 端到端约 3.3 分钟,对比 FRIGID 的 26.2 小时。实验还指出指纹预测误差是目标恢复的瓶颈,更深搜索无需重训练即可找回更多目标。
研究提出稀疏协作解码,由草稿模型生成大部分 token,仅短暂调用目标模型进行纠正,核心是何时调用目标模型。实验显示局部不确定性指标预测失败近乎随机(AUC 0.50-0.53),而基于草稿置信路径的轨迹形状特征配合轻量逻辑回归可达 AUC 0.86。在线使用时,该方法在五个 GSM8K 草稿-目标对上比最佳开环调度提升 +5.3 至 +20.0 个准确率点,在 StrategyQA 上提升 5.0-8.3 个点。
vLLM 宣布 Day 0 支持 Reflection 的 Beam 模型。该模型为 501B 参数、每 token 激活 23B 的 MoE 架构,并已在 NVIDIA Blackwell 上完成优化。
Reddit 用户用 SFT + LoRA 微调 vLLM-SR 的 d3-edge(0.6B),仅用几千条训练样本,在 typed decisions 上超越了 27B 的 d3,并在 Banking77 上接近其表现。作者认为应微调小型专用决策模型,而非在所有任务上使用大型通用模型。
ConvexLLM 是一个通用语音与音频语言模型,其 C-Gate 接口将音频表示为冻结文本嵌入的连续凸组合。该模型在 VoiceBench 十一项任务上取得 75.36 的聚合分数,是对比的开源权重模型中最高,MMAU Test-mini 准确率为 62.50%。与 2B 参数解码器的对比显示,C-Gate 在语音任务聚合表现上优于 MLP 和 Q-Former 接口,文本任务表现接近 MLP,语音知识与推理任务优势最大。
一篇 arXiv 论文提出 Contrastive Factual Evidence(CFE)及其概率对应 Contrastive Factual Posterior(CFP),通过比较同一事实性陈述在事实与非事实条件下的似然度来评估 LLM 事实置信度。CFP 在保持与最强竞争者相当的事实判别能力的同时显著改善校准;但低资源语言中判别能力普遍偏弱。作者进一步沿事实证据方向将目标语言陈述与更强的英文证据对齐,无需目标语言标签即可提升判别和开放式事实生成。
GitHub 上的 pauliano22/hft-fpga 仓库实现了在 Xilinx Virtex UltraScale+ FPGA 上运行的高频交易引擎,端到端延迟仅 444ns(111 时钟周期),吞吐量达 83.3M 更新/秒,较优化 C++ 软件快 50 倍。系统以 SystemVerilog 和 Vitis HLS 实现 ITCH 5.0 解析、O(1) 限价订单簿及 Sparse MoE 路由,资源占用不足 5%,采用 MIT 许可开源。
一个开源睡眠分期项目用自研 SleepTCN(Temporal Convolutional Network,314,019 参数)读取原始 EEG 和 EOG 信号,将每 30 秒 epoch 分类为 Wake、NREM 或 REM。在 SHHS2 的 52 名留出受试者上验证准确率达 87%,Wake 与 NREM 的 F1 分别为 0.91 和 0.90,REM 仅 0.70。指标经 Mistral 7B Instruct v0.2 以 4-bit 量化生成结构化临床摘要,整个流程可在单个免费级 GPU 上训练。
BitRun 发布 v0.2.0-beta,新增 BitRun Cockpit 分屏界面,左侧流式输出 token,右侧实时显示 CPU 功耗、每 token 焦耳、P/E-core 负载与首 token 延迟。模型侧脱离 Microsoft 冻结子模块、基于新版 llama.cpp 重构,解决 GGUF Type 42 冲突,使 PrismML 的 8B 三值模型 bonsai-8b 可在约 2 GB 内存中纯 CPU 运行。
推荐理由:作者给出了多款 CPU 上的实测功耗与生成速度数据,1-bit 模型在纯 CPU 上的瓦数表现可直接对照自己的硬件参考。
SGLang 团队宣布原生支持 Reflection 的 Beam 1.0,该模型为 501B 参数的 MoE 架构,每 token 激活 23B。SGLang 以此为 Reflection 的生产 API 提供支持。
HydraLLM 是一种基于 MQA 的弹性架构,通过激活注意力头数量动态调整嵌入、注意力投影、FFN 与输出头的有效宽度,并在单一参数集内形成嵌套子网络家族,配有静态转弹性转换流程(重要性驱动脉冲重排、随机子网络训练与知识蒸馏)。75% heads 激活时 TriviaQA 准确率比参数多 17.25% 的 SOTA 嵌套基线高 2.2 个百分点;50% 激活时多模态模型 CLIPScore 与大 7 倍的 Gemma 3 4B 相当;25% 激活时 token 生成吞吐量较全宽配置提升 75.3%。
Reflection 新实验室的首个模型 Beam 在 Hugging Face 开源,为 501B 参数 MoE(每 token 激活 23B),支持 1M token 上下文,采用 Apache 2.0 许可,主打编码与智能体场景。提供 BF16、FP8、NVFP4 三种检查点,transformers、vLLM、SGLang 均已 day-0 支持,并附 LoRA SFT 与 Miles GRPO 训练配方;Hub 上分享用 Beam 构建的项目可竞争 10,000 美元额度。
推荐理由:官方博客给出架构细节、三档精度的实测跑分和从推理到 SFT、RL 的完整部署与训练配方,便于评估上手成本。
Reflection 首个开放权重模型 Beam 于10月16日发布,Ollama 作为 day-zero 合作伙伴限时免费提供,Beam 端点全程零数据保留(ZDR)。Beam 是 MoE 模型,总参数约501B、每 token 激活23B,上下文窗口100万 token,采用 Apache 2.0 许可,面向软件工程、推理和长程 Agent 任务,可通过 ollama run beam:cloud 或 Claude Code、Codex、OpenCode 调用。
推荐理由:官方公告同时给出与 Kimi K3、GLM 5.3 等模型的 Agent Coding 跑分对照表,读者可直接比较 Beam 在各编码基准上的位置。
joe064507-source 的 local-llm-speedsup 发布 2.0.0,提供本地大模型推理与多智能体优化的工程流程和参考实现,包含推理服务器、请求队列、资源感知 agent worker 和 Web 应用四部分。新版本加入 exact-head SSD overflow、reasoning replay、24-slot 弹性 worker 调度、按需内存借用与持久化遥测等改进,并附完整技术审查记录、回归测试与被否决实验,提供 Apple Silicon 与 Windows/Linux 可安装 ZIP skill。
ScoutRoute 是一种轻量级事后路由框架,通过对低成本 scout 模型的单次前向传播提取内部语言模型信号,用 logistic 探针结合 logit 置信度估计异构专家模型的能力,无需修改底层模型。该方法在 5 个开源语言模型和 4 个覆盖数学推理、代码生成、常识推理与多学科知识的基准数据集上评测,一致优于单一路由信号,且能力探针的校准优于传统置信度度量。
一位 SillyTavern 用户发帖称,多数模型经 DeepInfra 提供时很少命中 KV cache,查看 json 文件发现大部分消息未被缓存;而使用 xiaomi 跑 MiMo 时几乎每次都能命中。帖主确认自己只在最终指令中使用变量,并询问其他用户是否也遇到 DeepInfra 缓存命中偏低的问题。
研究者提出自监督学习方法 OliO,通过线性常微分方程(ODE)导出的转移算子,将双向时间流建模为连续且结构一致的动力学系统,以对齐任意时间跨度上的潜在表征。对转移矩阵施加严格上三角约束,确保数值稳定并防止无约束 ODE 模型的指数发散。实验显示 OliO 在多种骨干架构与基准上取得显著提升,MSE 较最强 SOTA 基线最多降低 5.75%,代码已开源。
扩散多模态大语言模型(dMLLM)依赖近似 KV 缓存加速解码,但会引发相邻位置重复同一 token 的「Repeat Curse」。研究者从信息流视角定位了步内注意力分散、跨步过期状态解码和深层熵不收敛三类扰动,提出免训练即插即用的 CoTA++,包含注意力重锚定、Decode-Aware Refresh 和熵引导投票三个组件。在三个 dMLLM 和两个缓存后端上,CoTA++ 将长回复重复率从最高 99.6% 降至至多 17.0%,在九个 benchmark 上挽回大部分精度损失,且缓存加速仅增加不到 15% 开销。
研究者提出 PrefMind,一个在线双智能体强化学习框架,用响应 Generator 和偏好 Critic 两个可训练智能体替代基于打分的 RLHF 流程,让模型通过显式判断与纠错学习人类偏好的内在原因。人类标注监督两个智能体的判断与修正,双方在交互中联合更新。三个模型规模上的实验显示,偏好判断能力和下游响应生成都得到提升。
arXiv 论文 2610.23255 提出 SPLIT,用小规模标注试点通过经验贝叶斯拟合精确公式,在固定预算下规划采样数量、模型选择与验证开销,覆盖接受/拒绝和最高分选择两类验证方式。在七个基准、26 个模型、175 个智能体系统和六类真实验证器上,SPLIT 距事后最优分配仅差 0.02-0.8 个百分点,而所有测试的固定规则在部分场景至少损失 2.5 个百分点;该公式还解释了何时增加 LLM judge 反而降低精度,代码将发布。
推荐理由:论文提出用小规模标注试点来规划测试时算力分配,覆盖26个模型和六类真实验证器的实验规模可作方法参考。
一项 arXiv 研究系统评测了基于置信度的小到大 LLM 路由,覆盖 3 个模型家族、4 种语言、3 类任务、72 种配置和 42,288 条预测。在 Belebele 与 SIB-200 上,50% 升级率下比随机路由分别提升 1.40–4.67 和 2.54–5.63 个百分点;但在 MMLU-ProX-Lite 上平均 AUC 仅 0.510,无一致收益。全局置信度路由存在高达 30.33 个百分点的语言升级差距,而等额配额路由能消除该差距且整体精度损失很小。
一项 arXiv 研究提出 token-budget 理论,形式化建模多智能体辩论与自我细化中“读与推理共享固定 token 窗口”的权衡,并由单智能体测量预测最优智能体数量。跨 5 个开源模型和 4 个推理任务,self-consistency 在 980 组匹配的窗口与组规模设置中 93% 的情况下持平或超过已部署的辩论方法,窗口越紧张差距越大。结论是共享窗口下模型剩余的思考空间比其阅读内容更重要。
论文提出 MGE-PO,通过结合验证正确性与 rollout 生成熵的四象限(4Q)优势塑形,改进 GRPO 对同等奖励响应不做区分的问题,并辅以在线熵问题课程。在 Qwen3-8B-Base 上训练八个 epoch 后,4Q 使六基准 macro avg@32 绝对提升 3.23-3.69%、macro pass@32 提升 4.24-11.06%;在 Qwen2.5-7B-Base 上将四基准 macro avg@32 从 41.5% 提升至 45.4%。
Orca 发布 27B 视觉语言推理模型 OrcaCyber Nano 1.0,主打防御安全场景,以 GGUF 格式开源,可在本地硬件离线运行,支持逆向工程、漏洞分析、安全代码审查、事件分诊与视觉输入。模型上下文长度 262,144 tokens,内置 MTP 投机解码并支持 DFlash2 draft 文件,主权重 15.70 GB,另有适配 16 GB 显卡的 12.99 GB 版本;基准成绩包括 MATH-500 98.60%、AIME 2025 96.23%、SWE-bench 78.4%,可直接在 llama.cpp 中加载。
论文提出 ReLaDrift,用共享的 Drifting Model 从噪声生成初稿,并在连续潜在空间中迭代精炼,训练时仅在最终轮施加 drifting loss、只回传一轮梯度。与一步生成、无法通过迭代提升精度的 Drifting Model 不同,ReLaDrift 可在测试时计算量与生成质量间权衡。在 Sudoku Hard 和 GSM8K 上,它在多种推理预算下达到与扩散、流语言模型相当或更优的性能,代码已开源。
研究人员提出 qGAMMA 框架,用于探索和优化混合精度深度神经网络(DNN)模型在支持多种定点与浮点精度的通用空间加速器上的映射。该框架采用领域特定遗传算法和基于硬件综合结果的解析性能模型来搜索设计空间,找出最小化目标指标的最优映射与加速器配置。在多类 DNN 工作负载上的评估表明,它有助于在性能、能效和资源利用率之间取得更好的权衡。该工作被 SAMOS XXV 接收。
arXiv 论文指出,同一推理模型的重复采样、不同推理深度和自评估之间存在错误相关性,因此同模型更多算力并不等于更多独立证据。作者提出 DIA(Disagreement-triggered Independent Arbitration),当中间阶段与最终阶段预测不一致时,由一组异构模型独立求解并聚合答案。在七个基准、两个基础模型上,DIA 在 14 个设置中的 12 个优于完整 chain-of-thought,MuSiQue 提升 7.00%,仅激活约 17% 的样本,token 用量比多智能体基线最多减少 47.2%。
arXiv 论文提出 MoEvolve,一个面向 MoE 大语言模型的双向蒸馏框架,通过“先恢复再提升”策略,将激活扩展后的高-k 模型作为更强教师,再把增强后的能力蒸馏回原始低-k 配置并保留推理时的激活预算。该框架在多个 MoE 模型和基准上将初始模型最高提升 22.2 个领域平均分,比同预算 RLVR 基线最高高出 6.5 分,且最终低-k 模型常常超过其激活扩展教师。
一项新研究提出 DarkLens,通过将隐藏状态投影到 unembedding 矩阵弱组合的"暗空间",以 Dark Matter Ratio(DMR)衡量模型的上下文利用程度,仅需单次前向传播即可检测忠实性幻觉。该方法结合参数知识分数,在三个 QA 与摘要基准、六个 4B-13B 开源权重 LLM 上评测,表现持平或优于多种基线,且无需额外前向传播或探针训练。
研究者提出 TreeOPSD,一个无需 critic 的树感知后验自蒸馏框架,用于长程智能体强化学习。该方法将每轮交互视为树节点,从共享前缀分支备选续写,并将终止奖励递归回传为隐式轮级信用,映射为有界的闭式教师分布。在 Deep Research 设定下,TreeOPSD 使 Qwen3-30B-A3B-Thinking-2507 的平均准确率较 GRPO 提升 4.97 分。
LongForge 将长上下文指令数据质量形式化为文档、问题与答案之间的对齐结构,包含分析器与合成器两部分。分析器把样本逆向重建为证据-断言推理图,计算广度、深度、正确性、完整性四个维度,对七个主流数据集的测量发现广度几乎不随文档长度增长、深度普遍偏低。合成器将其嵌入生成过程,LongForge-1 与 LongForge-2 两个混合数据在两个骨干模型上于六个长上下文 benchmark 中平均超出最强基线 2.2-4.7 分。
研究者提出基于国际象棋引擎评估的自动指标来衡量语言模型的象棋解释质量,发现现有 SOTA 模型表现很差,多依赖棋盘表面观察而非可迁移的象棋概念。他们进而提出免训练方法 BinProp,让模型发现可复用的象棋概念并用自然语言解释走法,平均得分较直接提示提升近 3 倍。该方法无需额外调参即可在围棋、西洋跳棋和将棋中发现有用概念。
研究者提出 Cross-Centaur 模型,利用跨任务个体级数据预测人类决策,并发布 Cross-Psych-101 数据集,涵盖 591 名参与者、12 个任务中的 261,551 个有效决策。该模型在留出参与者上的表现超过现成 LLM 和 Centaur,探测分析显示其隐藏状态编码了可跨任务迁移的参与者级行为倾向。论文已被 EMNLP 2026 主会接收为口头报告,数据集已公开。
一项 arXiv 研究提出在 Transformer 每个模块训练局部代理网络,通过知识蒸馏预测全局网络输出,使梯度无需存储全部激活值即可独立回传,理论上对深层线性网络精确成立,非线性残差模型中梯度误差有界。该方法在 CIFAR-100 上的 vision transformer 实验中取得优于其他局部算法的准确率/内存权衡,用于小内存预算下微调大语言模型时,比 zeroth-order 学习算法训练更快、性能更高。
arXiv 论文提出 Lookahead Editing(LED),在掩码扩散模型的解码中加入可重写的提案状态,让模型在提交 token 前多次前瞻更新以提升表达能力,同时保留易于优化的掩码转移调度。作者基于 Qwen2.5-7B 和 Qwen3-8B 微调得到 LED-7B 和 LED-8B,在八项基准上 LED SFT 平均比标准 MDM SFT 提升 +11.4 和 +7.7 分,且 LED-8B 仅用 SFT 就超过了经持续预训练、SFT 和强化学习训练的 LLaDA2.1-16B Q-mode。
Mellum2.1 是 Mellum2 Thinking 的下一版本,架构不变,为 12B 总参数、2.5B 激活参数的 MoE 模型,主要工作在强化学习后训练:新增数学、竞赛编程、科学、工具使用和软件工程的 RL 任务,并在真实代码仓库中用 shell 和文件编辑工具训练智能体能力。模型支持 131,072 上下文长度、64 个专家(激活 8 个),采用 bfloat16 精度,以 Apache 2.0 许可开源。
keboqi 在 GitHub 发布 minimax-h3,为 MiniMax H3 视频生成提供独立 Gradio 界面与部署工具包,面向 NVIDIA Blackwell GPU,自动配置 ComfyUI、H3 模型、SLA、Sol-Attn、SageAttention 2 等组件。本地、Modal 和 Google Colab 三种部署路径共用同一 UI,还集成 Qwen Image 2.1、LTX 2.5、MiniMax Music 3 和 YuE2 标签页,作业历史用 SQLite 持久化,通过 bash run_h3.sh 启动。