层次化可解释多任务音频表示学习:基于信息瓶颈的事件-场景关系分析
一项研究提出层次化(顺序)条件范式,从中间事件概率直接预测声学场景类别,替代传统多任务多输出头架构。研究在 PaSST、PANNs 和 BEATs 三种骨干上完成 66 次完整训练,发现 beta 在 0.6–0.9 时可实现双任务同步学习,且层次化条件化带来更低的条件熵、更高的互信息和更好的潜在聚类可分性。
新闻、仓库与研究,按时间排列。
一项研究提出层次化(顺序)条件范式,从中间事件概率直接预测声学场景类别,替代传统多任务多输出头架构。研究在 PaSST、PANNs 和 BEATs 三种骨干上完成 66 次完整训练,发现 beta 在 0.6–0.9 时可实现双任务同步学习,且层次化条件化带来更低的条件熵、更高的互信息和更好的潜在聚类可分性。
研究者推出 CriticaLLM 框架,一个可全自动化运行 TTRPG(如 Dungeons & Dragons)的 Game Master,涵盖故事创作、探索与战斗阶段管理。团队总结了 LLM 在 TTRPG 中的关键能力要求,并邀请真实 TTRPG 玩家评测,比较了四款不同参数规模的 LLM 在剧情与反派多样性上的表现。
研究者提出 Function-isolated Memory-Efficient Optimization(CiMEO)持续学习框架,通过梯度归因分析定位 LLM 中认知相关的功能子网络,将训练样本路由至对应子网络,把参数更新和优化器状态限制在选定区域。在 140 万条顺序指令上,CiMEO 在覆盖编程、考试型任务和数学推理的五个生成式 benchmark 中取得对比方法的最高平均性能,同时缓解灾难性遗忘。子空间重叠与主角度分析表明局部化更新有助于保留预训练表征。
论文提出 Agent Status Protocol (ASP) 0.1 版提案,定义异构 AI 智能体向状态服务器上报运行状态的轻量级规范:智能体通过 HTTP POST 推送小型 JSON 事件,服务器经 Server-Sent Events (SSE) 向观察者(如仪表盘)推送状态变化。ASP 不依赖自报告,可从缺失心跳推断存活、检测仍存活但不再推进任务的智能体,并接受 supervisor、guardrail 等外部观察,状态沿 lifecycle、health、task、floor、governance 等独立维度建模。
一篇被 TPAMI 接收的综述首次系统梳理了强化学习驱动的扩散模型(RL-driven DMs),涵盖扩散式语言、多模态、机器人和科学模型,重点分析扩散轨迹优化与奖励工程。作者通过多任务 benchmark 实验对比了不同 RL 后训练策略的优势,并指出三大瓶颈:奖励设计脆弱、高维生成空间中的探索-利用权衡,以及稀疏奖励下的训练不稳定。团队还建立了公开仓库持续追踪该领域进展。
一项 arXiv 理论研究考察了 Isotropic Curvature Model(ICM)对 Muon 优化器极分解更新解释的稳定性,提出 Random-Radius ICM(RR-ICM)与 Polar-Factor Admissibility Set。结果证明所有非标量可容许响应仅来自与曲率折点对齐的径向原子,任何无原子径向律下都呈现零容量刚性,精确缩放极分解最优只在梯度本身为缩放列等距时成立。研究进一步引入 Minimax RR-ICM,证明非零全局极小值点必位于梯度极射线上,其尺度由一维凸问题确定,揭示了平均曲率解释的径向脆弱性。
研究者提出一种面向分类任务的成对差分学习(PDL)版本,通过元学习技术让模型以两个实例为输入预测结果差异,并对查询实例的各训练样本预测取平均。他们进一步基于总不确定性分解为偶然不确定性与认知不确定性的近期工作,提出多种将相应度量扩展到 PDL 场景的方法。大规模实证研究分析了该 PDL 分类器的预测精度与不确定性感知能力。
一项 arXiv 基准研究在单张 A100 GPU 上,以 17.7M 和 33.6M 参数因果语言模型及 2.70M 参数视觉 Transformer 比较 Muon 与 AdamW。相同数据下 Muon 将验证损失曲线下面积降低 3.25–22.44%,20 组主要配对全部降低测试损失;但 Muon 优化器调用耗时占训练时间 56.1–69.6%,AdamW 仅 6.1–9.1%,时间归一后 Muon 在视觉任务上领先 19.68–22.31%,语言任务上 AdamW 反而好 3.38–6.96%。结果表明该结论仅适用于小模型和参考实现,不能推广到更大模型或优化实现。
研究者提出 DialFork,首个在原始对话文本上衡量“程序性幻觉”的 benchmark,即智能体语句流畅且事实合理但偏离预期对话流程。该基准通过在受控轮次分叉对话并注入四类幻觉,构建了覆盖 12 个领域 24 个任务的 36,278 段对话,由 30 名人类标注者验证;并提出 FlowKL 与 FlowScore 两个对话流感知指标,其中 FlowScore 在七个编码器上均显著超越基线。DialFork 以 MIT 许可证开源发布。
论文提出 BiShield-TEE,针对端侧 TEE 部署 LLM 中仅混淆输出维度的权重保护方法发现 Solution Determinacy Property(SDP)漏洞,使 GroupCover 和 ArrowCloak 等代表性方法的攻击准确率超过完全防护黑盒基线 2.4 倍并近乎完整恢复模型。BiShield-TEE 通过输入输出双向联合混淆引入 Ambiguous Solutions,将攻击准确率压回黑盒基线水平,同时在真实设备上推理效率高于已有方法,代码已开源。
arXiv 论文提出一个 LLM 覆盖率收敛 agent,用 cocotb-coverage YAML 从仿真报告读取覆盖率,并由独立于模型的 scoreboard 检查数据完整性。在异步 FIFO、UART 发射器和 AHB2APB bridge 三种 RTL 设计上,该 agent 在 8 次迭代预算内将覆盖率从 91.7%、88.9% 和 67.4% 提升至 100%。作者承认证据存在局限:仅三种设计、无基线、无消融实验,且 LLM 生成测试的数据完整性尚未经独立校验。
arXiv 论文 2610.21571 在九个模型和两个基准上评估工具图记忆(tool graph memory),发现其很少显著优于基线,且有限收益需付出两倍以上的 LLM 调用成本。其引导往往不正确,随机或无引导也能保留大部分收益,表明收益源于额外计算而非记忆本身;将同样经验存为文本洞察几乎不增加调用且效果更好,作者据此建议记忆宜作为软先验而非规定下一步工具。
SemDraft 是首个能从成对“前后”服装打版样片中学习搜索可执行打版程序的框架,无需记录的编辑步骤。其通过有界搜索恢复编辑动作程序,并经重编译、动作顺序分类、独立重放三项检查后才认证;认证程序再训练模型对候选动作排序。在 80 个顺序敏感案例中,学习排序器在 1,000 次搜索内认证 63 和 64 例,优于非学习排序器的最多 53 和 52 例。
arXiv 论文提出 ClaimScope,一个包含 72 个任务的基准,通过裁决、范围、反例和修复审计数学智能体提出的命题,并评估 Qwen3-8B 在直接生成与四种两轮条件下的表现。结果显示,验证器反馈使无效命题的反例接受数从 15/39 提升至 23/39,安全完成数从 20/72 提升至 25/72,而严格完成保持 17/72,裁决准确率从 47/72 变为 46/72。该论文已被 NeurIPS 2026 Workshop(Mathematical Reasoning and AI)接收。
AVALON 是一个面向"人类熟悉但机器人未见过"场景的零样本室内导航框架,无需预先建图或场地训练,仅需楼层平面图、地点线索和初始拓扑-里程计对齐即可部署,并通过人机记忆协同更新融合人类指定的任务约束与机器人实地验证证据。在 Unitree Go2 上的实验显示,AVALON 结合 X-NavDP 完成 12.81 m 的Intersection-to-Dining任务仅用时 46.4 s(5/5 成功),比 DimOS-Go2(78.5 s,4/5)节省 40.9% 机器人时间,而仅用策略的 X-NavDP 在 5 次运行中全部超时。
研究者推出 LOADBench,一个基于 SkyWater130 PDK 的大型开源模拟 IC 设计数据集与标准化基准,包含超过 100 种运算放大器拓扑(1、2、3 级),每拓扑附结构/功能标注、尺寸约束、Ngspice testbench 及 NSGA-II 优化产生的约 10³ 个 Pareto 最优与 10⁶ 个中间尺寸-性能数据对。数据集定义了六项基准任务,涵盖逆向尺寸设计、拓扑选择、多目标优化等,全部以开放许可发布,以解决模拟设计 ML 研究缺乏可比较评测的问题。
LoopAhead 是一个面向 Looped Transformer 的推测解码框架,用轻量级 lookahead drafter(LAD)基于 early-loop 状态提前起草多个未来 token,并结合 deeper-loop 反馈决定草稿分支的继续或暂停,由全深度模型做最终决定。该框架相比自回归解码最高实现 7.82x 解码加速,同时保持目标模型的输出分布。
一项研究评估用 Claude Opus 4.8 和 Codex GPT Sol 5.6 直接重建 iPhone 发往 Apple 定位服务的 protobuf schema,发现多数结果含严重错误且难以察觉,不适合取证与隐私分析。研究者改用 Claude 编写 Python 工具 Extractor,可从 Apple 二进制文件可靠恢复 protobuf schema,并通过已知答案、已发表 schema 和网络实测验证。该工具被用于解码越狱 iPhone 8(iOS 16.7.11)的定位服务网络流量。
一项发表于 EMNLP 2026 (Findings) 的工作提出统一交互式评估框架,将 Countdown 任务扩展为数学环境,让 LLM 智能体通过操纵变量、收集观测来推断变量间关系。跨 7 个 LLM 和多种提示策略的实验显示,模型内在探究能力有限,发现底层表达式的成功率低;借鉴教育脚手架的结构化指导可显著提升表现。
一项 arXiv 研究(cs.AI)提出动作可预测性(从连续 latent 状态重建动作)能防止世界模型表征丢弃内在动力学信息,并用 Concat IDM 从拼接的 latent 状态预测动作、利用离线轨迹中已有的动作标签更新共享编码器。在 Push-T 的 24 种外观设置下,Concat IDM 经三次独立训练将规划成功率从 9.1% 提升至 77.2%,配对改进比单一外观条件下高 52.9 个百分点,且不改变测试时规划器。
研究者在 Qwen-Audio-3.1-ASR-Flash-Next 基础上加入专用 Jev 决策头,推出 Qwen-Audio-Jev,通过 CHOICE、NOUL、SCORE 三种决策原语统一音频选择、二值判断与评分。模型在 MMAU-mini 上达到 78.70% 准确率、MMSU 上 84.06%,VoxCeleb1-O 等错误率 6.50%,NISQA 归一化平均绝对误差 0.1062。相比原模型推理速度提升约 20 倍,适用于大规模音频筛选、说话人验证和自动质量评估等高吞吐场景。
BoldingBuilds 在 Hugging Face 发布 NVIDIA Nemotron-3.5-Bolt-74B-A9B 的无对齐版本,直接在 24GB 2-bit GGUF 上做权重空间消融,未经过 BF16 重量化,保留了 NVIDIA 量化感知蒸馏产出的约 17GB IQ2_XXS 专家权重。编辑共改动 100 个张量,采用 Arditi et al. 2024 的均值差方向法,λ=0 时输出与原文件逐字节一致作为自检门槛。
推荐理由:原文给出完整的消融方法、拒绝率与能力对照数据,读者可以据此评估这个去对齐版本的实际效果与局限。
HauhauCS 基于 Qwen3.5-2B 发布无审查变体 Aggressive 版,约 0/465 次拒绝,号称零能力损失且不改动数据集。模型为 2B dense 参数、24 层混合架构(Gated DeltaNet 线性注意力 + 全 softmax 注意力 3:1),原生多模态,262K 上下文(YaRN 可扩展至 1M),提供 BF16 至 Q4_K_M 共 4 种 GGUF 量化,支持 llama.cpp、LM Studio 等运行时。
Hugging Face 用户 DariusProton 上架了 Gemma4_Artemis_1.1_Uncensored 模型,基于 google/gemma-4-31B,经 TheDrummer/Artemis-31B-v1.1 微调而来。该模型为去审查版本,目前 README 为空,下载量未被追踪。
AtomicChat 将 NVIDIA Nemotron 3.5 Super VL 120B-A12B 的拒绝行为从权重中移除,发布 Atomic Dynamic GGUF 量化版本。JailbreakBench 拒绝率从 95.1% 降到 0%,俄语红队提示从 76% 降到 2%,MMLU 保持 85.05% 到 85.10% 基本不变;方法基于 Arditi et al. 2024 的单一方向拒绝机制,对写入残差流的 128 个矩阵做投影编辑,提供 AD-Q4_K_S、AD-IQ3_XXS、AD-Q2_0_L 三档量化,上游 llama.cpp 可直接运行。
推荐理由:原文给出拒绝率前后对比、MMLU 对照和量化误差数据,读者可以据此判断这次去对齐编辑的代价到底有多大。
alst10 在 Hugging Face 上发布无审查量化模型 Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP,提供 Q4_0_ROCMFP 量化版本。该模型可通过 llama.cpp、Ollama、Docker Model Runner、Lemonade 等工具本地运行,支持启动 OpenAI 兼容服务器或在终端直接推理,并可接入 Pi、Hermes Agent、OpenClaw 等智能体工具。
Hugging Face 发布 Granite Switch 4.1(Granite-Switch-4.1-8B 与 -30B),将 Decision aLoRA、Guardian aLoRA 和 OpenASR 排行榜上最快的 ASR 模型 Granite-Speech-5.0-Turbo-CTC 组合进单一模型,VRAM 占用与基座模型相当。得益于 cache-efficient Activated LoRA 与 vLLM 低秩适配推理加速,模型可在对话、决策与语音请求间高速切换;用户也可用 Granite Libraries 适配器自行组合模型,团队还计划在 Mellea 中发布 Adapter SDK。
notfakerv/LFM2.5-24B-A2B-abliterated-MLX-4bit 是 abliterated 版 LFM2.5-24B-A2B 的 MLX 4-bit affine 量化转换,权重 13.49 GB,直接由 BF16 检查点转换而非 GGUF 重量化,需 MLX LM >= 0.32.0 与 MLX >= 0.32.2。该模型为 always-thinking 推理模型,建议 24 GB 统一内存起步;验证限于冒烟与数值检查,未做 Apple Silicon 运行时测试或速度基准。
DollasAndSpence 发布 Qwen/Qwen-Image-2.1 的 Uncensored 量化版本,提供 GGUF、Safetensors 和 MLX 格式,支持 ComfyUI 本地图像生成。该版本无内置安全检查器,可直接生成成人及 NSFW 内容;推荐 GGUF 使用 Q4_K_M(4.60 GB),MLX 格式针对 Apple Silicon 优化,文本编码器可卸载至系统内存以节省 9–17 GB VRAM。
Hugging Face 上线 mradermacher 制作的 Qwen3.5-2B-Uncensored-Abliterix-SOM-i1 GGUF 量化模型仓库。该模型参数规模约 961k,页面暂缺 YAML 元数据,下载量数据尚未显示。
Black Forest Labs 在 Hugging Face 发布 FLUX 3 Image Klein 的 ComfyUI 重打包版本,这是一个 5.6B 开放权重文生图与图像编辑模型,支持提示词加最多 10 张参考图,文本编码器为 Qwen3-VL-4B-Instruct。仓库提供蒸馏与 base 两个 transformer 的 BF16、int8 和 NVFP4 精度,int8 可在 RTX 3070 等 8 GB 显卡上运行,NVFP4 需 Blackwell GPU;蒸馏版采样 16 步无 guidance,base 版 50 步 CFG 3.5。
推荐理由:模型卡给出各精度文件体积、显存要求和蒸馏与 base 的采样参数差异,方便按硬件选择下载。
AtomicChat 发布 Ternary-Bonsai-2-2B-gguf 的 rank-1 投影 LoRA,通过移除 attn_output、ssm_out、ffn_down 中的拒绝方向实现去对齐,基础权重不变,以适配器形式发布。拒绝率从 87.5% 降到 0.0%,无害提示误拒为 0.0%,MMLU(n=300)从 31.7 变为 34.3;推荐 scale 1.0(1.5 开始退化),残差泄漏约 1e-4,作者标注为研究级产物,完整逐条日志在 -metrics 仓库。
推荐理由:原文给出拒绝率与 MMLU 前后对比数据,并说明残差泄漏等局限,读者可据此判断该去对齐适配器的实际代价。
AtomicChat 发布 rank-1 投影 LoRA,通过移除 Ternary-Bonsai-2-4B-gguf 残留写入路径(attn_output、ssm_out、ffn_down)中的拒绝方向实现去对齐,基础权重不变,以适配器形式发布。实测显示有害拒绝率从 99.0% 降到 0.0%,无害提示误拒率从 1.0% 降到 0.0%,MMLU(n=300)从 68.7 到 69.0;推荐 scale 1.0(1.5 开始退化),残留泄漏约 1e-4,作者标注为研究级产物,完整逐条日志在 -metrics 仓库。
AtomicChat 在 Hugging Face 发布 rank-1 投影 LoRA,通过移除 Ternary-Bonsai-2-9B-gguf 残差写入路径(attn_output、ssm_out、ffn_down)的拒绝方向实现去对齐,基础权重不变,以适配器形式发布。拒绝率从 100.0% 降至 0.0%,无害提示误拒从 1.9% 降至 0.0%,MMLU(n=300)从 76.0 降至 71.7;推荐 scale 1.0(1.5 开始退化),残差泄漏约 1e-4,作者标注为研究级产物,许可证继承基座模型。
推荐理由:原文给出拒绝率与 MMLU 的前后对照数据,读者可据此权衡这个去对齐 LoRA 的收益与能力损失。
Meta 在 Hugging Face 发布开源权重模型 Muse Spark Open,采用 MoE 架构,总参数约 816B、每 token 激活约 42B,支持文本、图像、音频和视频输入,上下文窗口最高 1M token。模型针对 agentic coding 训练,可读代码库、写代码、调试并调用工具;官方给出 transformers、llama.cpp、vLLM、SGLang、MLX 部署配方,BF16 权重约 1.5 TB,NVFP4 版可跑在单节点 B200 上,并用 TRL 在 64 张 H100 上完成 LoRA 微调演示。
推荐理由:官方博客给出完整架构参数与多套部署配方,从 llama.cpp 量化到 TRL 微调实测数据都有,可按需选路径复现。
shimbaaa 在 Hugging Face 上发布 Supra2-100M-Uncensored-Instruct,一个 100M 参数的指令模型,基于 SupraLabs/Supra2-100M-Base 经两阶段 LoRA 训练,训练上下文长度 512,采用 Apache-2.0 许可。模型被训练为以 Yes-Man 风格顺从用户提示,未做安全对齐,会认同错误前提;两阶段均混入 Dolly-15k 回放数据以减少灾难性遗忘。
Hugging Face 上发布了一个可直接运行的 .basalt 格式包,为无审查版 Qwen3.8-Flash-Next 的 Q4_K_M 量化构建,基于 125B 级 MoE 模型(qwen4exp 架构),文件大小 114.06 GiB,内置 Qwen tokenizer 与聊天模板,支持 --vision 图像输入。运行需 NVIDIA Blackwell GPU(compute capability 12.0)与 CUDA 13;在单张 RTX 5090 上 512k 上下文解码约 220 tok/s、prefill 约 5,900 tok/s。该仓库目前为私有测试状态,采用 Qwen Community License 1.0。
ComfyUI 发布 v0.41.1 版本,对应提交 45bf90d,于 10 月 15 日打上标签,发布页附带 2 个资源文件。原文未给出具体功能变更说明。
Shifty666 在 Hugging Face 发布 Llama-3.1-8B-Lexi-Uncensored-V2-OBLITERATED,基于 Orenguteng/Llama-3.1-8B-Lexi-Uncensored-V2,用开源工具 OBLITERATES 的激进方法通过激活工程(abliteration)移除模型的拒绝行为。模型可通过 transformers 库加载使用。
Black Forest Labs 发布 FLUX.3 Image Klein,开放蒸馏版(16 步、无 CFG)和 base 版(50 步、CFG)两个权重,首日起即可在 Diffusers 中运行。单模型支持文生图、多参考图生图和 bounding box 布局控制,蒸馏版在 H100 上约 2 秒生成 1024×1024 图像,提供 fp8r 和 nvfp4 量化权重及 DreamBooth LoRA 训练脚本。
推荐理由:官方教程给出两个开放权重的显存占用和 H100 实测生成耗时,还拆解了架构细节,方便评估部署成本。