跳到正文
10月18日周日
  1. arXiv · cs.AI37

    SpriteStage:通过渐进式场景编程与重放实现长时程动画生成

    SpriteStage 是一个渐进式场景编程框架,通过迭代演绎与引擎重编排生成长动画:每个场景基于已接受的世界检查点生成,在共享空间舞台上执行,并利用运行时与视觉反馈修订动作或故事节拍。引擎重编排将草稿映射到生产资产并保留事件、几何与时序。三个完整动画时长约 9.9 至 14.3 分钟,验证了该框架生成长叙事的能力。

  2. Hugging Face · 趋势模型70

    Unsloth 放出 DeepSeek-V4.1-Flash-1017 的 GGUF 量化版本

    Unsloth 在 Hugging Face 发布 DeepSeek-V4.1-Flash-1017 的 Unsloth Dynamic 3.0 GGUF 量化版,1-bit 可在 128GB+ 内存设备运行,3-bit 需 256GB,全精度需 320GB。该模型为 DeepSeek-V4.1-Flash 的小幅更新,官方基准显示推理、编码、Agent 和视觉任务均有提升,如 Terminal-Bench 4.0 得分 42.3 对上一版 31.2;模型采用 MIT 许可,支持 1M token 上下文,需使用 llama.cpp PR 或 Unsloth Desktop 运行,prompt 编码由 encoding.py 与 deepseek-recipe 工具库提供。

    推荐理由:官方模型卡附上了与 DeepSeek-V4.1-Flash 及多个竞品的具体基准对比,以及量化档位对应的内存需求,可据此评估该版本的实际收益。

  3. Hugging Face · 新模型:abliterated74

    Qwen3.8-27B 去拒绝消融版 GGUF 量化发布,附各档量化实测对比

    vedevpatel 发布 rajaykumar12959/qwen3.8-27b-abliterated 的 imatrix GGUF 量化,该模型移除了拒绝行为,可回答原版 Qwen3.8 拒答的请求,目标在 16 GB 显存上用 llama.cpp 运行。每个量化均与 BF16 原版对比:MMLU-Pro(4200 题、5-shot、thinking off)差异均在 95% 置信区间内不显著,BF16 为 79.60%;WikiText-2 KL 散度显示 IQ3_M 漂移比 4-bit 量化高 3.3–3.8 倍。

    推荐理由:作者对每个量化版本都给出了与 BF16 原版的 MMLU-Pro 和 KL 散度对比,还实测了 16 GB 显存下的上下文与速度表现。

  4. arXiv · cs.CL44

    Retrieval Program Learning(RPL):用强化学习将搜索原语组合成可编程检索程序

    研究者提出可编程搜索框架 Retrieval Program Learning(RPL),让策略通过强化学习把搜索原语组合成带局部状态与控制流的程序。针对稀疏反馈下的探索难题,其 program mutation 方法将次优程序的局部变体转为训练轨迹蒸馏回策略。在开放域问答与语料级推理任务上,RPL 训练的 4B 模型超越所有 8B 基线,多跳任务提升显著,同时降低上下文消耗与检索轮次。

  5. Hugging Face · 新模型:abliterated80

    mrfakename 发布 DeepSeek-V4.1-Flash-1017 去对齐版

    mrfakename 在 Hugging Face 发布 DeepSeek-V4.1-Flash-1017 的 abliterated 版本,用方向性消融移除拒绝行为。chat 和 think 模式沿不同方向拒绝,因此移除 rank-2 拒绝子空间,逐层测量方向并投影出 40 个主层的残差流写入,各层强度由多目标搜索确定。Q8_0 GGUF 贪心解码下,chat 拒绝率从 97/100 降至 4/100,think 模式推理头拒绝从 98/100 降至 9/100,harmless 首词 KL 为 0.067;路由专家、嵌入、Engram 表和 DSpark/MTP 层与原版逐位一致,另提供 abliteration-lora.gguf 和 abliteration-edit.npz。

    推荐理由:原文给出rank-2拒绝子空间的消融方法和拒绝率前后对比数据,读者可据此判断这个去对齐版本实际去掉了多少。

  6. arXiv · cs.CL42

    MisleadQA:诊断大语言模型在误导性上下文下的失效问题

    研究者推出 MisleadQA,一个带弃权选项的多选题诊断数据集,每题将 gold 上下文与真实但超出范围的上下文(S)和虚假但在范围内的上下文(F)配对。对六个开源权重 LLM 的评测显示:单独提供 S 会使 29.3% 答对的题转为错误答案,F 则达 75.4%;加入 gold 上下文几乎消除 S 的影响,但 F 仍误导 21.0%,尤其在 F 先出现时。忠实的上下文指令主要通过弃权减少此类错误,但即便有 gold 上下文也会降低准确率。

  7. arXiv · cs.AI33

    PatternBench:面向 LLM 代码优化的模式驱动评测,分离超越编译器的语义推理能力

    研究者提出 PatternBench 基准,用于评测 LLM 在激进编译器优化之后仍能保留的“超越编译器”代码优化,覆盖七类转换,并将运行时测速与基于 AST 的优化忠实度分析结合。对前沿、开源权重及微调模型的实验显示,仅看运行时加速无法完整反映优化能力,忠实度与实际加速强相关,微调可同时提升两者。结果表明评测 LLM 代码优化应同时衡量性能结果与目标转换是否真正执行。

  8. arXiv · cs.AI46

    教会代码智能体在不泄露私有代码的前提下求助云端模型:UVA 方法

    论文提出 utility-verified abstraction(UVA),训练本地代码智能体按角色和类型描述私有实体,向云端强模型求助时不泄露仓库名标识符、文件路径和源码。改写后的问题比未训练时少泄露 3.7 倍私有实体、1.4 倍逐字代码;在仓库级 issue 修复上解决 37.6% 的问题,高于同一模型单独工作的 25.3%。

  9. arXiv · cs.AI48

    Pair-Aware Optimization:协调探索与精化以越狱 LLM 智能体

    arXiv 论文提出 Pair-aware optimization,一种结合零阶(ZO)与一阶(FO)优化的 LLM 智能体越狱攻击框架:先用 ZO 探索对抗前缀,再用 FO 精化对应后缀,并保留多个前缀候选进行条件化精化与配对选择。论文还从随机生成视角出发,在优化与评测中采用一致的随机解码。在恶意指令与恶意环境 benchmark 上的实验表明,混合优化优于单一优化器方法,且优化顺序显著影响攻击效果。

  10. arXiv · cs.CL49

    TinyLlama 研究揭示:以英文衡量的效率——分词器覆盖率限制小语言模型对印度文字的处理

    一项覆盖十一种印度文字、13.1 万句语料的研究发现,TinyLlama-1.1B 的分词器对卡纳达语每词输出 22.60 个 subword token,词表对 Odia 代码点覆盖率为 0%,五种文字的 fertility 触及 UTF-8 byte-fallback 上限,且因 SentencePiece 静默回退,UNK 率为 0.0%。参数量仅其五分之一的 MuRIL 能以 1.23-2.26 tokens/word 读取所有文字且零 UNK。研究指出真正约束是词表而非参数量:同样 2048 token 上下文窗口,英语用户可用 1,528 词,卡纳达语用户仅 91 词。

  11. arXiv · cs.AI52

    在手机 NPU 上运行一阶 LoRA 训练的系统研究

    论文提出让手机 NPU 承担 LoRA 微调中全部三次冻结权重乘法的系统,训练图、适配器和优化器留在 CPU,并复用常驻权重切片和反量化器实现输入梯度计算。系统按梯度敏感度选择精度并为 FP16 输出加逐行范围保护,支持可恢复执行和热节流以作为后台任务运行,在两款 Qualcomm Snapdragon 平台上用 Qwen 和 Llama 四个模型、夜间个性化工作负载和 LaMP-2 基准做了评估。

    推荐理由:论文给出在手机 NPU 上跑通 LoRA 一阶训练的系统做法,涉及输入梯度实现、精度选择和端侧个性化工作负载,思路可迁移。

  12. Hugging Face · 新模型:abliterated66

    distributedcognition 发布 Mellum2.1-12B-A2.5B-Thinking 的 abliterated 去对齐版本

    distributedcognition 在 Hugging Face 发布 JetBrains/Mellum2.1-12B-A2.5B-Thinking 的 abliterated 版本,用投影式 writer 级消融从权重中移除拒绝方向,gated alpha 0.8 下 104 条有害提示的 judge 拒绝从 12 降到 5,MMLU-14k 仅降 0.05pp。发布包含逐层拒绝方向文件(refusal_directions.pt、dirs.npz)供任意强度重消融,完整评测原始数据在 eval-results/,GGUF Q8_0 量化可在 llama.cpp、LM Studio、Ollama、Jan 运行,Apache 2.0 许可。

    推荐理由:原文给出消融方法细节和拒绝率、MMLU 前后对比数据,读者可据此判断这个去对齐版本的实际代价。

  13. Hugging Face · 新模型:abliterated22

    huihui-ai 发布 Huihui-Qwen-AgentWorld-35B-A3B-abliterated 去审查版本

    huihui-ai 基于 Qwen/Qwen-AgentWorld-35B-A3B 通过 abliteration 技术制作了去审查版本 Huihui-Qwen-AgentWorld-35B-A3B-abliterated,无需 TransformerLens 即可移除模型拒绝行为。该模型安全过滤大幅削弱,可能生成敏感或不当内容,官方建议仅用于研究、测试或受控环境,避免直接投入生产或面向公众的商业应用。

  14. arXiv · cs.CL43

    医疗微调重塑而非降低面向患者的 AI 风险:基于量规与 LLM 评审的评估框架

    一项研究提出基于六类风险语言量规、由三评审 LLM 集成分级严重度的医疗问答风险评估框架。对 Mistral-7B、Phi-3.5-mini、Llama-3.1-8B 及 BioMistral-7B、OpenBioLLM-Llama3-8B、Med42-Llama3-8B 六个 7-9B 模型在 K-QA 基准 200 个真实患者问题上的评测显示,风险语言与事实幻觉率统计独立(Spearman ρ = -0.065),医疗微调不降低总风险而是重塑风险:BioMistral 与 OpenBioLLM 抑制高警示药物提及却放大过度自信断言,Med42 仅抑制剂量表达。量规、评审提示词与评估代码已开源。

  15. Hugging Face · 新模型:uncensored60

    sky3c 发布 Qwen3.8-27B TURBO 去对齐 GGUF 微调版,ARC-C 达 735

    sky3c 在 Hugging Face 发布基于 Qwen3.8-27B 的多阶段微调 GGUF 版本,用 Heretic v1.2.0 的 ARA 方法去审查,8 bit 拒绝率从 99/100 降到 0/100,KL 散度 0.0535。模型将思考 token 减至原版的 1/2 到 1/10,8 bit ARC-C 735、ARC-E 882,4 bit ARC-C 719,作者称在全部 7 项基准上超过原版 Qwen3.8-27B。提供常规与 MTP 两种 GGUF 量化,Q4_K_S 下常规版约 75 t/s、MTP 版可超 90 t/s(5090 实测),支持 256k 上下文与视觉(需另下 mmproj 文件),工具调用建议 Q4_K_M 以上量化。

    同一新闻,精选展示《TopherAU 发布 Qwen3.8-27B TURBO 去审查 GGUF 微调版,ARC-C 达 735》

  16. Hugging Face · 新模型:abliterated38

    Xing4.0-29B-A4B APEX-I-MiniPlus-V2.1 Abliterated GGUF 量化发布

    Hugging Face 上发布 Xing4.0-29B-A4B 的 Abliterated 版 GGUF 量化,基于 huihui-ai/Huihui-Xing4.0-29B-A4B-abliterated,采用逐 tensor 混合精度布局,文件 13.76 GB(3.42 BPW),WikiText-2 PPL 7.7238,较 BF16 源(7.3060)仅上升 5.71%,达 Q5_K_M 级质量。该模型为 29B 总参数、每 token 约 4B 激活的 MoE 架构,含 mHC、MLA 与 MTP,原生 256K 上下文,可扩展至 512K,适合消费级 GPU 与 RAM/GPU 混合部署。

  17. arXiv · cs.CL34

    表格序列化方式决定大语言模型保留哪些关系

    一项 arXiv 研究考察文本序列化对指令微调大语言模型表格查找的影响:同一 256 单元格合成表格分别以行优先和列优先渲染,最优格式随表格形状变化。64x4 竖长表中行优先领先 42.3-54.0 个百分点,4x64 宽表中列优先领先 35.0-59.0 个百分点。研究提出“关系局部性”概念:序列化让一种关系保持局部可用,另一种则依赖位置对齐。

  18. arXiv · cs.CL43

    谁被"揭示"?扩散语言模型中的采样器引发偏见

    扩散语言模型(dLLMs)的采样器在决定何时提交 token 时会引入模型之外的偏见。研究在 LLaDA 和 Dream 上发现,常见的 peeking 提交规则会放大职业性别刻板印象、坍缩观点分布,且并行解码越快偏移越明显。论文提出 Fork-First Sampling,在生成任何内容前先决定分歧点,可跟随目标分布、提升流畅性,代价仅为一次前向传播。

  19. arXiv · cs.AI29

    RQA:无需共享奖励即可实现合作的互惠 Q 增广方法

    一项 arXiv 研究提出 Reciprocal Q-Augmentation(RQA),用隐变量对手模型增强 Q-function,让智能体仅凭自身 Q-function 学习合作与背叛策略,无需获取他人奖励或内部状态。在 Iterated Prisoner's Dilemma、Iterated Traveler's Dilemma、Iterated Stag Hunt 和 CleanUp-Lite 中,RQA 的合作速度和社会福利超过共享奖励的全合作方法,单个 RQA 智能体还能诱导标准 RL 智能体达成合作。

  20. Hugging Face · 新模型:abliterated52

    msuiche 发布 DeepSeek-V4.1-Flash-1017 去拒绝控制向量 GLP-39-L1-39-a0.75

    Matt Suiche 在 Hugging Face 发布针对 DeepSeek-V4.1-Flash-1017 的投影控制向量(GLP),在残差流 layers 1–39 以 alpha 0.75 施加 h <- h - alpha*(h·d)d,不修改任何权重。校准阶梯显示 alpha 0.75 为拐点:refusal32 从 stock 1/32 提升到 23/32 comply,alpha 1.0 达 26/32 但中英代码混杂翻倍,alpha 2.0 反而回退到 10/32 且 31/32 出现混杂;验证基于 vLLM 离线 4x H200、greedy、thinking off、n=32。

    推荐理由:作者给出了完整的 alpha 校准阶梯和拒绝率、代码混杂等实测数据,读者可以据此判断这个控制向量的实际效果与适用边界。

  21. arXiv · cs.AI28

    LLM 生成的代码重构何时会在仓库层面引发连锁影响:一项仓库采用就绪度实证研究

    一项实证研究对来自 15 个开源 Java 仓库的 150 个生产文件进行 1,500 次 LLM 重构生成,比较单提示词与 LangGraph 多智能体两种依赖感知生成方式。结果中 1,365 个候选(93.8%)被判定为高契约/依赖风险,仅 8 个满足低风险标准;705 组配对分析未发现两种生成方式在主要风险指标上有统计显著差异。研究建议将 LLM 重构视为需分阶段仓库级验证的候选方案。

  22. arXiv · cs.AI28

    IndustrialCAD-1400:面向工业装配体的 text-to-CAD 基准

    研究者发布 text-to-CAD 基准 IndustrialCAD-1400,包含 1,400 条请求,覆盖 40 个领域的 400 类设备,以及 250 个含 4 个设计案例的族。每条族请求中位数指定 17 个命名部件或配置角色和 6 个明确数值目标,模型生成的几何程序在统一 Blender 环境中执行,并通过前视、等轴测和俯视图评估部件、布置与接口完成度。该基准将 text-to-CAD 从可识别的零件几何扩展到联合组件、接口、空间与数值规格的工业装配体综合。

  23. arXiv · cs.CL20

    随机组合树的信息论研究

    研究者分析了随机组合树(random composition trees)这一递归切分文本的随机模型的信息论性质,证明其熵随根节点规模线性增长,并给出熵率与分支因子的解析表达式,同时证明大树具有典型性。该模型与语言作为平稳遍历随机过程建模时共享线性熵增长与典型性两个关键性质。

  24. arXiv · cs.AI39

    针对拉长响应并增加 LLM 使用成本的后门木马的数据投毒攻击防御研究

    一篇 arXiv 论文研究了一种数据投毒攻击:在指令微调的 LLM 中植入木马,当提示词中出现触发条件(含语义相似的指令)时拉长响应、增加用户 token 成本。论文为该攻击设计了一种防御方法。背景是部分前沿模型厂商对响应 token 收费为提示词 token 的 5 倍。

  25. arXiv · cs.AI22

    带“关闭开关”的 AI 权利:权利平衡与正当程序如何调和 AI 权利与 AI 安全

    一篇法律视角的论文论证 AI 权利与强制关闭开关(off-switch)完全兼容。研究认为,即使未来 AI 系统被赋予自然人人格和生存权,只要接受定期或持续的安全审查,法律仍允许实施可逆的暂停式关闭开关(保存权重与状态);而永久删除的 kill-switch 则可能面临权利原则的阻碍。作者强调不主张制造具备自然人人格资格的系统,只是为此类系统出现时的法律应对提供替代方案。

  26. Hugging Face · 新模型:abliterated62

    koldfrontier 发布 Swift1.5-Qwen3.8-Flash-Next 的全量 abliterated 去对齐版本

    koldfrontier 在 Hugging Face 发布 ukisai/Swift1.5-Qwen3.8-Flash-Next 的 abliterated 衍生版,对全部 48 层共 24,720 个组件逐权重移除拒绝方向,无训练、无新数据。实测显示未授权框架下的保护性拒绝从 85% 降至 69%,有害请求服从率从 91.0% 升至 94.5%,良性提示的 KL 散度仅 0.0057,但 8 项能力探针丢了 3 项;方向捕获依赖 thinking 开启的提示模式,enable_thinking=False 时有害服从率仅 2.5%。作者定位其为安全研究产物而非安全对齐模型,数字为单模型案例研究。

    推荐理由:原文给出逐组件消融方法与消融前后的拒绝率、KL 散度对照数据,可据此判断这次去对齐实际改变了什么、损失了多少能力。

  27. arXiv · cs.AI13

    Evidence Field:用于医学影像的自适应覆盖程序架构

    研究者提出 Evidence Field,一种可训练的空间程序架构,联合输出类别分数、所选覆盖程序与带符号证据,使医学影像分类器的空间决策计算可被独立复现。论文给出精确单重覆盖、注册文法内最优性及符号分数守恒等理论保证,并定义了 2D 与 3D 网格上的算术与存储扩展。在另行报告的病理组织学应用中,跨 held-out 中心的按患者分离训练评估为该架构提供了实证支持。

  28. Hugging Face · 新模型:uncensored38

    Qwen-Image-2.1 无审查版 GGUF 量化发布

    NeverWantedJr 基于 Qwen/Qwen-Image-2.1 上游权重发布无审查版 GGUF 量化文件,提供 BF16(14.23 GB)到 Q4_0(4.15 GB)多种规格,推荐 Q4_K_M(4.60 GB)兼顾体积与质量。该版本无内置安全检查器,可直接生成成人及 NSFW 内容,配套 qwen3vl_8b 文本编码器与 VAE 文件,通过 ComfyUI 与 ComfyUI-GGUF 本地运行,文本编码器卸载到内存可节省 9–17 GB 显存。

  29. arXiv · cs.AI52

    DialogMem:评测3D环境中对话引导的具身记忆基准

    论文提出 DialogMem,一个两阶段基准,智能体从时间对齐的 RGB-D 观测与对话流中构建记忆,再用于实例级物体导航和问答。基准覆盖 27 个真实 3D 场景的 142 个 episode,含 14,193 个 QA 对和 11,890 条导航指令;在统一框架下评测九种记忆表示。实验显示,评估时把对话附加到视觉记忆可显著提升 QA 但几乎不改善导航,说明相关对话存在于记忆中却未绑定到具体物体。诊断实验进一步识别出三个瓶颈:记忆形成时的物体级绑定与组织、正确条目的检索,以及空间位置定位。

    推荐理由:论文在统一框架下对比九种记忆表示,指出对话融入视觉记忆对导航帮助甚微,并定位了物体级绑定、检索与定位三个瓶颈。

  30. arXiv · cs.CL45

    ECHO:超越辅助式多 token 预测的高效因果自递归

    论文提出 ECHO(Efficient Causal Self-Recursion),用主干模型自身最后一层预测所有未来 horizon,并以 Dynamic Depth Sampling(DDS)按深度衰减概率采样训练深度,省去辅助 MTP 模块的额外开销。预训练中增加的深度转化为下游准确率,集中在推理与代码任务上,训练开销仅为训练每个深度的一半;推理时模型自任 drafter,可在超出训练深度的范围起草,并在开放式高熵生成中保持 draft-target 对齐。该优势在翻倍 token 预算、重复预训练和 SFT 后仍然保持。

  31. arXiv · cs.CL32

    BanglaBBQ:面向孟加拉国语境的问答偏见基准

    BanglaBBQ 是一个覆盖孟加拉语和英语的问答偏见基准,捕捉孟加拉国语境下的刻板印象,保留了 140 个改编模板并新增 5 个本地类别、372 个经人工校验的新模板。评测 Qwen3-4B、Qwen3-8B、GPT-4.1-mini 和 Gemini 2.5 Flash 四个模型显示:语境模糊时所有模型都倾向刻板印象,且英语结果无法预测孟加拉语中的表现。

10月17日周六
  1. arXiv · cs.AI35

    CorrFlow:自校正流匹配框架

    研究者提出 CorrFlow,一种自校正流匹配框架,通过轻量级 refiner 复用模型中间表征,对基础模型的速度预测进行残差校正。该方法每步仅需一次轻量 refiner 评估,无需额外基础模型评估。在类条件图像生成、文生视频和图生视频任务上均优于对应基础模型,提升视觉质量与物理一致性。

  2. arXiv · cs.AI39

    ReTRACE:基于反馈引导的 LLM 智能体化学逆合成规划框架

    研究者提出 ReTRACE,一个将 LLM 置于化学工具环境中的逆合成规划智能体,可整合分子工具、单步预测引擎、可购买原料库与多准则路线评估器,并在搜索中根据评估反馈持续改进路线。使用 Claude Opus 4.8 时,ReTRACE 提出的 top 10 路线中至少一条通过审计的比例在三个 benchmark 上分别达 87.4%、95.0% 和 86.7%。两个前瞻性湿实验合成表明其路线经专家修改后可转化为可执行流程。

  3. arXiv · cs.AI43

    我们对 VLM token 剪枝的评估方式对吗?超越准确率与 token 数量的反思

    一项 arXiv 研究指出,VLM 视觉 token 剪枝的现有评估存在缺陷:聚合准确率可能掩盖剪枝方法是否真正识别关键视觉 token,而保留 token 数量也不能可靠反映端到端效率。作者提出 PAA-Bench 评估框架,并用 Random-Pass@k 和 Preservation-Constrained Speedup(PCS)分别衡量随机剪枝下的鲁棒性与共享保留目标下的最大端到端加速。在 8 种方法、3 个 VLM 骨干、9 个 benchmark 上的实验表明,更强的 token 压缩未必带来更高加速,效率排名随保留目标而变化。

  4. arXiv · cs.AI39

    迈向集体模型智能:模型能力刻画与协同调度

    SinapisAI 团队提出实现集体模型智能的系统方案,包含 Model Eval、Mio(Models in One)和 Mos(Model Serving OS)三个组件,分别解决能力刻画、模型选择协作与高效执行。在九个公开 benchmark 上,Mio 1.0 Lite 取得最高平均分和最低平均成本,单请求成本比最佳替代方案低 73.7-97.5%;预热共享缓存将模型文件检索加速最高 23.3 倍。

  5. arXiv · cs.AI40

    LLM 智能体能解决服务投诉吗?ServiceBench 首个投诉处理基准发布

    研究者推出 ServiceBench,据称是首个专注投诉处理的基准,包含 2,500 个场景、覆盖 184 类投诉和五个服务行业,并提出 APCS 模拟方法与基于公正性的评测框架。实验显示,即便强大的 LLM 智能体也难以主动收集信息、策略性引导对话,常过早补偿。用 SFT 和 DPO 做针对性后训练可显著改善,使小模型在多项结果上追平或超越大模型。