Kling 4.0 在 fal 上线并向所有客户开放 API 访问
fal 宣布 Kling 4.0 正式向公众开放,所有客户均可通过 API 访问。该模型支持最长 30 秒带音频的原生视频生成、最多 15 个图像/视频/元素参考以及最多 10 个关键帧的精确控制。新版本还提升了运动、角色一致性和电影感叙事表现。
新闻、仓库与研究,按时间排列。
fal 宣布 Kling 4.0 正式向公众开放,所有客户均可通过 API 访问。该模型支持最长 30 秒带音频的原生视频生成、最多 15 个图像/视频/元素参考以及最多 10 个关键帧的精确控制。新版本还提升了运动、角色一致性和电影感叙事表现。
一项名为 SPOOK 的黑盒研究用简单像素级爬山算法对空白画布施加稀疏像素编辑,测试多模态对比编码器与自监督视觉编码器在自然图像流形之外的表征行为。在 ImageNet 和 Flickr30k 上,面向类别提示词优化的输入在 OpenCLIP 上取得较强的 top-1 和 top-5 定向检索表现;面向类别原型优化的输入在 DINOv3 上达到高目标对齐度。结果表明现代视觉编码器存在共同的流形外失效模式。
BT 联合布里斯托大学与 NVIDIA 提出 InferSlice,一个在电信基础设施上实现 SLO 驱动 LLM 推理的参考架构,集成网络切片、GPU 分区、弹性服务与可观测性,并在 JOINER 英国全国广域网上实现。评估显示不同服务层级呈现不同的时延-吞吐区间,权重流式传输可缩短扩容时间;流水线并行可容忍近中距离跨站点跳数,而张量并行与 prefill/decode 分离在超出单一子网跳数后失效。
研究者提出一个可解释的歌唱情感识别框架,使用一套紧凑的歌唱专属特征,涵盖韵律、频谱、语音学和演唱技巧。该方法结合 SHAP 和 GRAD-CAM 解码模型决策,特征可降低跨歌手差异;在 VocalSet 的跨域评测中发现颤音和咽部技巧是情感表达的关键线索,SHAP 显示颤音受咬字速率影响。
研究者发布旁遮普歌曲毒性数据集 PGT-FG,基于 YouTube 公开歌曲构建,最终含 392 首歌曲的 2,396 个片段,其中 705 段(29.42%)标注为有毒。四名母语标注者产出 2,870 条标注,涵盖二元毒性、八类细粒度类别、严重程度等字段,整体毒性标签 Fleiss' kappa 达 0.6521,暴力类最常见(539 段,76.45%)。数据集已在 Zenodo 公开,不含受版权保护的音频或歌词。
SAAF(Signal-Aware Adaptive Fusion)是一个基于视觉-语言模型的零样本视频异常检测框架,通过双信号自适应采样、阈值门控级联架构和信号感知加权融合三项创新降低计算成本。在四个 benchmark 上,SAAF 在 XD-Violence(92.07%)、MSAD(86.70%)和 ShanghaiTech(80.54%)AUC-ROC 创无训练零样本方法新 SOTA,其中 XD-Violence 和 MSAD 超越有监督基线。其吞吐在三个数据集上较此前最佳零样本方法提升 2.43×、2.63× 和 2.22×,代码已开源,论文被 WACV 2027 接收。
论文提出 Confusion-Aware Skill Evolution(CASE),首个面向多模态情绪识别的 agent-skill 框架,用稀疏自进化的 EmotionSkill 库处理语义相邻情绪间的系统性混淆,推理时动态检索技能并保持 MLLM 主干冻结。在 CA-MER、DFEW 和 EMER 上的实验显示,CASE 将 Qwen3-VL-8B 在 CA-MER 上的平均准确率从 46.80% 提升到 59.13%,且学到的技能可在不同冻结的 MLLM 主干间迁移。
研究者提出 PILOT 框架,将推理建模为潜变量,用先验-后验协同演进方式引导多模态嵌入模型的推理探索。在 78 项任务的 MMEB-V2 基准上,PILOT 在 2B 和 7B 参数下均超越主要基线,整体得分分别提升 3.2 和 3.3 分,其中视觉文档检索提升最大(+6.1 和 +6.4 分)。结果表明关系监督更适合作为塑造训练中推理探索的信号,而非事后奖励。
一项被 AACL 2026 Findings 接收的研究系统分析了 Transformer 视觉编码器如何处理文本及其语义。逐层探测显示,强跨模态映射仅在最深几层出现,且发生在单模态物体与文字识别形成之后,表征从表层向语义层面递进。该层级在对比训练模型中最强;更大的自监督模型和富含文本的训练数据可在无语言监督时部分支持类似行为。
研究者提出 Self-RefineVQA,一个免训练的推理时自我纠错框架,让单个 VLM 迭代扮演生成者、批评者和精炼者,改进表格视觉问答。该框架无需额外标注数据或模型更新,在单语与跨语言表格 VQA 基准上均带来一致的准确率提升,尤其显著提升小模型表现,使 2B-7B 参数的轻量模型可媲美大得多的模型。推理成本呈线性增长,但省去了 SFT 所需的专家标注瓶颈,累计成本更低。
一项 arXiv 研究考察多模态大语言模型的 retrieval heads 在新增模态时的表现:以视听输入为对象,发现检索头在新模态中保持稀疏并跨模态大量共享,在 18 个语言、视觉语言与全模态模型中,全模态模型基本保留了其基座的检索头。跨模态共享的检索头不足全部 head 的 2%,但消融它们会损害文档理解、空间感知和视觉数学。通过 ranking 目标训练这些头的注意力,Qwen3-VL-8B 在 MMDocIR 上的 page Recall@1 提升 6.03 分,并在三个模型族上改善文档检索。
研究者对比了基于 WavLM 的音频母语识别分类器与基于转录文本的 zero-shot GPT-4o 分类器,使用口语学习者英语语料库和 CEFR 均衡评测集。总体上音频分类器在完整转录可用时表现更好,但文本方法在 A2 到 C1 水平占优,音频在 A1 水平更好且对输入长度较不敏感。
arXiv 论文 2610.32370 提出一个物理可控的多模态智能体,用于非平稳响应下科学仪器的逐shot调参,包含符号物理量提取、两层记忆加 MLLM 生成动作、独立动作可行性检查三个可审计组件。在 EXL-50U 四个平台的 455 shots 按时间顺序回放中,物理符号比波形图像的 macro-F1 高 0.21-0.32,检索上下文使与历史动作方向的一致率提升 22.4-42.7 个百分点;在五个离子源的监督运行中,409 次 executed shots 的束提取率达 86.80%。
推荐理由:论文用可审计的多模态智能体在真实聚变装置上做仪器调参,给出了消融数据和监督运行成功率,方法可迁移到类似非平稳控制场景。
腾讯微信视觉团队推出统一视觉语言模型 WeVisOne-VL-4B,基于 Qwen3-VL 构建。该模型通过结构化 next-token prediction 和 9.6M 参数的轻量 pixel decoder,统一了目标级感知(开放词汇检测、指代定位、计数、指向与 OCR)与像素级感知(指代分割、可提示 alpha matting),已在 HuggingFace 开源。
研究者提出 Outcome-Conditioned Visual Credit(OVC),一个即插即用框架,将视觉关联度量与 token 级信用分配分离,解决 RLVR 中统一响应级优势分配忽视视觉观察作用的问题。OVC 复用现有 rollouts,无需辅助奖励模型、过程标注或推理时模块。基于 GSPO-token 实例化后,OVC 在三个模型上使六项基准平均准确率较 GSPO 提升 1.86-2.39 个百分点。
开源应用 Nomi 在 Mac 上提供课堂实时语音转录与翻译,译文显示在原文下方,支持中文、英语、日语等 9 种语言,可离线运行。它还能收集课堂真实提问并作答、检索历史讲座记录、生成 90 分钟讲座的要点总结,并导入 PDF 和幻灯片。应用采用 SwiftUI 与 Rust 构建,基于 MIT 协议免费开源,需 Apple silicon(M1 或更新)和 macOS 26 或更高版本。
一项 arXiv 研究对六个开源 LLM 在英语、法语、越南语和中文中的否定表示进行因果干预分析,发现否定表示可被因果控制且在各语言间高度共享。从一种语言提取的对比激活方向可在其他语言中诱导或移除否定,且每个模型仅需一个 SAE 稀疏特征即可跨语言控制极性。干预还能泛化到另外四种语言及基于 FLORES-200 的句子,数据和代码已开源。
研究者提出 SyncPro,一个同步双流框架,用 Inner 与 Response 两条分支分别负责证据跟踪和面向用户的响应,两条分支共享因果历史且可独立激活,使响应能与进行中的推理并行。该框架通过 189K 双流样本进行监督微调和轨迹级强化学习训练,在三个主动式 benchmark 上提升了响应时机和回答准确率。
研究者对文档分类标准 benchmark RVL-CDIP 进行系统审计,发现其 400,000 份文档中约 10.5% 标签错误,35.2% 的测试集在训练集中存在重复或近似重复。移除页面识别码后 SOTA 模型损失 11 个百分点,图像模型在分布外文档上损失 16 至 28 个百分点。团队重训 25 个模型并发布去标识化修正语料,重训的 13 个模型准确率提升 0.9 至 2.9 个百分点,最高的 LayoutLMv3 达 96.5%。
一项 arXiv 研究测试了 LLM 在同时收到国家身份与语言身份线索时的文化价值表现。在 World Values Survey 选择题探测中,语言线索对答案的影响约为显式国家线索的三倍,但方向偏离对应国家的分布;在 160 万条开放式回答中,点名国家能弥合 30-44% 与模型自身回答的差距。研究认为国家与语言线索应作为不同信号分别评估,而非可互换的文化代理。
研究提出用大语言模型的 in-context learning(ICL)改进音乐 Valence 和 Arousal 连续预测:小任务模型先给出初始预测,再用辅助数据集示例修正。在 MER60 全集作为 held-out 测试集上,基于歌词和音频描述的文本 ICL 用 80 shots 将 valence R² 从 0.110 提升到 0.427,含原始音频的多模态变体仅用 10 shots 达到 0.346。这种免训练方法提供了一种推理时的音乐情感预测策略。
研究者发布 CrisiLangs,将英文危机预警数据集 CrisiText 扩展至意大利语、保加利亚语、德语和希腊语,共涵盖 411 个场景中的 1,000 个事件、五种语言合计 5,000 条事件-预警消息对。微调多语言模型在 ROUGE-L、BLEU 和 BERTScore 上各语言均优于 zero-shot 基线;人类偏好实验显示低解码温度在五种语言中最受青睐。
该综述以任务为中心,将长文档视觉问答(VQA)分解为文档解析、证据组织与检索、生成器组织与学习、评估四个组件,并为每个组件建立细粒度分类体系。时间分析显示研究重心从多模态内容理解扩展到高保真证据获取与持续证据管理。作者展望了证据充分性、可验证可纠正的理解、预算感知协调及持续文档理解等未来方向。
双语语言模型的跨语言迁移与人类 L2 阅读中的 L1 偏向相符。研究基于 12 种母语背景读者阅读英文的眼动数据,发现使用与读者母语匹配的双语模型比单语英文基线和其他母语模型更能预测 L2 阅读时间。这种预测优势集中在晚期眼动指标,受 L1-L2 文字系统重叠程度调节,并在中等水平读者中最明显。
一项 arXiv 研究用 601 对天城文-拉丁文审计身份对测试发现,Qwen2.5-7B 在马拉地语提示下,同一人名判断准确率从拉丁文的 35.1% 降至天城文的 8.5%。在 374 对马拉雅拉姆语对上复现了该效应,0.925 AUROC,且标量校准可恢复 87% 的模型-探针平衡准确率差距。对 Qwen 中间层的干预将马拉地语同一人准确率从 6.5% 提升至 33.5%,不同人准确率保持 98.5%。
MoG-VLM 是一个运动自适应视频异常检测框架,用时间梯度幅度(TGM)做内容感知采样,仅在异常可能性升高的帧附近触发 VLM 推理。该方法在 XD-Violence、UCF-Crime、MSAD 和 ShanghaiTech 四个基准上分别取得 91.91%、84.30%、87.88% 和 78.96% 的 AUC-ROC,其中三个基准在 zero-shot、免训练设置下刷新 SOTA。在 XD-Violence 上较此前最佳提升 +0.57%,同时推理提速 1.31x,代码已在 GitHub 开源。
一篇 arXiv 论文提出“可争议治理”模式:基于 LLM 的专家智能体为有争议的元数据决策生成带评分和引用的论证,steward 可在提交前接受、拒绝、修改或补充论证,治理记录保留证据、干预与结果。工作流包含分级分诊路径、评分与记录模型及已验证决策的先例门控,版本化领域术语表为智能体提供术语与缩写定义。两个 HVAC 用例展示了基于 Brick Schema 的点位分类(附开源参考实现)和关联索赔字段、遥测与服务记录的保修失效模式决策。
开源仓库 UnifiedGroupGen 实现了群—轨道参数化与性质条件流匹配的材料结构生成,将空间群、层群和平面群编译为统一的结构展开、随机先验和训练接口,支持 MP20、C2DB、MPTS52 数据及两阶段 CFG 逆向设计。正式数据 102,608 条,联合划分 82,183/10,190/10,235;共享模型约 18,030,806 参数,1536 次采样中精确回收目标群 1526/1536。物理稳定性验证与公平基准比较仍待完成。
一项 arXiv 研究比较了 81 种语言中 196 个基本概念的关系结构,使用两个多语言模型的词嵌入进行量化。结果显示,社会文化语义的跨语言一致性高于自然与运动语义;社会文化领域内的差异随地理距离增大,亲缘更远的语言在所有领域差异都更大。
研究者推出 TRIAD 基准,用文本-图像-音频三元组评测全模态大模型的歧义消解能力,包含 327 个手写问题、86 个场景组和 18 类歧义。对 14 个全模态系统的评测显示,最佳模型的组级准确率仍落后人类 20 分以上;移除答案选项后模型组准确率跌至个位数,且现有系统在文本和图像并存时常低估音频线索。
研究者发布尼泊尔语-英语夹杂 ASR 基准,含 13,044 条自发播客语句(共 15.45 小时)。两阶段合成到真实适配框架中,仅用 0.95 小时 TTS 合成语音做 SFT,将 MER 从 23.40% 降至 21.52%,语言切换点错误率(SPER)从 35.89% 降至 28.77%;后续 GRPO 仅带来小幅统计显著调整。SFT 同时将尼泊尔语 MER 提升 2.71 pp,而英语词错率保持 3.38%。
论文提出 HFCMA 框架,用于细粒度图文检索,先通过动态粒度发现(DGD)将图像 patch 与文本 token 聚合为语义紧凑的视觉区域和文本短语,再把区域-短语匹配建模为熵正则化的最优传输问题,并引入背景去偏、文本重要性加权和原型一致性正则。在 Flickr30K 和 MS-COCO 上的实验表明,该框架在双编码器检索下提供了结构化局部对齐信息,提升了对细微语义差异的区分能力。
研究者提出视频中心深度研究报告生成任务,并发布技能工作流与评测基准 OmniDR-Bench。该基准包含 50 个中英文任务、覆盖 19 个真实子类别、共 6,414 条标准,并采用 Omni Atomic Rubric Trees(Omni-ARTs)从视听定位、多模态证据使用和交互式呈现三个维度评估。在 18 个智能体配置中,最佳系统仅得 63.3/100 分,代码与数据已开源。
研究者提出 RoSA,一个显著性感知微调框架,用于缓解长文本图文对齐中的「显著性坍缩」问题,即模型过度依赖视觉显著的文本而忽视非显著上下文。RoSA 将图文对分解为互补的显著与上下文视图,结合目标级视觉显著性估计与基于 LLM 的文本分解,并用辅助目标显式对齐两视图。该方法在多个 benchmark 上提升长文本检索性能,辅助目标即插即用,可为现有调优方法带来一致增益,代码与 checkpoints 已开源。
arXiv 论文提出 Dual Exam 评测框架,在物理、数字、社会和科学领域分别固定环境响应测试多模态智能体、固定动作干预测试世界模型。Agent 赛道含 1,088 项、15 类报告维度的 10 种配置,GPT 6 Astra 以 31.3 的 Agent Index 居首;World Model 赛道含 400 个案例、8 个场景,GPT-Image-2 以 21.7 的全覆盖总分领先。150 个案例的耦合试点任务成功为零,揭示了任务表现不均与任务相关状态保持失败的问题。
研究者提出 MQAScore,利用大型音频语言模型(LALM)对二元问题的肯定回答概率,沿流派、乐器、情绪主题、人声、用途五个维度逐一验证原子音乐概念。他们还基于存在/缺失标注和 LLM 引导的概念替换构建验证标签,并提出 Sensitivity-Invariance Ratio 衡量评估器对改变语义替换的选择性响应。实验显示概念级评分可提升问答式与相似度式评估器,MQAScore 可作为全局相似度的可靠、可解释细粒度补充。
研究者提出一种 codebook-free 方法,在 Fisher Kernel 框架内编码多尺度 CNN 特征的二阶信息,用于缺乏几何不变性的图像聚合。该向量的判别力在 INRIA Holidays 和 UKBench 两个困难基准上得到验证,检索精度较 state-of-the-art 显著提升,维度仅略微增加。
一项多语言研究发现,LLM-as-a-Judge 评估中的提示策略不可跨模型迁移:评测模型的选择比提示策略的选择影响更大,同一策略在不同 judge 上效果方向会反转,且低资源语言下稳定性下降。研究测试了 9 种提示策略、4 个开源 judge 模型、27 种语言、4 个任务共 13 个数据集,产出超 100 万条基于标准答案的点对评分,并经人类判断验证。研究建议提示策略应针对具体评估场景验证,跨研究比较需同时考虑 judge 与提示配置。
GitHub 仓库 raguram-3398/AI-engineer 通过一系列自包含、带 README 的可测试项目,展示如何构建可靠的 AI 软件,包含两个已上线的 AI 产品。Sales Call Intelligence 每通电话约 $0.06,代码测试覆盖 95%,隐私测试移除 27/27 项个人信息;Multimodal RAG Engine 基于 52 份 FDA 文档(2,313 页)问答,92% 的答案声明可由引用页面支撑,20/20 道陷阱问题被拒答,每次回答约 $0.001。
AuroraTTS-100K 是一个英文文本转语音模型,参数量不到 100K 即可生成基本可理解的语音。INT8 量化后仅占 127KB,在 CPU 上达 72 倍实时速度、GPU 上达 1120 倍;但遇到难词或长数字时可能含糊不清。