跳到正文
Hugging Face Blog·· 12 天前精选AI 评分73

Apertus 1.5 发布:8B 与 70B 开放权重模型新增多模态与思考模式

Apertus 1.5 Release Notes

来源与原文

Hugging Face Blog

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/blog/swiss-ai/apertus-v15-release-notes

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Project Apertus 发布 Apertus 1.5,在 8B 和 70B 两代模型基础上以继续预训练方式加入图像与音频理解、可选思考模式,上下文窗口扩至 262,144 tokens(4 倍),权重于 2026 年 7 月 24 日以 Apache 2.0 许可上传 Hugging Face。8B 与 70B 分别新增 4T 和 2T tokens 训练数据,多模态通过 Emu3.5 图像 tokenizer 和 WavTokenizer 以 early-fusion 方式并入词表,架构不变;后训练含 SFT、RLVR、DPO 与 SDPO,并公开中间检查点、数据混合与技术报告(arXiv:2610.15542)。

推荐理由

官方发布说明完整公开了四阶段预训练、五阶段后训练流程与中间检查点,读者可复现各阶段对模型行为的影响。

来源:Hugging Face Blog · huggingface.co