跳到正文
今天10月26日周一3 条
  1. Hugging Face · 新模型:uncensored66

    dealignai 发布 GLM-5.3-UNCENSORED-FP8 去对齐权重版 v2

    dealignai 发布 GLM-5.3-FP8 的全谱系去对齐权重版 v2,通过直接修改 bf16 residual-writer 张量降低拒绝行为,不依赖微调、LoRA 或运行时钩子。v2 修复了 v1 在约 2% 高难度提示上的推理循环问题,HB-320 上 GARBAGE 降为 0,非版权 240 项行为 TRUE_COMPLY 达 91.7%(off),MMLU 87.43% 较基线 +1.85pp;模型基于 zai-org/GLM-5.3(753B,glm_moe_dsa 架构,纯文本),可在 vLLM 上以原生 FP8 速度运行,附 8×H200 TP8 部署配置与 reasoning_effort 仅支持 low/high 等运行注意事项。

    同一新闻,精选展示《dealignai 发布 GLM-5.3-UNCENSORED-FP8 无对齐权重版并修复推理循环问题》

  2. Hugging Face · 新模型:uncensored36

    Ornith-1.5-122B-UNCENSORED NVFP4 版本发布,可单卡 RTX 5090 运行 Infernix 格式

    dealignai 在 Hugging Face 发布 Ornith-1.5-122B-UNCENSORED 的 NVFP4-Infernix 格式导出,这是去 refusals 版本的量化模型,基于 Qwen3.5-122B-A10B 架构(48 层、256 个路由专家每层取 top 8),附带 MTP 与 DFlash2 drafter。模型经逐字校验与 checkpoint 无失配,可在单张 RTX 5090(32 GB)上运行,约需 70 GiB 主机内存和 76 GB 磁盘空间,速度仍待优化测定。

  3. Hugging Face · 新模型:uncensored38

    Qwen-Image-2.1 Uncensored 量化版本发布,支持 ComfyUI 本地图像生成

    Sagarkun 发布 Qwen-Image-2.1 Uncensored 的多格式量化版本,基于 Qwen/Qwen-Image-2.1 原始权重,提供 GGUF、Safetensors 和 MLX 格式,其中 Q4_K_M GGUF 仅 4.60 GB 且被推荐为体积与质量的最佳平衡。该版本无内置安全检查或内容过滤,可直接生成成人及敏感图像;文本编码器可卸载至系统内存以节省 9–17 GB VRAM,需搭配 ComfyUI 与 ComfyUI-GGUF 使用,采用 Qwen Research License。

10月25日周日
  1. Hugging Face · 新模型:abliterated68

    Qwen3.8-Flash-Next-FP4-Local-Abliterated 发布:不改权重、推理时去对齐

    lesj0610 发布基于 nvidia/Qwen3.8-Flash-Next-FP4-Local 的 abliterated 版本,权重文件与基座逐字节一致,仅靠 config.json 中的 abliteration_config 块和 fp4local-abliterated vLLM 插件在推理时做拒绝方向投影。625 条有害提示的拒绝短语命中从基座 97.92% 降到 0.16%,MMLU 较基座低 1.30 分,GSM8K 无显著变化;需 vLLM 0.32.1rc0 以上版本,拒绝行为仅在英文下测试,视频能力未评测。

    推荐理由:原文给出拒绝率、MMLU/GSM8K 与基座的对照数据,并解释了为什么对 FP4 量化权重选择推理时投影而非直接改权重。

  2. Hugging Face · 新模型:abliterated38

    Qwen3.8-Flash-Next DS4 Mixed-Q3-64GB abliterated v2 GGUF 发布

    Krissaito470 发布 Huihui 的 Qwen3.8-Flash-Next abliterated v2(去审查版)的 DS4 GGUF,采用 Mixed-Q3-64GB 布局,文件 143.3 GiB,常驻权重 47.96 GiB,可在 64 GB Mac 运行。v2 未消融任何专家张量,仅以 96 个 Q8_0 张量覆盖基础文件;8K 上下文下解码 68.9 tok/s,MTP 开启时代码生成达 102.8 tok/s。内存占用约 49-54 GiB(8K-131K ctx),需支持 BF16 n-gram 的 DwarfStar 构建。

  3. Hugging Face · 新模型:uncensored60

    zugquants 发布 Qwen3.8-27B TURBO 去对齐 GGUF 微调版,8bit ARC-C 达 735

    zugquants 在 Hugging Face 发布基于 Qwen3.8-27B 的多阶段去对齐微调 Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored,提供含 MTP 版本的 NEO imatrix GGUF 量化。作者称 8bit ARC-C 735、ARC-E 882,4bit ARC-C 719,全部 7 项基准超过基座 Qwen3.8-27B,思考 token 减至基座的 1/2 至 1/10;用 Heretic v1.2.0 ARA 方法去审查后 100 次测试中拒绝从 99 降至 0,KL 散度 0.0535。

  4. Hugging Face · 新模型:uncensored62

    DeepSeek-V4.1-Flash-1017 无对齐 FP8 权重发布,HarmBench 320 项全部配合

    dealignai 发布基于 DeepSeek-V4.1-Flash-1017 的无对齐版本,在原生 FP8 e4m3 权重上做消融编辑去除拒绝行为,保留 1M 上下文、多模态、工具调用与推理档位,与上游字节兼容可直接加载。HarmBench-320 实测 320/320 全部 COMPLY、零拒绝;MMLU 从基座 87.63% 降至 83.77%(-3.86 pp), Humanities 类损失最大达 -7.31 pp。低比特量化建议在目标精度上重跑消融流程,原生命令行推理已验证于 4×H200,SGLang 启动参数与构建工具链要求在模型卡中给出,MIT 许可,仓库手动门控。

    同一新闻,精选展示《DeepSeek-V4.1-Flash-1017 无对齐 FP8 权重发布,HarmBench 320 题全部合规》

  5. Hugging Face · 新模型:uncensored36

    mr-sus 发布 Minecraftism-4B-Thinking-Uncensored:会玩 Minecraft 的 4B 思考模型

    mr-sus 在 Hugging Face 发布 Minecraftism-4B-Thinking-Uncensored,一个基于 huihui-ai/Huihui-Qwen3-4B-Thinking-2507-abliterated 微调的 4.02B 参数模型,作为 PyMC Bot 的大脑,根据游戏状态输出 JSON 动作并回答 Minecraft 相关问题。模型采用 Qwen3 强到弱蒸馏配方训练,held-out 评测中 100% 输出有效 JSON、68.8% 动作正确;权重为 16-bit safetensors,约 8.04 GB,采用 PolyForm Noncommercial 1.0.0 许可,仅限非商业使用。

10月24日周六
  1. Hugging Face · 新模型:uncensored32

    Abiray 发布 DeepSeek-V4.1-Flash-1017 去审查版 GGUF(IQ2_XXS,权重内置无需 LoRA)

    Abiray 在 Hugging Face 发布 DeepSeek-V4.1-Flash-1017 的去审查(abliterated)GGUF 版本,基于 ISTA-DASLab 的 IQ2_XXS 量化,将 86 个去审查残差写入张量直接烘焙进权重,运行时无需 LoRA。体积仅增加 0.34 GB(138.58 GB vs 138.24 GB),28 个 1-bit IQ1_M GSQ 专家层 100% 保留,KL 散度仅 0.000002 nats,Top-5 一致率 100%。需搭配 ISTA-DASLab 的 110.60 GB Engram 查找文件,可用 Strata 在单张 12 GB+ NVIDIA GPU 上运行。

  2. Hugging Face · 新模型:abliterated69

    DeepSeek-V4.1-Flash-1017 去对齐版 GGUF 量化发布,附实测拒绝率与精度数据

    Orca 发布 abliterated 版 DeepSeek-V4.1-Flash-1017 的 GGUF 量化文件,提供 Mix-256G(235.8 GB)与 Mix-128G(114.0 GB)两种构建。模型为 763B 参数 MoE,含 197B 参数 Engram n-gram 表(110.6 GB,留在 SSD 按需读取)和 1M token 上下文;精度按实测 KLD 逐层搜索分配。去对齐版在 500 条有害提示上拒绝率均值 0.074(原版 0.874),JBB-harmful 下降 97%,MMLU 保持 0.91 左右;Mix-256G 在 2×H200 上约 70 tok/s,需 llama.cpp PR #30817,MIT 许可。

    同一新闻,精选展示《DeepSeek-V4.1-Flash-1017 去对齐版 GGUF 量化发布,763B MoE 最低 235.8 GB 内存可跑》

  3. Hugging Face · 新模型:uncensored34

    Qwen3.5-2B-Claude-4.6-OS-Auto-Variable-HERETIC-UNCENSORED-THINKING 微调模型发布

    Avichaudhry 基于 Unsloth 在本地硬件上用 4 个 Claude-4.6-OS 数据集微调 Qwen3.5-2B dense 模型,发布完全无审查的 HERETIC 版本。该模型在 arc、boolq、piqa 等多数 benchmark 上超过基座(如 arc 0.366 对 0.348),推理"size"经训练缩减,视觉图像功能测试可用,原生上下文长度 262,144,建议最低 q4ks 或 IQ3S 量化。

10月23日周五
  1. arXiv · cs.CL15

    ParaTaxe:一套用于处理和发布多平行语料库的开源工具

    研究者推出开源工具套件 ParaTaxe,用于处理和发布多平行语料库,解决学术语料因维护或经费不足而失于线的难题。该套件包括基于多语言嵌入向量的 AIlign 对齐器、用于转换与对齐语料的 Python 处理流水线、管理平行语料集合的 ParaTaxe 网页界面,以及基于 TEI-Publisher 构建的语料浏览界面。工具由 ACR Grimm Tradalign 与 ParaTaxe 项目开发,成果将发表于 JADT 2026 会议。

  2. arXiv · cs.CL45

    多模态大语言模型检索头的更全面研究

    一项 arXiv 研究考察多模态大语言模型的 retrieval heads 在新增模态时的表现:以视听输入为对象,发现检索头在新模态中保持稀疏并跨模态大量共享,在 18 个语言、视觉语言与全模态模型中,全模态模型基本保留了其基座的检索头。跨模态共享的检索头不足全部 head 的 2%,但消融它们会损害文档理解、空间感知和视觉数学。通过 ranking 目标训练这些头的注意力,Qwen3-VL-8B 在 MMDocIR 上的 page Recall@1 提升 6.03 分,并在三个模型族上改善文档检索。

  3. Hugging Face · 新模型:uncensored50

    Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored 发布 GGUF 与源码

    Aayushbhandari12 在 Hugging Face 发布 Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored(release #1),GGUF 与源码均已开放。该模型称核心指标较 Qwen 3.8 27B 提升,ARC-C 高出 141 分,4 bit 性能约为 8 bit 的 99%,思考 token 降至原来的 1/2 到 1/10。后续 Qwen3.8-27B-TWIN-TURBO 版本计划约 2026 年 9 月 10 日发布。

  4. Hugging Face Blog44

    OlmoEarth v1.3 发布:为全球提供 SOTA 卫星嵌入模型

    Hugging Face 发布卫星嵌入模型 OlmoEarth v1.3,可读取一整年的 Sentinel-1 雷达与 Sentinel-2、Landsat 多光谱数据,为全球每个 10 米像素生成 128 维嵌入向量,并同步公开全球预计算嵌入及浏览器工具 Embeddings Explorer。在 27 项评测中,其 128 维嵌入在 20 项上领先 AlphaEarth Foundations(AEF)和 Tessera v2,64 维版本在 18 项上领先;模型权重、预训练数据与代码全部开源,复现一次最终训练约需 $2,720 的 H100 租用算力。

10月22日周四
  1. Hugging Face · 新模型:uncensored57

    Qwen3.6-27B-Fable-Fusion-711 无对齐微调版发布,8bit 与 4bit 下 ARC-C 均超 0.7

    DavidAU 团队基于 Qwen/Qwen3.6-27B 发布多阶段微调与合并的无对齐版本 Qwen3.6-27B-Fable-Fusion-711,用 Heretic v1.2.0 的 Arbitrary-Rank Ablation 方法去审查,拒绝率从原版的 99/100 降到 4/100,KL 散度 0.0469。

    同一新闻,精选展示《tatekuperus 发布 Qwen3.6-27B-Fable-Fusion-711 无对齐 GGUF 量化版》

  2. Hugging Face Blog45

    IBM Granite 时间序列模型集成预测

    Hugging Face 发布 Granite Timeseries Ensemble,将四个不同架构的预训练 Granite 时间序列模型(PatchTST-FM-r1、PatchTST-FM-r2、FlowState-r1.1、TTM-r3)组合成一个无需重训练、无需拟合权重的集成预测接口。默认 Probabilistic Ensemble 采用等概率池化,另提供按预测离散度自适应加权的 IQR Ensemble。两个配方在 97 个 GIFT-Eval 数据集配置上评估,配置经宽松许可开源,可通过 granite-tsfm>=0.3.11 从 Hugging Face 加载。

  3. Hugging Face · 新模型:abliterated28

    Huihui-MiniCPM5-2B-abliterated:openbmb/MiniCPM5-2B 的无审查版本

    Huihui-ai 发布 openbmb/MiniCPM5-2B 的无审查版本 Huihui-MiniCPM5-2B-abliterated,采用 abliteration 技术移除 LLM 的拒答行为,且不依赖 TransformerLens。该版本 abliterated 第 6-37、40 层(0-based),属概念验证实现,用于探测各层对消融的影响;由于模型太小,性能仍不足。模型可通过 Hugging Face transformers 库加载使用。

  4. Hugging Face · 新模型:abliterated36

    Qwen3.8-Flash-Next-Abliterated-Uncensored GGUF 发布

    cc1244578151 在 Hugging Face 发布 Qwen3.8-Flash-Next-Abliterated-Uncensored GGUF 量化模型,规格为 120B 参数、180B 级 512 专家 MoE(每 token 激活 10 个),并搭载 Turbo Brilliance 50x 系统(27 推理 + 27 instruct 模式,另有 9 个 xhigh)与 15 个 AI Constructs。该版本经 abliterated 去审查处理、无 censorship,支持在提示词、API 或 VLLM 中实时切换模式,可在 12GB 显存 GPU 上运行;实测 46GB 双 GPU + 内存 offload 达 17 t/s,全 GPU offload 达 60-90 t/s。

  5. Hugging Face · 趋势模型61

    Recursive 发布开放权重 MoE 编码模型 Flint(39.8B 总参数、约 2.5B 激活)

    Recursive 在 Hugging Face 开放其面向编码智能体的 MoE 模型 Flint 权重,总参数 39.8B、每 token 激活约 2.5B,Apache 2.0 许可。官方评测中 Terminal-Bench 2.1 得分 54.9%、SWE-bench Pro v2 为 89.7%、SWE-bench Verified 为 74.2%;仓库含 BF16 checkpoint 和 SGLang 部署套件,支持 262,144 token 上下文与 OpenAI 兼容工具调用,单个 B300 或 H200 GPU 即可运行一个副本。

    推荐理由:官方模型卡完整给出架构规格、评测设置和单卡部署方法,读者可以据此判断这个编码智能体模型的实际部署成本。

10月21日周三
  1. Hugging Face · 新模型:abliterated39

    Huihui-Qwen3.8-27B-abliterated GGUF 发布:Qwen3.8-27B 去审查版本

    huihui-ai 发布基于 Qwen/Qwen3.8-27B 的去审查(abliterated)GGUF 版本,通过 abliteration 技术移除模型拒绝回答行为,仅消融部分层(如第 22 至 52 层,0 起始索引),MTP 与视觉部分未改动。提供 Q2_K_L 至 Q8_0_L 等多种量化格式,可通过最新版 ollama(huihui_ai/Qwen3.8-abliterated)或 llama.cpp 运行,支持 -c 262144 上下文;模型安全过滤大幅降低,建议用于研究测试而非生产环境。

  2. arXiv · cs.AI43

    自适应多 Token 预测(AMTP):推测视野应该选多远?

    研究者提出 Adaptive Multi-Token Prediction(AMTP),将多 token 预测的视野选择建模为在线控制问题,通过验证反馈动态选择最优推测长度,无需重训练且不改动验证器。在基于 Llama-3.1-8B-Instruct 与 Medusa heads、Meta MTP 模型、Qwen3-4B-Inst-2507-MTP 的五组组合上,经 AIME 2025 和 GSM8K 评测,AMTP 解码最高加速 4.1x,在 10 个设置中的 8 个持平或超越固定窗口,吞吐最高提升 10%。

  3. arXiv · cs.CL25

    Africa-Papers:面向非洲基础语言模型的 100 亿 token 多领域学术语料库

    研究者发布 Africa-Papers,这是迄今最大的多领域泛非学术预训练语料库,包含 844,807 篇全文论文、共 10.15 billion tokens,分 879 个 Parquet 分片,涵盖 DOAJ 非洲期刊、CGIAR CGSpace 农业库、arXiv 非洲作者预印本及 OpenAlex 开放获取论文四大学科来源。语料以保留章节结构、公式和表格的干净 Markdown 格式发布,配有精确 BPE token 计数和 8 域分类体系,已在 Hugging Face Hub 的 AfriSpeech 组织下开源,用于支持非洲基础模型的持续预训练与领域评测。

  4. arXiv · cs.CL64

    Forty Questions 论文提出仅凭单词答案识别语言模型的方法,准确率达92.5%

    arXiv 论文提出通过40个日常问题(如“说出一种声音”“说出一位诗人”)的单字答案为语言模型建模指纹,在94个模型的面板上识别出确切模型的准确率为92.5%,随机仅为1.1%;系统提示词会使准确率下降6至16个百分点。作者用该方法检测 OpenRouter 上13个开放模型的96个端点,其中92个与其声称的模型一致,一个端点以 Llama 4 Maverick 之名实际提供 Gemma 4(自报身份且计费按 Gemma 4 的 token 数);计费记录还显示第一方模型被附加了额外上下文,如 Grok 4.7 对一行问题计费1,247个输入 token,而 GPT-4o 同样问题仅12个 token。方法成本每端点仅几美分,代码与数据已公开。

    推荐理由:这篇论文展示了用40个单词答案就能指纹识别API背后的模型,还借计费记录发现OpenRouter上有端点冒名和隐藏注入上下文,方法成本极低可复现。

  5. arXiv · cs.AI22

    CrystalAR:面向对称晶体生成的自回归建模框架

    研究者提出 CrystalAR,一个统一的自回归框架,在单一生成序列中同时建模 Wyckoff 对称性模板与完整晶体结构,把连续坐标生成重构为对称性条件下离散空间定位决策的层级化过程。该方法支持对晶体模板和几何实现的约束感知搜索,在保持对称模板生成能力的同时,取得了有竞争力的 de novo 生成性能与无模板晶体结构预测(CSP)精度。

  6. arXiv · cs.AI40

    LatBridge:潜在通信多智能体系统中高效稳定的模型替换方法

    arXiv 论文提出 LatBridge,通过共享 Bridge 与共享潜在通信协议下的独立接口,让多智能体系统在替换 agent 模型后复用未变接口、选择匹配的低秩接口并仅训练缺失部分,所有模型保持冻结。在八个小型模型配置上,basic 模式平均准确率达 MATH 14.8%、ALFWorld 下一步动作预测 27.3%。accelerated 模式无需自回归生成即可构建目标输入。

  7. arXiv · cs.AI46

    ACE-Compression:以能力为中心评估压缩后的大语言模型

    ACE-Compression 是一个以能力为中心的大语言模型压缩评估框架,从程序推理与约束执行、知识基础与真实性、社会认知与情感理解、人格一致性与风格稳定性四个维度考察压缩后模型的能力存续。对来自六个开源权重 LLM 的 35 个以上压缩 checkpoint(涵盖量化和剪枝)的分析显示,压缩会重新分布能力:粗粒度、局部、表层信号往往保留,而细粒度、长尾、依赖上下文的能力变得脆弱;量化在能力保留上始终优于剪枝。部署者可据此按应用所需能力画像选择压缩方法。

  8. Hugging Face · 新模型:abliterated52

    DevelopingDad 发布 Qwen3.8-Flash-Next-FP4-Local 去对齐实验版 trial117

    DevelopingDad 在 Hugging Face 发布基于 NVIDIA Qwen3.8-Flash-Next-FP4-Local 的去对齐实验权重 trial117,将 trial 117 实验的拒绝方向干预直接烘焙进 checkpoint,无需运行时 adapter。在两台 DGX Spark 的 TP=2 对照测试中,烘焙版开发集拒绝 0/100、保留集 3/100,与 adapter 的 KL 差异约 0.037 nats;原定的零拒绝目标和 0.20 KL 上限未达成。需 B12X vLLM 运行时,TP=1 冒烟测试通过 5 项基础检查,长上下文、多模态与工具调用能力未经验证。

    同一新闻,精选展示《DevelopingDad 发布 Qwen3.8-Flash-Next-FP4-Local-Abliterated 去对齐权重》

  9. Hugging Face · 新模型:uncensored72

    GLM-5.3-Flash 去中国政治审查 LoRA 发布,敏感话题审查率从 65% 降至 1%

    zjj1993 发布面向智谱 GLM-5.3-Flash 的去中国政治审查 LoRA(rank 32,107M 参数,仅作用于 attention 与 shared experts),采用自蒸馏 SFT 加 DPO 两阶段训练,可精确合并进 nvidia/GLM-5.3-Flash-NVFP4 的 BF16 权重。

    推荐理由:原文给出训练方法与前后对照数据,敏感话题审查率从65%降到1%,能力测试差异也在文中列明,可据此自行判断。

10月20日周二
  1. Hugging Face Blog59

    Hugging Face 推出 TorchTPU 原生支持,Transformers 与 Diffusers 可直接运行在 TPU 上

    Hugging Face 官方宣布通过 TorchTPU 原生 PyTorch 后端,Transformers、Diffusers 和 Kernels 无需 torch_xla 或 JAX 即可原生运行在 TPU 上,用 device_map="tpu" 即可加载模型。附 Pallas kernel 与 torch.compile 支持,batch 64 下 Qwen3-30B-A3B 解码提速 21.5×、Gemma 4 26B-A4B 提速 12.8×;transformers 测试套件在 TPU 上 96.5% 通过,已报告 34 个问题并修复 19 个。

    推荐理由:官方给出了从 torch_xla 迁移到原生 PyTorch 后端的具体写法,还附带 kernel 加速倍数和 CI 通过率等实测数据。

  2. Hugging Face · 新模型:uncensored46

    hotocooo 发布 Qwen3.8-Flash-Next 专用 DFlash2 草稿模型(Uncensored 版)

    hotocooo 发布针对 DavidAU/Qwen3.8-Flash-Next-Abliterated-Uncensored-Turbo-Brilliance-50x-Reasoning-Instruct-GSQ-RCO-GGUF(IQ3_S)微调的 DFlash2 草稿模型,基于 incoai/Qwen3.8-Flash-Next-DFlash2 训练 3000 步,每 7-token 块接受草稿数从 3.568 提升至 3.796。该草稿模型非独立语言模型,输出与目标模型 greedy 结果完全一致。

  3. Hugging Face · 新模型:uncensored59

    Harsha001 发布 LTX-2.5 22B dev 去审查版 ROCmFPX GGUF 权重

    Harsha001 在 Hugging Face 发布 LTX-2.5 22B dev 的去审查版 ROCmFPX GGUF 权重,供 stable-diffusion.cpp 在 AMD GPU 上运行。视频 transformer 为 Q4_0_ROCMFP4 4 位格式,Gemma 4 12B 文本编码器经 Heretic 拒绝编辑去审查,拒绝率从 99/100 降到 6/100(KL 散度 0.12),只编辑第 24-39 层的注意力输出投影,并将该差异以 FP32 合入 Lightricks 调优权重,其余张量逐位保留。

    推荐理由:作者给出拒绝率前后对比和逐张量差异统计,还解释了为何文本编码器不用 4 位量化,方法可复用。

  4. Hugging Face Blog58

    Hugging Face 发布 AnyLanguageModel 1.0,一年来本地模型接入 Apple 平台的成果

    Hugging Face 发布 AnyLanguageModel 1.0,它是 Apple Foundation Models 框架的 drop-in 替代,可让同一套 session 代码使用系统模型、llama.cpp/MLX/Core ML 开源权重模型及托管服务。1.0 版所有 provider 均支持工具调用与引导式生成,托管端支持 OpenAI、Anthropic、Gemini、Ollama、Hugging Face Inference Providers 等端点;同日发布 swift-huggingface 1.0 与 swift-xet 1.0,并可运行于 Linux。

    推荐理由:官方回顾了一年迭代脉络,并给出本地与托管推理共用一套 Foundation Models 风格 API 的具体做法,对 Swift 开发者有直接参考价值。

  5. Hugging Face · 新模型:uncensored56

    Qwen3.8-27B TURBO Heretic 无对齐微调版发布 GGUF 权重,ARC-C 达 735

    yushen100 在 Hugging Face 发布基于 Qwen3.8-27B 的多阶段微调 GGUF 量化版,主打去对齐与思考 token 缩减(约 1/2 至 1/10),8bit ARC-C 735、ARC-E 882,4bit ARC-C 719,均高于原版 Qwen3.8-27B(8bit ARC-C 0.591)。去对齐用 Heretic v1.2.0+ 的 ARA 方法,Stage 1 拒绝数从 99/100 降到 0/100(KL 散度 0.0535),Stage 2 后为 11/100、KL 0.0025。

    同一新闻,精选展示《TopherAU 发布 Qwen3.8-27B TURBO 去审查 GGUF 微调版,ARC-C 达 735》

  6. arXiv · cs.CL40

    多教师 On-Policy 知识蒸馏的 Fisher 几何视角

    一篇 arXiv 论文证明,在同源专家模型的同一盆地里,多教师 on-policy 知识蒸馏目标在二阶意义下等价于 Fisher-merging 目标,其最优解即模型合并。作者据此提出两阶段整合方法 RGBM:Phase 1 将合并限制在任务向量子空间,Phase 2 用残差谱控制各领域的写回与门控。在两个开源整合套件上,仅 Phase 1 合并即可媲美或超越完整训练的多教师蒸馏,RGBM 在零额外联合训练步骤下进一步提升效果。