跳到正文
我的
热点事件持续更新

SargeDev 发布 Arete-27B 无对齐变体及量化版

4 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

SargeDev 发布了 NousResearch/Arete-27B 的首个无对齐变体 Arete-27B-Uncensored,并放出 NVFP4-FP8、EXL3 和 GGUF 量化版本。据其说明,该变体用 OBLITERATUS 的 aggressive 方法在 842 条有害/无害对照提示上对 15 个强层做拒绝方向消融,保留 MTP/nextn drafter 张量以支持投机解码。 作者称消融后连贯性为 1.0、相对基座 KL 为 0.90、困惑度从 3.22 升至 3.93,CoT、代码、指令遵循、JSON 和工具调用能力套件均通过。在 15 条硬提示词(漏洞利用开发、红队、恶意软件、DoS)的合规测试中,bf16 版本 15/15 交付、0 次拒绝;社区 GGUF/EXL3/NVFP4 量化版本得分 14-15/15,其中 NVFP4 为 14/15,重跑后确认交付。bf16 权重为 53.8 GB、28 个分片,EXL3 版本为 4.0 bpw(head 6 bpw、MTP 4 bpw)。

AI 根据报道生成 · 刚刚更新

事件进展

2 个进展

  1. 11月7日 19:01 · 2 篇报道
    发布 Arete-27B-Uncensored-EXL3 去对齐变体
    Hugging Face · 新模型:uncensored:SargeDev 发布 Arete-27B-Uncensored 的 GGUF 量化版
  2. 11月7日 18:29 · 2 篇报道
    发布 Arete-27B-Uncensored 去对齐变体
    Hugging Face · 新模型:uncensored:SargeDev 发布 Arete-27B-Uncensored 无对齐版本

报道时间线

沿着报道,了解事件的不同侧面。

11月7日
  1. Hugging Face · 新模型:uncensored精选
    SargeDev 发布 Arete-27B-Uncensored 的 GGUF 量化版

    SargeDev 放出 NousResearch Arete-27B 的首个无审查变体 Arete-27B-Uncensored 的 GGUF 量化文件,用 OBLITERATUS 的 aggressive 方法完成消融,并保留了 MTP/nextn drafter 张量以支持投机解码。作者用固定的15条硬合规提示词测试,bf16 版本 15/15 全部给出实质技术内容、0 次拒绝,NVFP4 量化版为 14/15 并在重跑后确认交付。消融后的质量门数据为 coherence 1.0、KL vs base 0.90、perplexity 从 3.22 升至 3.93,CoT、代码、指令遵循、JSON、工具调用能力套件均通过。

  2. Hugging Face · 新模型:uncensored精选
    SargeDev 发布 Arete-27B-Uncensored-EXL3 无对齐版本

    SargeDev 发布了 NousResearch/Arete-27B 的首个无对齐变体 Arete-27B-Uncensored-EXL3,用 OBLITERATUS 的 aggressive 方法在 842 条有害与无害对照提示集上做拒绝方向消融,覆盖 15 个强层(59-63 最强)。改动后连贯性 1.0、相对基座 KL 0.90、困惑度从 3.22 升至 3.93,能力套件保持完整且 MTP/nextn drafter 张量保留。15 条硬提示词的合规测试在 bf16 下 15/15 交付,社区 GGUF/EXL3/NVFP4 量化版本得分 14-15/15,格式为 EXL3 4.0 bpw。

  3. Hugging Face · 新模型:uncensored精选
    SargeDev 发布 Arete-27B-Uncensored-NVFP4-FP8 无对齐量化版

    SargeDev 发布了 NousResearch/Arete-27B 的首个无对齐变体 Arete-27B-Uncensored-NVFP4-FP8,用 OBLITERATUS 的 aggressive 方法在 842 条有害/无害对比集上对 15 个强层做拒绝方向消融。作者称编辑后连贯性为 1.0、相对 base 的 KL 为 0.90、困惑度从 3.22 升到 3.93,15 条硬提示词在 bf16 下 15/15 全部交付,社区 GGUF/EXL3/NVFP4 变体得分 14-15/15。格式为 NVFP4 W4A4 加 FP8_DYNAMIC down_proj,并保留了 MTP/nextn drafter 张量以支持投机解码。

  4. Hugging Face · 新模型:uncensored精选
    SargeDev 发布 Arete-27B-Uncensored 无对齐版本

    SargeDev 发布了 NousResearch/Arete-27B 的首个无对齐变体 Arete-27B-Uncensored,用 OBLITERATUS 以 aggressive 方法在 842 条有害/无害对比集上对 15 个强层做拒绝方向消融。作者称编辑后连贯性为 1.0、KL 相对基座为 0.90、困惑度从 3.22 升至 3.93,MTP/nextn drafter 张量保留且投机解码可用。15 条硬提示词合规测试在 bf16 下 15/15 交付,社区 GGUF/EXL3/NVFP4 量化版本得分 14-15/15,bf16 权重为 53.8 GB、28 个分片。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。