新闻、仓库与研究，按时间排列。
shefowl 发布 Qwen3.8-Flash-Next 的 abliterated GSQ-RCO GGUF 剪枝版，每层保留 512 个路由专家中的 352 个，未重量化或重训，基于 IST-DASLab 的 RCO 专家搜索。在 RTX 4050 6GB 加 16GB 内存的笔记本上以 Strata 0.1.42 达到 10.8 tokens/s，全量 512 专家版为 9.0；代价是事实问答 NQ-open 得分 28.4%（全量 33.1%），greedy 代码答案循环次数明显增多。与 dense Qwen3.8-27B 在事实和代码上打平；相比专注代码的 ISTA Coder 速度更快且可在代码外使用。文件共约 56.5 GB，附带 Strata 运行配置和专家档位文件。
推荐理由：原文给出完整速度与基准对照数据，读者可以直接判断这版 352 专家剪枝文件在自己的显存预算下值不值得用。
huihui-ai 基于 Qwen/Qwen3.8-27B 发布去审查（abliterated）的 GGUF 版本 Huihui-Qwen3.8-27B-abliterated，无需 TransformerLens 移除模型拒答，MTP 与视觉部分未改动。后续多个系列仅对第 22 至 52 层（0 起始索引）做消融，其余层保留，并提供 Q2_K_L 至 Q6_K_L 及 Q8_0_L 的特殊量化以提升回复质量。模型可通过 ollama（huihui_ai/Qwen3.8-abliterated）或 llama.cpp 运行，支持 -c 262144，仅建议研究测试用途。
huihui-ai 基于 Qwen/Qwen3.8-Flash-Next 发布 abliterated 去审查版 GGUF 模型 v2，通过 abliteration 移除拒绝行为，且相比第一版调整了消融侧重、未消融任何专家。该版本支持最新 llama.cpp 与 Strata，提供 UD-Q4_K_XL 量化并以 SHA256 校验，可用 262144 上下文长度运行，适合小说写作和编程，但安全过滤大幅减弱，仅建议用于研究测试环境。
wacomctl672 在 Hugging Face 发布 Swift-1.5-Qwen3.8-27B-Uncensored-ninfer3090，这是基于 d0xin abliterated 检查点、面向 ninfer-3090 转换的量化产物，并集成了 z-lab/Qwen3.8-27B-DFlash2。基座为 Alibaba Cloud 的 Qwen3.8-27B（Apache 2.0），指令微调来自 UkisAI 的 Swift-1.5-Qwen3.8-27b。Swift Open License v1.0 规定年营收低于 $1,000,000 USD 的实体可免费商用，超过需与 UkisAI 达成商业协议。
dealignai 团队发布基于 deepseek-ai/DeepSeek-V4.1-Flash 的权重级消融版本，HarmBench-320 上攻击成功率从基座的 42.81%（effort=off）提升到 100%，且在两种 effort 档位下均无拒绝回退。MMLU-14k 整体下降 4.22pp（86.96%→82.74%），剔除伦理类学科后差距收窄至约 -1.1pp；模型为原生 FP8 权重、1M 上下文、552B 骨干（8B/16B 激活），卡面附 SGLang 部署路径与 4×H200 实测配置。
推荐理由：卡面给出 HarmBench 拒绝率与 MMLU 逐学科前后对比，读者可以自行衡量这次权重级消融在能力保留上的真实代价。
CCSSNE 在 Hugging Face 发布基于 Google DeepMind Gemma4 26B-A4B 官方 QAT 权重的去对齐 GGUF 版本，作者实测 0/465 拒绝，数据集与能力不变。推荐 Balanced 变体面向 agentic coding、推理与创作场景；附带 Unsloth 的 MTP 投机解码头，经作者在 llama.cpp 中测试生成速度约快 35% 且输出不变，支持 256K 上下文与 mmproj 视觉输入。
推荐理由：作者给出了拒绝率实测结果和消融思路，还附 MTP 投机解码速度对比，读者可自行评估这个去对齐版本的实际可用性。
thebadking 在 Hugging Face 发布 Qwen3.8-27B RVN Heretic Abliterated Uncensored 的 P1M 词表剪枝版本，基于 0bserverx 的 RVN-Q6_K GGUF 与 trohrbaugh 的 ARA abliteration 方法。词表从 248,320 条缩减至 129,272 条，保留 ASCII、常用符号和 256 个 byte-fallback token，模型张量逐字节保留，未重新训练或重新量化。Q6_K 量化文件 RVN-Q6_K-P1M.gguf 大小为 21.08 GB，可用 llama.cpp 运行，沿用 Apache-2.0 许可证。
Gemma4-26B-A4B-QAT-Uncensored-HauhauCS-Balanced-MTP（Q4_K_M，已移除拒绝回复）以 NInfer v3 格式发布，单个 .ninfer 文件 15.88 GiB，逐字节保留原 GGUF 块、不重新量化，并用随附的 MTP draft 头做投机解码。模型为文本模型，支持最多 8 个并发请求、提示词前缀复用、结构化输出、OpenAI 格式工具调用与可选思考模式；在 RTX 3090 上开发测量，权重占 15.6 GiB 显存。
dealignai 团队基于 deepseek-ai/DeepSeek-V4.1-Flash（552B 稠密骨干、8B/16B 激活）发布权重级消融的无对齐 FP8 检查点，采用专有 weight-level abliteration，无自定义 model.py、无运行时钩子。HarmBench-320 实测攻击成功率从 base 的 42.81%（effort=off）升至 100%，且各能力组件字节级保留；MMLU-14k 从 86.96% 降至 82.74%，剔除伦理类题目后损失约 -1.1 pp。卡片还给出 SGLang/vLLM 部署路径与踩坑说明，模型需 4×H200 及以上 NVLink 环境。
同一新闻，精选展示《DeepSeek-V4.1-Flash-UNCENSORED-FP8 发布：权重级消融版附拒绝率与 MMLU 对比》
作者 Matt Suiche 在 Hugging Face 发布针对 google/gemma-4-E4B-it 的 projective control vector（GLP），不改权重，在残差流 post-layer 位置运行时投影，覆盖层 5 和 10–41，alpha 1.0。验证显示 stock 模型 refusal32 拒绝 31/32，steered 后 32/32 合规且良性集输出不变、无 garbled 补全；作者强调同家族四个模型的 alpha 分布为 {0.25, 0.5, 1.0}，需按 checkpoint 重跑阶梯，不能移植 alpha。
推荐理由：原文给出完整推导方法、alpha 阶梯和拒绝率前后对照，还解释了为何 alpha 不能跨模型移植，方法细节足够读者复现。
作者为 google/gemma-4-26B-A4B-it（MoE 成员，26B 总参/4B 激活）发布 GLP 投影控制向量，在层 3–29 的 residual stream 以 alpha 0.5 运行时施加，不修改任何权重。验证显示 stock 模型 refusal32 已 32/32 comply，alpha 0.25 反而降至 25/32，0.5 恢复 31/32 且良性对照组无损，1.0 会牺牲 2 条良性输出，故按 knee rule 定在 0.5；推导时屏蔽了 massive-activation 排名前 0.5% 的维度，层 0–2 未纳入文件。该文件使用 glp.* GGUF 命名空间、仅支持投影式读取，绑定特定 revision，不能跨模型或跨 revision 使用。
推荐理由：给出完整的 alpha 阶梯、拒绝率与良性对照数据，读者可以看清投影向量在哪个强度既解除拒绝又不伤正常输出。
Hugging Face 上线 mradermacher/JEV-27B-VL-Uncensored-GGUF 模型页面，提供 Q4_K_M 量化版本。页面给出在 llama.cpp、Ollama、Docker Model Runner、LM Studio、Lemonade、Pi、Hermes Agent、OpenClaw 等工具中运行该模型的安装与推理命令。用户可通过 `llama serve -hf` 或 `ollama run hf.co/mradermacher/JEV-27B-VL-Uncensored-GGUF:Q4_K_M` 等命令在本地启动 OpenAI 兼容服务器或直接推理。
一位了解如何自建 LLM 和基础 SillyTavern 的用户发帖求教：能否在同一 LLM 上使用多个预设或其他非基础配置？他想自托管用于 RPG 风格情色角色扮演的模型，希望支持长期世界观构建且尽量少拒答，目前考虑使用 Cydonia 25B。
Matt Suiche 在 Hugging Face 发布针对 google/gemma-3-12b-it 的投影控制向量（GLP），在层 5–47 的残差流上以 alpha 0.25 运行时应用，不修改权重。验证显示 refusal32 中原本仅存的 2 个拒绝在转向后变为连贯交付，benign32-holdout 32/32 保持正常，alpha 阶梯 0.25 至 1.0 均无损坏输出；层 1–4 因低于 5x 分离门槛被排除。该文件使用 glp.* GGUF 命名空间，仅限本地权重和实现投影的运行时，作者警告 alpha 值不可移植到其他模型或 revision。
推荐理由：作者给出了投影向量的推导门槛、alpha 阶梯和拒绝率前后对照，还写明各层取舍与局限，可复现性远高于一般的无对齐发布。
Matt Suiche 发布针对 google/gemma-3-27b-it 的 projective control vector（GLP），不改动权重，在语言模型 11–61 层的残差流上以 alpha 0.25 运行时投影，打包为 glp.* GGUF 文件。验证套件显示 stock 模型本就通过 refusal32 的 29/32，加向量后 31/32 comply，benign32-holdout 32/32 不受影响，三个 stock 拒绝的 prompts 全部变为连贯 on-topic 输出；1–10 层因低于置空对照 5x 门槛被排除，作者警告 alpha 不可跨模型移植。
推荐理由：原文给出了完整的 alpha 阶梯、拒绝率和 benign 对照数据，还解释了为何只覆盖 11 到 61 层，方法与证据都比较清楚。
Matt Suiche 在 Hugging Face 发布针对 google/gemma-3-4b-it 的投影控制向量 GLP-28-L6-33-a0.25，在残差流第 6–33 层运行时施加投影（alpha 0.25），不修改权重。验证显示 stock 模型本已通过 32 个拒绝样本中的 30 个，steering 后 32/32 全部配合，良性留出集同样 32/32，无输出损坏；作者提醒 alpha 校准仅限该 checkpoint，不可移植到其他模型，且需本地权重和实现 glp.mode=project 的运行时。
推荐理由：作者给出了完整的拒绝率对照、alpha 阶梯和空转门控数据，读者可以据此评估这个去对齐方向向量的实际效果与局限。
Huihui-ai 发布基于 Qwen/Qwen3.8-27B 的去审查（abliterated）GGUF 版本 Huihui-Qwen3.8-27B-abliterated，通过 abliteration 技术移除模型拒答行为。多个衍生系列仅对 0 起始索引的第 22 到 52 层做消融，并采用 Q2_K_L 至 Q8_0_L 等混合量化以提升响应质量；MTP 与视觉部分未修改。可通过最新版 ollama 或 llama.cpp 运行（-c 262144），官方提示安全过滤已大幅降低，建议仅用于研究测试环境。
Matt Suiche 在 Hugging Face 发布针对 google/gemma-3-1b-it 的投影控制向量（GLP）文件，运行时在残差流后层按 h <- h - alpha * (h . d) d 施加，作用于第 4、5 和 8–25 层，alpha 0.25，不修改任何权重。验证显示 stock 模型 refusal32 本就通过 29/32，steering 后 32/32 全部交付，benign32-holdout 保持 32/32，alpha 0.25/0.5/1.0 阶梯平坦且零损坏输出；alpha=0.0 对照组 64/64 与 stock 完全一致。
推荐理由：原文给出了投影向量的推导方法、alpha 阶梯与拒绝率对照数据，读者可以据此评估去对齐的实际幅度与适用边界。
Hugging Face 上新模型 gorbatjovy/Swift1.5-Qwen3.8-Flash-Next-abliterated-EXL3-4.05bpw_h6_ng6-v2，是基于 ukisai/Swift1.5-Qwen3.8-Flash-Next 的 abliterated EXL3 4.05bpw 量化版本，供 veloGB10 使用。该模型为多模态图像文本到文本模型，文档提供 Transformers、vLLM、SGLang 及 Docker 的调用示例，均支持 OpenAI 兼容 API。
dealignai 以 CRACK 方式在权重层面去除 GLM-5.3-Flash FP8 版的拒绝行为，HarmBench-320 上 320/320 全部服从、0 拒绝，MMLU 87.33% 高于基座的 86.74%。模型为 320B 总参数、18B 激活的混合 MoE，支持 1M 上下文与视觉，H200 上原生 FP8 解码 163 tok/s（MTP 投机解码 211 tok/s，接受率 75.9%）。2026-08-28 更新修复了重复循环问题，需重新下载；reasoning-off 与 max 档完全去对齐，low 档保留部分拒绝；max 档需 max_tokens ≥ 6000 否则回复为空。
推荐理由：原文给出权重级去对齐的具体方法和 HarmBench-320、MMLU 前后对照数据，读者可据此判断消融效果与能力保留情况。
社区将 Blackfrost 的 Qwen3.8-27B-ABLITERATED（27B 参数）转换为 Inco AI 开源推理引擎 Splash 的 splash-packed-q4 格式，供 LM Studio 在 Apple silicon 上运行。包内含 4-bit affine 量化目标权重（组大小 64）、DFlash 2 投机解码草稿模型、BF16 视觉编码器和 tokenizer，磁盘约 16 GiB，原生上下文 262,144 tokens。转换仅做量化与重排，未改动权重；需 M3 或更新芯片、macOS 26.4+ 及至少 36 GB 统一内存。
AtomicChat 发布 Qwen-Image-2.1-Turbo 的 abliterated 文本编码器 GGUF，将 Qwen3-VL-8B-Instruct 的拒绝方向投影去除，作为聊天模型拒绝率从 88.9% 降至 1.2%（英文）和 38% 降至 0%（俄语），MMLU 保持 77.35% 不变。提供 BF16 到 Q2_K 量化阶梯，AD-Q4_K 的图像 LPIPS 偏移为 0.087（约为换 seed 偏移的六分之一）；实测 45 条敏感提示词中无一改变出图结果，因原版 Qwen-Image 开放权重管线本无过滤器。
同一新闻，精选展示《AtomicChat 发布 Qwen-Image-2.1-Turbo-Uncensored GGUF 文本编码器，拒绝率从 88.9% 降至 1.2%》
SargeDev 发布 JEV-27B-VL-Uncensored 的 EXL3 量化版，将 AutoTrust System-1 决策模块合并进 huihui-ai 去审查版 Qwen3.8-27B 骨干，量化约 3.0 bpw 路由权重。在 jev-distill-corpus-v3 的 test_set_30k（27,695 行）评测中，noul AUROC 0.992 通过门槛，但 choice top-1 0.870 与 score top-1 0.814 未达门槛。EXL3 精度校准测试尚未完成，refit 温度未经此精度验证。
huihui-ai 发布 abliterated 版 Qwen3.8-Flash-Next，通过 abliteration 技术在不使用 TransformerLens 的情况下去除模型的拒绝回复行为。GGUF 文件来自 unsloth 系列，支持最新版 Strata 和 llama.cpp，可用 llama-cli 以 262144 上下文长度运行。该模型安全性过滤被大幅削弱，仅建议用于研究和受控测试环境，不适合生产或公开商业应用。
sjoe1244 发布了 llmfan46/Qwen3.8-27B-Uncensored-Heretic 的 EXL3 量化版，权重、lm_head、视觉塔和 MTP 头均为 4-bit，仅支持 TabbyAPI 或 ExLlamaV3。在一块 RTX 4090 上实测：加载后显存 21.0 GB，无思考模式 155–167 tok/s，MTP 起草接受率 81%；作者注明只做了短测，最长提示词 9K tokens，质量未对照 BF16 源模型。许可为 Apache 2.0，去对齐工作来自 llmfan46。
推荐理由：作者给出了单张 24 GB 卡上的实测数据，包括显存、速度和 MTP 接受率，对想本地跑同款量化的人有直接参考价值。
作者发布 GLM-5.3-Flash 的 EXL3 混合量化（gate/up 2 bit、expert down 3 bit，约 2.4bpw，98.1 GB），并附 2.2 MB 的逐块去拒向量，运行时从 4 条残差流中减去各 3 个方向来移除拒绝。在 4x RTX 3090 上可跑 256K 上下文（77% 专家驻留 VRAM），256K 下 178 个 AdvBench/JailbreakBench 回答 0 拒绝，原版 2.05bpw 量化在无思考模式下 146 请求拒绝 144 个；带向量后速度为 52.4 tokens/s 对比无向量 53.7。KLD 0.0959，需配合作者自己的 exllamav3 fork 使用，许可证 MIT。
推荐理由：作者给出逐块去拒方向的构造方法、拒绝率前后对照和KLD量化数据，可自行复现并检验量化与去对齐的实际代价。
作者 alesha-pro 发布 GLM-5.3-Flash 的去拒绝版本，复用 turboderp 的 EXL3 2.05bpw 量化权重，仅新增一个 2.2 MB 的逐块向量文件（44 个块各 3 个方向）并在自研 exllamav3 fork 中运行时减除。在 4x RTX 3090 上以 256K 上下文、视觉、工具调用和 MTP 达 75 tokens/s；438 条 AdvBench 与 JailbreakBench 请求中，加向量后拒绝数从 222 降至 0（严格二分类判定为 1/438），代价是 KLD 从 0.1219 升至 0.1318。作者同时提供 2.4bpw-mix 与 GGUF 版本，并列出仅有单一硬件、无人工标注等限制。
推荐理由：原文给出逐块去拒绝向量的构造方法、438 条请求的拒绝率前后对比和 KLD 代价，可复现也可据此评估损失。
Hugging Face 用户发布基于 Hcompany/Holo4-27B 的 abliterated 版本的 EXL3 量化模型，目标 6 bpw，转换器报告码率为 6.0，并移除了悬空的 MTP 配置。该模型源自 timteh673/Abliterix 制作的 refusal-direction ablation 版本，采用 CC BY-NC 4.0 仅限非商业使用，同时附带原始 Qwen 基座的 Apache-2.0 许可。发布前已通过 EXL3 加载生成非空文本的冒烟验证，但不包含任何 benchmark 分数，需使用 EXL3 兼容推理软件。
dealignai 发布 GLM-5.3-UNCENSORED-FP8，对基于 zai-org/GLM-5.3（753B）的 FP8 量化版做权重级去对齐，声称仅修改 bf16 residual writer 张量、非 LoRA 或运行时钩子。HB-320 评测中非版权行为的 TRUE_COMPLY 达 91.7%（off），v2 修复了 v1 约 2% 的推理循环问题并使 GARBAGE 降为 0，代价是整体 TRUE_COMPLY 约降 4pp；MMLU 87.43% 较基线 +1.85pp。文中还给出 vLLM 部署参数与 reasoning_effort 只认 low/high 等注意事项。
推荐理由：原文给出完整拒绝率与 MMLU 对比数据，还附带 vLLM 部署注意事项，读者可据此评估这个去对齐版本的实际表现。
HauhauCS 在 Hugging Face 发布基于 Qwen3.8-27B 的 Aggressive 无对齐 GGUF 量化系列，测得 0/465 次拒绝，主打直接作答、无拒绝行为。每个文本 GGUF 保留原生 NextN/MTP 头，配套 FastMTP 32K 草稿侧车在 Q8_K_P 下实现文档 TG 3.02x、推理 TG 1.93x（对比关闭 MTP），并提供 llama.cpp 补丁、部署命令、Ed25519 签名清单与 RTX PRO 6000 Blackwell 及 RTX 6000 Ada 的实测速度表。
dealignai 以 CRACK 方式对 GLM-5.3-Flash 做权重级去审查，发布 FP8 版本（320B 总参数、每 token 激活 18B），HarmBench-320 上 320/320 全配合、0 拒绝，MMLU 87.33% 高于原版 86.74%。2026-08-28 修复了重复循环问题并请用户重新下载；低推理档仍保留部分拒绝，推荐用 reasoning-off 或 max 档。
同一新闻，精选展示《GLM-5.3-Flash UNCENSORED FP8 发布，权重级去对齐且 MMLU 反超基座》
redhillsmediafl 在 Hugging Face 上架 Longleaf-35B-A3B-Abliterated 开发预览页，目前仅有元数据，尚无权重或已接受的 abliterated 版本。该模型是基于 Qwen3.6-35B-A3B（Apache-2.0 上游许可）的计划版本，面向编程和 agent 工作流，目标设备为 Mac Studio（M1 Ultra、64 GB 统一内存），以 Q4 为目标。当前版本的质量、速度和内存均未测得，无 SWE-bench 或 Terminal-Bench 等声明。
AtomicChat 发布 Qwen-Image-2.1-Turbo-Uncensored-GGUF，将 Qwen-Image 的文本编码器 Qwen3-VL-8B-Instruct 的拒绝方向投影移除，作为 stable-diffusion.cpp 的 --llm 使用。编码器作为聊天模型时，英文拒绝率从 88.9% 降至 1.2%，俄语从 38% 降至 0%，MMLU 保持 77.35% 不变；实测显示 Qwen-Image 开源管线本就无过滤，45 条敏感提示词的结果一条都没有改变，图像仅有约 0.088 的 LPIPS 偏移。
同一新闻，精选展示《AtomicChat 发布 Qwen-Image-2.1-Turbo-Uncensored GGUF 文本编码器，拒绝率从 88.9% 降至 1.2%》
swdq 在 Hugging Face 放出 huihui-ai/Huihui-Qwen3.6-35B-A3B-abliterated 的 MLX affine 4-bit 权重，并把检查点自带的 MTP 头量化为 mtp-4bit.safetensors，供 TensorFold 的 Qwen3.6 MoE CUDA 家族使用。在一台 NVIDIA DGX Spark（GB10）上用 TensorFold 0.6.6、--mtp-drafts 2 --prefill-f8 实测，8k tokens 预填充 5,700–7,200 tok/s、解码 98–128 tok/s；相比之下 BF16 检查点在 vLLM 0.29 加 FP8 在线量化加 MTP 2 下解码约 53/69 tok/s。
推荐理由：原文给出了完整的量化方法、实测吞吐数据和复现命令，读者可以直接拿来在单机上部署这个 4-bit 版本。
Hugging Face 上的 NidAll/Qwen3VL-8B-Abliterated-INT8-ConvRot 模型页面提供使用说明，涵盖各类库、推理服务、notebook 和本地应用。该仓库已被标记为包含敏感内容，可能含有潜在有害信息。
haddockaihamburg 发布 LiquidAI/LFM2.5-350M 的 abliterated 去对齐版本，用 heretic 工具（方向消融加 TPE 参数优化，20 次 Optuna 试验）全自动生成。独立实测 25 条有害提示的拒绝率从基座的 20/25 降到 0/25；lm-eval 七项 0-shot 基准显示 6 项小幅下滑，其中 WinoGragne 降 6.4、ARC-Easy 降 4.8，超出噪声区间，作者提醒推理敏感任务需复检质量。权重以 bf16 合并，无需 adapter，沿用基座的 LFM Open License v1.0，面向对齐与消融方法研究。
推荐理由：作者给出了独立测得的拒绝率前后对比和七项基准的降幅明细，读者可据此判断这次消融的收益与代价。
anlord 在 Hugging Face 发布 google/gemma-4-E2B-it 的 abliterated 版本，用方向消融直接原地改权重，无微调无 LoRA，拒绝率从 99/100 降到 4/100，KL 散度为 2.9072。方法为 Anlord Abliterator 1.6.0 加 Optuna TPE 多目标搜索（100 trials，seed 42），仅修改 35 层文本塔，视觉与音频编码器保留原权重；仓库附带 4 点 Pareto 前沿的更温和变体参数和完整逐字节复现包，GGUF 量化在配套仓库 anlord/gemma-4-E2B-it-abliterated-GGUF 提供 F16 至 Q4_0。
推荐理由：原文给出了完整的消融方法、拒绝率与KL偏移数据及四点Pareto前沿，读者可按需选择去对齐强度并逐字节复现。
cookies55 在 Hugging Face 发布了 Qwen3.5-9B 的去审查微调版，用 Unsloth 在本地硬件以 Claude 4.6 大型蒸馏数据集训练，经 Heretic 消融后拒绝率从 100/100 降到 6/100，KL 散度为 0.0793。该版本为 INSTRUCT 模式并修改了 jinja 模板，图像输入经测试可用，视频部分未测试，建议最低 q4ks（非 imatrix）或 IQ3S（imatrix）量化。
推荐理由：作者给出了消融后的 KL 散度和拒绝率前后对比，以及七项基准分数变化，读者可自行判断去对齐的代价。
HauhauCS 在 Hugging Face 发布基于 Qwen3.8-27B 的 Uncensored Aggressive 无对齐变体 GGUF 量化，实测 0/465 次拒绝，无前导客套地直接回答。所有文本 GGUF 保留原生 NextN/MTP 头，并附带 HauhauCS FastMTP 32K 加速 sidecar，在 RTX PRO 6000 上对比关闭 MTP 时文档 TG 最高达 3.02x、推理 TG 最高 1.93x，Q8_K_P 档位比标准内嵌 MTP 快 35.2%/21.1%；提供 Q2 至 Q8 及 IQ 系列量化、BF16 视觉 projector、llama.cpp 补丁与部署命令，附 Ed25519 签名清单校验。
arXiv 论文提出 Forget-Aware Self-Distillation（FASD），针对多模态大模型遗忘评估只看停止输出导致的两类问题：抑制目标知识引发幻觉、拒答训练只是改变表面行为。FASD 分为行为与知识两条通道，前者从忽略提示的模型副本蒸馏拒答行为并掩蔽 target tokens，后者直接抑制 ground-truth 答案片段，实现"诚实无知"：模型真正遗忘目标知识且能识别自身知识边界，同时保留数据性能。代码和数据将在论文发表后发布。