跳到正文
Hugging Face · 新模型:abliterated·· 7 天前AI 评分37

Huihui-DeepSeek-V4-Flash-Vision-Exp-abliterated-exl3 量化分支发布

edp1096/Huihui-DeepSeek-V4-Flash-Vision-Exp-abliterated-exl3

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/edp1096/Huihui-DeepSeek-V4-Flash-Vision-Exp-abliterated-exl3

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Hugging Face 上发布 edp1096/Huihui-DeepSeek-V4-Flash-Vision-Exp-abliterated-exl3,基于 Turboderp EXL3 底座与 Huihui GGUF 供体张量,保留路由专家、视觉与 MTP,替换 18 个注意力输出 B 和 18 个共享专家下投影(Q8_0 解码为 F16)。提供 2.04bpw/75.97 GiB、2.27bpw/83.47 GiB、2.52bpw/94.08 GiB 三个分支,实测移植后上下文 129,996 至 1,046,999,各分支按 1M 窗口配置,测试引擎为 ExLlamaV3 1.5.4 与 TabbyAPI。

来源:Hugging Face · 新模型:abliterated · huggingface.co