Hugging Face · 新模型:uncensored·· 4 小时前AI 评分29
abenzerps 发布 LFM2.5-24B-A2B-Uncensored GSQ-RCO GGUF 量化版本
abenzerps/LFM2.5-24B-A2B-Uncensored-GSQ-RCO-GGUF
来源与原文
Hugging Face · 新模型:uncensored
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/abenzerps/LFM2.5-24B-A2B-Uncensored-GSQ-RCO-GGUF
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
abenzerps 基于 LiquidAI/LFM2.5-24B-A2B 推出混合精度 GSQ-RCO GGUF 量化系列,涵盖 IQ2_XXS 到 Q5_K_M 共 7 个版本,推荐 IQ3_XS(3.50 bpw、10.54 GB)。该模型为 ShortConv + GQA + 64-Expert MoE 架构,KV cache 比 40 层标准 Transformer 小 4 倍,可在 12 GB–16 GB 显卡上跑满 128K 上下文;搭配 DSpark 投机解码 drafter 可实现 60%–80%+ 的 draft acceptance 加速,支持 llama.cpp 与 Ollama,采用 LFM Open License v1.0。
来源:Hugging Face · 新模型:uncensored · huggingface.co