LiquidAI LFM2.5-24B-A2B-Uncensored 发布 BF16 源 OpenVINO IR 变体

LiquidAI 的 LFM2.5-24B-A2B-Uncensored 推出 BF16 源 OpenVINO IR 变体，将 rank-1 atomic.abliterate LoRA 以 1.75 缩放融合进第 14–39 层，运行时无需适配器。该模型为 40 层、64 专家、top-4 路由的 Lfm2MoeForCausalLM，FP16 主体加 INT8 非对称 MoE 专家权重，模型体积 24 GB，可在 32 GB Arc iGPU 上加载。在 Intel Core Ultra 7 258V 上单流 128-token 生成达 20.1 tok/s，但该混合卷积/状态模型不支持连续批处理。