Qwen3.8-27B-Uncensored-MLX-6-bit 模型发布
Hugging Face 上发布 bi0h4z4rd88/Qwen3.8-27B-Uncensored-MLX-6-bit，一个基于 Qwen3.8 的 27B 6-bit MLX 量化无审查模型，支持图像输入。页面给出 mlx-vlm 加载与生成示例，并说明可通过 mlx_lm.server 启动本地 OpenAI 兼容服务器，接入 Pi、Hermes Agent 和 OpenClaw 等工具。
#开源模型
新闻、仓库与研究，按时间排列。
Hugging Face · 新模型：uncensoredAI 评分2727 GitHub · 去对齐工具与仓库AI 评分4545 
bd4sur/Nano：可部署在树莓派、路由器与浏览器的开源小型语言模型项目
bd4sur 在 GitHub 开源 Transformer 结构的小型语言模型项目 Nano，主要复刻自 Karpathy 的 nanoGPT，提供 Nano-56M、Nano-168M 等模型及 LoRA 插件。其纯 C 语言推理引擎支持 FP32、Q80、Q4K 量化，可离线部署在树莓派、红米 AX5 路由器、ESP32 单片机集群和浏览器 WASM 中，也适配 Qwen2-0.5B 与 Qwen3-0.6B/1.7B/4B。项目同时支持预训练与监督微调，实测单卡 A100 训练 58M 模型 MFU 约 25%。
Hugging Face · 新模型：uncensored精选AI 评分5858 
Qwen3.5-9B 微调去对齐版 The-Defiant-Fable 发布，附 GGUF 量化与拒绝率数据
DavidAU 与 Nightmedia 发布基于 Qwen3.5-9B 的多阶段微调合并去对齐模型 Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic，提供 16bit 源权重及 NEO IMATRIX 常规与 MTP GGUF 量化。作者称该模型在 7 项基准上超过 Qwen3.5-9B 与 Qwen3.5-27B，ARC-C 达 0.649（bf16）；去对齐方面 KL 散度 0.0793，100 次请求中拒绝 6 次（原模型 100 次），支持 256k 上下文与视觉（需另下 mmproj 文件），MTP 量化在 5090 上 Q4_K_S 可超 185 t/s。
推荐理由：作者给出 KL 散度和 100 次请求中 6 次拒绝的实测数据，可对照原模型判断去对齐程度。
Reddit · r/LocalLLaMAAI 评分4949 
migtissera 发布 Tess-4.5-27B：基于 Qwen 的微调模型，token 用量减少 25%
migtissera（Synthia 作者）发布基于 Qwen 微调的 Tess-4.5-27B，在 150 个 BenchLocal 场景中比基座 Qwen3.8-27B 少生成 25% 的 token 而得分相同。其中 CLI-40 少用 32% token 且得分更高，数据提取少用 43%，BugFind-15 少用 21%。更少 token 意味着更快出答案、上下文窗口占用更少，在本地 GPU 上还可与 draft head 叠加提速。
Hugging Face · 新模型：uncensoredAI 评分4747 NeosQ 发布 Qwen3.8-Flash-Next-Uncensored 的 MTPLX 优化速度量化版
NeosQ 基于 OrcaRouter 去审查的 Qwen3.8-Flash-Next（125B-A6B MoE）BF16 权重，用 MTPLX Forge 按 flash-next-optimized-speed 配方制作 4-bit 量化版，总大小 115.3 GB，保留原生 MTP 投机解码头。在 M5 Max 128 GB 上 MTP 投机解码达 85.7 tok/s，为普通解码的 2.07 倍；需 Apple Silicon、macOS 14+ 及 96–128 GB 统一内存，支持 OpenAI/Anthropic 兼容 API，采用 Apache 2.0 许可证。
Hugging Face · 新模型：uncensoredAI 评分4848 DeepSeek-V4.1-Flash-1017-MXFP4-uncensored 量化模型基准测试数据发布
Hugging Face 上发布 DeepSeek-V4.1-Flash-1017-MXFP4-uncensored 的性能测试数据，对比 Native MXFP4、NVFP4 target、EXL3 2.875 与 EXL3 3.5 四种配置在 1-32 并发下的 chat 吞吐与延迟。Native MXFP4 在 32 并发时达 831.66 tokens/second，为各配置中最高；EXL3 3.5 在 32 并发时为 480.84 tokens/second。
Hugging Face · 新模型：uncensoredAI 评分2121 Gravelrat 发布 L3.1-Dark-Reasoning-LewdPlay-evo-Hermes-R1-Uncensored-8B-IQ4_NL-GGUF 量化模型
Gravelrat 在 Hugging Face 上发布 L3.1-Dark-Reasoning-LewdPlay-evo-Hermes-R1-Uncensored-8B-IQ4_NL-GGUF，为 8B 参数、IQ4_NL 量化的 GGUF 无审查模型。页面给出 Transformers、llama.cpp、vLLM、SGLang、Ollama、Docker Model Runner、Lemonade 等多种运行方式，其中 llama.cpp、Ollama、Docker 等可直接以 IQ4_NL 量化版本拉取运行，vLLM 与 SGLang 均支持 OpenAI 兼容 API 调用。
Hugging Face · 新模型：uncensoredAI 评分1515 Felldude 发布 Qwen3.5-9B-Uncensored FP8 量化模型
Felldude 在 Hugging Face 上架 Qwen3.5-9B-Uncensored 模型，采用 Safetensors 格式，参数规模 9B，张量类型为 F32 与 F8_E4M3。该模型为 FP8 量化版本，目前尚未部署到任何 Inference Provider，暂无下载量数据。
Hugging Face · 新模型：abliteratedAI 评分2121 Huihui-gemma-4-E4B-it-qat-abliterated-oQ4e-mtp 量化模型上线 Hugging Face
Hugging Face 上架 bambocher 的 Huihui-gemma-4-E4B-it-qat-abliterated-oQ4e-mtp，采用 oQ（oMLX v0.7.0）混合精度量化。模型类型为 gemma4，4 bit、group size 64，格式为 MLX safetensors。
Hugging Face · 新模型：abliteratedAI 评分1818 Hugging Face 上架 bambocher/Huihui-gemma-4-E2B-it-qat-abliterated-oQ4e-mtp 量化模型
bambocher 在 Hugging Face 发布 Huihui-gemma-4-E2B-it-qat-abliterated-oQ4e-mtp，基于 gemma4 的 abliterated 模型，采用 oQ（oMLX v0.7.0）混合精度量化。该模型为 4 bit、group size 64，以 MLX safetensors 格式提供。
Hugging Face · 新模型：abliteratedAI 评分1818 Huihui-Qwen3.5-9B-abliterated-oQ4e-mtp 量化模型上线 Hugging Face
Huihui-Qwen3.5-9B-abliterated-oQ4e-mtp 基于 Qwen3.5 9B，使用 o（oMLX v0.7.0）混合精度量化，4 bit、group size 64，格式为 MLX safetensors，已在 Hugging Face 发布。
Hugging Face · 新模型：abliteratedAI 评分2424 DeepSeek-V4.1-Flash-1017 EXL3 3.5bpw abliterated 版本镜像仓库上线
Hugging Face 上线 dealignai 的 DeepSeek-V4.1-Flash-1017 EXL3 3.5bpw abliterated 量化镜像仓库。该仓库为镜像，权重、文档与更新实际存放在同模型的 UNCENSORED 仓库中，后者持续更新并附完整 README 与评测表。
Hugging Face · 新模型：abliteratedAI 评分2020 Huihui-Qwen3.5-4B-abliterated-oQ4e 量化模型上线 Hugging Face
Hugging Face 上发布 Huihui-Qwen3.5-4B-abliterated-oQ4e，采用 oQ（oMLX v0.7.0）混合精度量化。模型类型为 qwen3_5，4 bit、group size 64，格式为 MLX safetensors。
Hugging Face · 新模型：abliteratedAI 评分2424 Huihui-Qwen3.8-27B Swift-1.5 Abliterated IQ3_S + DFlash2 NInfer v3 社区转换版发布
SPK1337 在 Hugging Face 发布 Huihui-Qwen3.8-27B 的 NInfer v3 社区转换版，打包 abliterated Swift-1.5 GSQ-RCO IQ3_S 文本权重（含 MTP）、z-lab 的 DFlash2 draft adapter 和 Qwen3.8-27B vision projector，文件约 13.99 GiB，采用 Apache-2.0 许可。该 artifact 仅供 NInfer-all 运行时加载，不能通过 transformers.AutoModel 直接读取；本地验证 HTTP 端点可正常返回文本，但 DFlash2 接受率、tokens/second 等尚未 benchmark。
Hugging Face · 新模型：abliteratedAI 评分1717 Ephab 发布 SmolLM2-1.7B-Instruct-abliterated 模型
Ephab 在 Hugging Face 上传了 abliterated 版本的 SmolLM2-1.7B-Instruct 模型。模型卡为自动生成，开发者、许可证、训练数据等详细信息尚未填写，仅提示用户注意模型的风险、偏见与局限。
Hugging Face · 新模型：abliteratedAI 评分1818 Huihui-Qwen3.5-2B-abliterated-oQ4e-mtp 量化模型上线 Hugging Face
bambocher 在 Hugging Face 发布 Huihui-Qwen3.5-2B-abliterated 的 oQ4e-mtp 量化版本，采用 oQ（oMLX v0.7.0）混合精度量化。模型类型为 qwen3_5，4 bit、group size 64，格式为 MLX safetensors。
Hugging Face · 新模型：abliteratedAI 评分2222 Huihui-Qwen3.5-0.8B-abliterated-oQ4e-mtp 量化模型发布
Huihui-Qwen3.5-0.8B-abliterated-oQ4e-mtp 在 Hugging Face 上发布，采用 oQ（oMLX v0.7.0）混合精度量化。模型类型为 qwen3_5，4 bit、group size 64，格式为 MLX safetensors。
Reddit · r/LocalLLaMA精选AI 评分6868 
Space Bunny 确认为 MiniMax M3.1 Flash，428B-A23B 权重周四放出
曾在 OpenRouter 榜首停留 10 天、10 月 5 日消失的匿名模型 Space Bunny 确认为 MiniMax M3.1 Flash，API 已上线，权重定于 10 月 23 日放出。参数为 428B 总量 / 23B 激活，1M 上下文，支持文本、图像和视频输入，API 价格 $0.15 输入 / $0.60 输出；官方称在 automation-bench 上超过 Opus 5，在 deepswe 上与 DeepSeek V4.1 Flash 大致持平，terminal bench 上则明显落后（38.1 对 51.8），这些均为 MiniMax 自测数据。作者估算 Q4 量化约 230-250GB，适合 256GB Mac Studio 本地部署。
推荐理由：作者把匿名模型与正式发布对上号，并提醒榜单数字全部来自 MiniMax 自测，读者可据此校准预期。
Reddit · r/LocalLLaMAAI 评分4747 MiniMax M3.1 Flash 发布：Space Bunny 为其早期版本，权重 10 月 23 日放出
MiniMax 发布 M3.1 Flash，并确认 9 月底出现在 OpenRouter 的隐身模型 Space Bunny 是其早期版本。官方称成本为 M3 的 1/3、速度 3 倍，benchmark 成绩为 Automation-Bench 62%、ALE 30%、DeepSWE 74%、BabyVision 91%。API 定价 $0.15/1M 输入、$0.60/1M 输出、$0.015/1M 缓存读取，支持 1M token 上下文窗口和可配置思考强度，权重定于 10 月 23 日发布，参数量未公布。
Hugging Face · 新模型：uncensoredAI 评分2121 DeepSeek-V4.1-Flash-1017 Uncensored REAP-256 4-bit 版本上传至 Hugging Face
Hugging Face 上发布 DeepSeek V4.1 Flash 1017 的 Uncensored REAP-256 4-bit 量化版本，文件正在上传中。完整模型卡将包含模型介绍、评测分数、速度结果，以及在 RTX PRO 6000、A100 和 CMP 170HX 上的运行方法，数小时内发布。
Hugging Face · 新模型：uncensoredAI 评分3636 
Qwen-Image-2.1 Uncensored 量化版发布，提供 GGUF/Safetensors/MLX 多格式本地部署
Hugging Face 上发布 Qwen/Qwen-Image-2.1 的 Uncensored 量化版本，提供 GGUF、Safetensors 和 MLX 格式，用于本地图像生成，Q4_K_M（4.60 GB）为推荐的 GGUF 量化档位。该版本无内置安全检查器，可直接生成成人及 NSFW 内容，需配合 ComfyUI 与 ComfyUI-GGUF 使用，文本编码器 qwen3vl_8b 可卸载至系统内存以节省 9–17 GB 显存。
Reddit · r/LocalLLaMAAI 评分5454 
inclusionAI 发布原生音频语言模型 Ming-3.0-audio-flash
inclusionAI 发布原生音频语言模型 Ming-3.0-audio-flash，为 MoE 架构，总参数 126B、每次推理激活 6.5B，采用 MIT 许可。模型接受音频加文本指令输入，支持语音识别、口语问答、音频理解与音频推理，可输出文本或可选合成语音，覆盖中英文及方言口音，另有 Flash 和 Tiny 两个版本。
Reddit · r/LocalLLaMAAI 评分4545 
inclusionAI 开源音频语言模型 Ming-3.0-audio-tiny 登陆 Hugging Face
inclusionAI 在 Hugging Face 发布紧凑型原生音频语言模型 Ming-3.0-audio-tiny，采用 MoE 架构，总参数 9.3B、每次推理激活 2.7B。模型接受音频与文本指令输入，支持中英文语音识别、口语问答、音频理解与音频推理，可选合成语音回复，支持长音频、多说话人和嘈杂环境，采用 MIT 许可证开源。
Reddit · r/LocalLLaMAAI 评分5454 
inclusionAI 发布 Ming-3.0-audio-flash：126B MoE 音频理解与语音输出模型，MIT 协议
inclusionAI 在 Hugging Face 上发布 Ming-3.0-audio-flash，总参数 126B、激活 6.5B 的 MoE 模型，可接收音频加文本指令并返回文本或语音回复，MIT 协议。模型卡列出转写、口语问答、长录音理解及对语音、环境声和音乐的推理能力，中英文为主并声称支持口音、方言和嘈杂录音；语音输出依赖可选的 Talker，可用内置音色或参考音频。本地部署文档给出 Transformers、SGLang 和 vLLM-Omni 路径，其中 SGLang 文本输出验证配置用四张 GPU，vLLM-Omni 128K 参考配置用八张 80GB H800，均为参考配置而非最低要求。
Reddit · r/LocalLLaMAAI 评分2424 
ISTA-DASLab Qwen3.8-Flash-Next-GSQ-RCO-Coder GGUF 量化更新发布
ISTA-DASLab 的 Qwen3.8-Flash-Next-GSQ-RCO-Coder GGUF 量化更新了专家保留策略，约 25% 的保留专家与上一版不同，但未修改相对基础 IQ3_S 模型的任何保留权重。该模型仍仅支持英文，在有限专家预算下优先保住了英文能力，多语言能力未能保留。
Hugging Face · 新模型：uncensored同新闻AI 评分5858 
Qwen3.8-27B 去对齐微调版发布 GGUF 量化，ARC-C 达 735 并大幅压缩思考 token
Sameer3336s 发布基于 Qwen/Qwen3.8-27B 的去对齐微调版 GGUF 量化仓库，8bit ARC-C 735、ARC-E 882，4bit ARC-C 719，均高于原版 Qwen3.8-27B。模型用 Heretic v1.2.0+ ARA 方法去审查，Stage 1 拒绝率从 99/100 降到 0/100，KL 散度 0.0535；思考 token 减至原版的 1/2 到 1/10。仓库含常规与 MTP 两种 NEO imatrix 量化，作者在 5090 上测得 Q4_K_S 常规版约 75 t/s、MTP 版可超 90 t/s，支持 256k 上下文与视觉（需另下 mmproj 文件）。
Reddit · r/LocalLLaMAAI 评分4242 
Qwen 3.8 27B LoRA「Herbert」玩贪吃蛇：每步决策约 600ms
Reddit 用户用 Qwen 3.8 27B 的 LoRA 决策模型 Herbert（已合并为 gguf）驱动一个贪吃蛇游戏，模型每步从左转、右转、直行三个选项中决策，单次决策约 600ms。测试经 ssh 隧道连接 5090 + 64GB RAM 服务器，一次运行存活 370 ticks，此前最好成绩超 2200 ticks，经 llama.cpp 以 Q4_K_M 量化、200000 上下文运行。
Hugging Face · 趋势模型AI 评分5151 
Bria 发布 Fibo 2.0 Edit Turbo：4 步少步数图像编辑开源权重模型
Bria 发布 Fibo 2.0 Edit Turbo 开源权重模型，是从 Fibo 2.0 Dev 蒸馏出的专用图像编辑模型，4 步推理且无需 classifier-free guidance 即可出图。据 Artificial Analysis Image Arena 2026 年 10 月 20 日排名，它在开放权重图像编辑模型中位列第一。模型为 8B 参数 flow-matching 架构，基于 FLUX.2 VAE 潜空间，用 Qwen3-VL-4B-Instruct 编码提示词，训练数据全部为授权数据；许可证为 CC BY-NC 4.0，商用需与 BRIA 另行协议。支持普通编辑、掩码编辑和最多 4 张参考图编辑，官方也预告了多轮编辑、背景去除、商品图 LoRA 等后续组件。
Reddit · r/SillyTavernAIAI 评分3636 ReadyArt 发布 Swish 26B A4B 模型
ReadyArt 发布 Swish 26B A4B 模型，基于 Dark Scarlett 和 Wicked Tutu 两套数据集训练，前者以深度角色回应著称，后者被作者称为其制作过的最露骨的数据集。作者称两者结合使模型整体保留尺度但质量不错，并计划视时间和资金情况推出 27B 和 31B 版本。
Hugging Face · 趋势模型AI 评分4747 XHToken 发布端侧模型 Spark-X2.6-4B（GGUF）
XHToken 在 Spark-X2.5-4B 基础上推出端侧部署模型 Spark-X2.6-4B，架构不变，靠改进后训练提升编码、Agent、长上下文、多语言与推理能力，在同级开源模型中达到 SOTA，可匹敌或超越约 9B 参数的模型。模型提供 none、low、high 三档可控思考预算，支持最大 1,048,576 token 上下文，推理效率不低于 Qwen3.5-4B 和 Gemma-E4B，并可在 SGLang、vLLM 上部署。
Reddit · r/CharacterAIAI 评分2727 很难找到能替代 Character.AI 的模型
一位用户因 Character.AI 破产消息将角色和聊天记录迁移到其他前端测试多种模型，但很难找到类似 PipsQueak2 Rawr 那种恰到好处的傻气感。目前最接近的是 Aion RP Llama 3.1 8B 模型，但表现仍不如原模型，作者留帖供日后寻找替代方案的人参考。
Hugging Face · 新模型：uncensoredAI 评分1919 hotdogs/Ternary-Bonsai-2-27B-Uncensored-Heretic-swift_unc 上架 Hugging Face，附 llama.cpp 等多平台运行指南
hotdogs/Ternary-Bonsai-2-27B-Uncensored-Heretic-swift_unc 模型现已在 Hugging Face 上提供，支持以 Q2_0 量化版本运行。文档给出 llama.cpp、Ollama、Docker Model Runner、Lemonade 等多种本地部署方式，包括启动 OpenAI 兼容服务器和终端直接推理的命令，并覆盖 Pi、Hermes Agent、OpenClaw 等工具的接入配置。
Hugging Face · 新模型：uncensoredAI 评分2020 KaedeTai 发布 qwen3.8-flash-next-swift-uncensored-mtp-mlx-4bit-zhTW 模型
KaedeTai 在 Hugging Face 上公开了 qwen3.8-flash-next-swift-uncensored-mtp-mlx-4bit-zhTW 模型仓库。该仓库可公开访问，但用户需登录并同意分享联系信息、接受相关条件后才能下载模型文件和内容。
Hugging Face · 新模型：uncensoredAI 评分4949 Infatoshi 发布 DeepSeek-V4.1-Flash-1017-MXFP4-uncensored 量化模型
Infatoshi 在 Hugging Face 上架 DeepSeek-V4.1-Flash-1017-MXFP4-uncensored，并附上 Native MXFP4、NVFP4 target 与 EXL3 2.875/3.5 多组并发基准。Native MXFP4 在 32 并发下聚合吞吐达 831.66 tokens/second，高于 NVFP4 的 796.13 与 EXL3 3.5 的 480.84；单并发时延方面 NVFP4 target 的 time_to_content_p50 为 0.32442 秒，略优于 Native MXFP4 的 0.34266 秒。
Hugging Face · 新模型：uncensoredAI 评分4141 DeepSeek-V4.1-Flash-1017-NVFP4-uncensored 量化模型基准测试数据发布
Hugging Face 上发布 DeepSeek-V4.1-Flash-1017-NVFP4-uncensored 的性能测试数据，对比 Native MXFP4、NVFP4 target、EXL3 2.875 与 EXL3 3.5 四种配置在不同并发下的吞吐与延迟。Native MXFP4 在 32 并发时达 831.66 tokens/second，NVFP4 target 为 796.13 tokens/second，EXL3 3.5 为 480.84 tokens/second。
Hugging Face · 新模型：uncensoredAI 评分4848 DeepSeek-V4.1-Flash-1017 EXL3 2.875bpw 无审查量化版本在 Hugging Face 发布
Hugging Face 上架 Infatoshi 发布的 DeepSeek-V4.1-Flash-1017-EXL3-2.875bpw-uncensored 量化模型。附带的基准数据显示，EXL3 2.875 配置在并发 1 时生成速度约 125.86 tokens/秒，并发 32 时约 452.16 tokens/秒；对比数据还包含 Native MXFP4（并发 32 达 831.66 tokens/秒）、NVFP4 target 及 EXL3 3.5 等配置的吞吐与首字延迟表现。
Hugging Face · 新模型：uncensoredAI 评分3838 DeepSeek-V4.1-Flash-1017 EXL3 3.5bpw 无审查量化版本在 Hugging Face 发布
Hugging Face 用户 Infatoshi 发布 DeepSeek-V4.1-Flash-1017 的 EXL3 3.5bpw 无审查（uncensored）量化版本。附带的基准测试显示，Native MXFP4 在 32 并发下聚合吞吐达 831.66 tokens/second，EXL3 3.5 在 32 并发下达 480.84 tokens/second，同时给出各并发数下的 time_to_content_p50 等延迟数据。
Hugging Face · 新模型：abliteratedAI 评分2222 davemahoney69/Coder-1.5B-Abliterated-Merge-Q4 模型在 Hugging Face 上可用
davemahoney69/Coder-1.5B-Abliterated-Merge-Q4 的 Q4_K_M 量化版本已上架 Hugging Face，可通过 llama.cpp 本地运行，支持启动 OpenAI 兼容服务器或终端直接推理。该模型也可用 Ollama、Docker Model Runner、LM Studio、Jan 等工具加载，并可接入 Pi、Hermes Agent、OpenClaw 等智能体。
Hugging Face · 新模型：abliteratedAI 评分2121 davemahoney69/Coder-14B-Abliterated-Merge-Q4 量化模型在 Hugging Face 上提供 llama.cpp 使用指南
Hugging Face 上架了 davemahoney69/Coder-14B-Abliterated-Merge-Q4 的 Q4_K_M 量化版本，并给出 llama.cpp 使用方法。用户可通过 llama serve 或 llama cli 直接加载该模型，在本地启动 OpenAI 兼容服务器或终端推理，支持 macOS、Linux、Windows（WinGet）、预编译二进制、源码构建及 Docker 多种安装方式。
Reddit · r/SillyTavernAIAI 评分2424 Reddit 用户求助：Gemma 4 31B 是否比 Gemma 4 26B MoE 更适合 RP
一位 Reddit 用户在 SillyTavern 社区发帖询问：Gemma 4 31B dense 模型用于角色扮演是否明显优于 Gemma 4 26B MoE。他用 Q5 量化对比测试，发现 31B 更能利用角色卡细节，但仍有细节翻转问题；而 26B MoE 借助优化 KV cache 运行很快，31B dense 因 CPU offloading 在其 RTX 3060 12GB 机器上生成极慢，因此纠结是否值得为升级投入大量硬件成本。