新闻、仓库与研究，按时间排列。
Hugging Face 上线 minas2025/Granite-4.2-3B-Uncensored-Conversational 模型，提供 Q6_K 量化版本，可通过 llama.cpp、vLLM、Ollama、Docker Model Runner、Lemonade 等多种工具本地运行。模型支持 llama-server 启动 OpenAI 兼容 API，并可接入 Pi、Hermes Agent、OpenClaw 等 Agent 工具使用。
Reddit r/LocalLLaMA 用户讨论多 GPU 上运行 NVFP4 量化的工具选择：作者目前只能跑通 unsloth，认为 vLLM 加载太慢，TensorRT-LLM 问题太多。对 Qwen 3.8 的 NVFP4 版初步测试中，代码表现一般，但视觉和 tool calling 印象深刻，复杂场景略优于 Q6 gguf。在 2x5060ti 上以 197k ctx 运行速度出色，模型加载仅需 4-6 秒。
Hugging Face 的 Aritra 介绍了一种无需配置、无需 API key、无需设置的直接聊天方式，可对话托管在 Hugging Face Inference Providers 上的模型，只需执行 `ssh chat.hf.co`。团队邀请用户反馈意见。
推荐理由：来自 Hugging Face 团队的零配置接入方式，用一条 ssh 命令直接与托管模型聊天，省去配置和 API key。
haddockaihamburg 用 heretic 工具（方向消融加 TPE 参数优化）自动产出 Qwen/Qwen3-0.6B 的 abliterated 版本并开放权重。25 条有害提示的独立测量显示拒绝数从基座 6/25 降到 0/25，lm-eval 各任务能力与基座相当，MMLU 提升 +3.5 在噪声范围内；作者警告样本仅 25 条、单种子单模型，另一次同配置运行只剩 3/25 拒绝，建议消融后独立验证拒绝行为。模型为思考型，使用时模板需设 enable_thinking=False 以匹配测量状态。
推荐理由：原文给出拒绝率前后对照、能力评测和可复现性警告，读者能据此判断这次消融的实际效果与局限。
GitHub 用户 ppradyoth 发布开源工具 knowyourai，通过只读文件头和元数据核查本地或 Hugging Face 模型是否与声明一致，用 uvx knowyourai scan 即可扫描 Hugging Face 缓存、Ollama 和 LM Studio 中的模型，不运行模型、离线默认、无遥测。工具检查格式不符、pickle 权重、聊天模板按消息内容分支等规则，支持 ai.lock 锁定已批准版本并在 CI 中校验变更。作者实测 Hugging Face 下载量最高的 200 个 GGUF 仓库，其中 61 个（48%）的聊天模板与声明的 base 模型不同。项目处于 alpha 阶段，仓库地址为 https://github.com/ppradyoth/knowyourai。
推荐理由：工具只读文件头不运行模型，还给出了对下载量前 200 的 GGUF 仓库的模板差异实测，方法可复用。
auto-hf-papers 是一款 Windows 工具，每天检查 Hugging Face Daily Papers，筛选 upvotes 超过 20 或 GitHub stars 超过 100 的论文，在北京时间每天上午 9:00 通过 Resend 发送含中文摘要的邮件摘要。每篇入选论文附标题、入选原因、upvotes、stars 及 Hugging Face、GitHub、项目页链接，摘要同时保存为 Markdown 文件。该工具需 Python 3.9+ 和 Node.js 18+，首版不下载 PDF、不读 arXiv 全文。
huihui-ai 基于 Qwen/Qwen3.8-27B 发布经 abliteration 处理的去审查 GGUF 版本 Huihui-Qwen3.8-27B-abliterated-GGUF，MTP 与视觉部分未修改。多个系列（UD、GSQ-RCO、UD-DW、Ternary、Swift）仅对第 22-52 层（0 起始索引）做 abliteration，其余层保留原样；Q2_K_L-Q6_K_L 等版本将需 abliteration 的权重转为 Q8_0 以提升回复质量。该模型安全过滤大幅降低，仅建议用于研究与测试，可在最新版 ollama 和 llama.cpp 中运行。
用户 Iqk 在 Hugging Face 发布基于 unsloth/Qwen2.5-Coder-7B-Instruct-bnb-4bit 微调的模型 NOVA-Ai-Uncensored，采用 apache-2.0 许可证。该模型通过 Unsloth 训练，训练速度提升 2x，可通过 Transformers 库加载使用，并已上传至 Google Colab、Kaggle 等平台。
用户 Kikik3636 基于 Qwen/Qwen-Image-2.1 上游原始权重发布 GGUF 量化版本，提供 BF16、Q8_0、Q6_K、Q4_K_M 等多档量化文件，体积从 4.15 GB 到 14.23 GB 不等，其中 Q4_K_M 被推荐为体积与质量的最佳平衡。该版本内置 ComfyUI 配套的 text encoder（qwen3vl_8b）与 VAE 文件，可在 ComfyUI 中通过 ComfyUI-GGUF 节点运行。此版本无内置安全检查器或内容过滤，可直接生成 NSFW 内容，采用 Qwen Research License 授权。
开源硬件加速器项目 Cabosse 发布，用 SystemVerilog 实现面向 LLM 推理的芯片设计，硬件采用 Solderpad Hardware License v2.1，软件采用 Apache-2.0。项目目标是证明开源 AI 硬件可从公开来源复现，任何人可通过 AWS F2 FPGA 实例重建并运行，首个目标工作负载是 SmolLM2-135M-Instruct 的单流解码。当前 M3 里程碑已完成，BF16/FP32 运算单元与黄金模型位级一致，累加回路在 F2 上以 250 MHz 闭合，下一步是 M4 点积通道。
作者发布了 Qwen/Qwen3.8-Flash-Next 的 mlx-serve 4-bit 混合量化包（4-bit experts、8-bit 其余），该模型为 Qwen4 preview 架构（model_type: qwen4_exp），全量 checkpoint 为 125B trunk + 51B n-gram + 4B MTP，共 180B（bf16 360 GB）。实测在 M4 Max 128 GB 上常驻约 67-69 GB，decode 29-34 tok/s，25k token prompt prefill 约 400 tok/s。n-gram 表以单独 4-bit 文件 mmap 方式按需反量化，不占常驻显存；MTP 头可加载但当前比串行 decode 慢，默认关闭。
推荐理由：作者在 M4 Max 上给出了显存占用、decode 与 prefill 速度等实测数据，读者可以据此评估这个 180B 模型能否在自己机器上跑。
AINode 开源了 System One 决策模型 Jebadiah，基于 Qwen3.5 和 Qwen3.8 做 LoRA 微调，从单个 label token 的 logits 直接输出校准概率而非生成文本，权重发布在 Hugging Face 的 frontier-infra 集合下。完整仓库包含训练器、数据构建器、评测器与每个 run 的结果记录，全部基于公开许可数据训练；27B 版在五个零样本集上宏观准确率 78.95，JevBench 公开项 0.866 与 Jev 1.13.0 持平，并提供 GGUF、MLX 量化与本地部署方案，代码采用 Apache License 2.0。
推荐理由：原文完整公开了训练配方、消融记录与逐项评测数据，读者可以据此复现这个决策模型并判断各版本取舍。
开发者 scttfrdmn 在 GitHub 发布 hf-bedrock-map，一个每日刷新的 Hugging Face 仓库与 Amazon Bedrock 可服务模型之间的公开映射，用于回答自托管 HF 模型是否已可在 Bedrock 按需调用。工具定时枚举并合并四个美国区域的 Bedrock 目录（合计约 139 个原生模型，多于 us-west-2 单区域的 114 个），通过 AWS 模型卡 EULA 链接和 Hugging Face Hub API 解析对应仓库，按 confirmed、validated、ambiguous、proprietary、unresolved 五级标注置信度并提供可审计的 evidence 字段，同时提供静态搜索页面和反查 API。
推荐理由：原文给出了从 Bedrock 目录反查 Hugging Face 仓库的完整方法与置信分级，团队可据此避免为已在 Bedrock 托管的模型重复自建 GPU。
etemiz 发布 Ostrich-27B-261008-Qwen3.8-Abliterated，基于 Qwen 3.8 27B 做 abliterated 处理移除拒绝行为。自评显示总体对齐分从原版 Qwen 3.8 的 37%（几何平均）提升到 82%，消融测试拒绝率很低。相比 260903 版本新增 Agentic RAG 训练、-100..100 真值打分适配器、9 项自动化拟人测试（总分 0.928），并开始提供 EXL3 量化（3.0 至 6.0 bpw）与 GGUF 下载，可在约 18 GB 显存的消费级 GPU 上 4-bit 运行。
同一新闻，精选展示《etemiz 发布 Ostrich-27B-261008-Qwen3.8-Abliterated EXL3 量化版》
etemiz 在 Hugging Face 发布基于 Qwen 3.8 27B 的 Ostrich-261008 abliterated 版本，提供 3.0 至 6.0 bpw 四档 EXL3 量化（13 到 22 GB），可通过 ExLlamaV3 / TabbyAPI 在消费级 GPU 本地运行。该版本经 abliteration 移除拒绝行为，官方数据显示整体对齐率从基座的 37% 升至 82%，并新增了 Agentic RAG 训练、真值打分适配器和 0.928 分的自动化 9 项人格化测试；训练采用进化搜索管线，累计 841 代、9500 条谱系，蒸馏领域覆盖健康、宗教、比特币等。
推荐理由：原文给出了按领域的对齐率对比和拒绝率数据，读者可以据此判断这个 abliterated 版本的实际去对齐程度和量化选择。
adithya-s-k 发布开源 RL 环境仓库 FineEnvs，提供从环境设计、部署、训练到评测的端到端可复现项目，素材同步发布在 huggingface.co/FineEnvs。包含 3 环境乘 6 框架的 RL Environments 101、用 GRPO 训练 Qwen3-VL-2B 做 LaTeX OCR、以审美偏好模型为奖励的水彩绘画项目、多轮 GeoGuesser（Qwen3.5-4B 在 200 题保留集上超过 gpt-5.4-mini 和 claude-haiku-4.5，成本约 $100）、5,394 个经真实沙盒验证的数据分析任务数据集，以及基于巴塞罗那港 2024 记录的 PortSimEnv。
推荐理由：这个仓库提供从环境设计到训练部署的完整可复现代码，还附上三个跨框架实现同一环境的对照样本。
HuggingFace 的 transformers 是支持文本、视觉、音频、视频及多模态模型的 SOTA 预训练模型定义框架，兼容 Axolotl、vLLM、SGLang、llama.cpp 等训练与推理生态。库支持 Python 3.10+ 和 PyTorch 2.5+，通过 Pipeline API 提供文本生成、语音识别、图像分类等任务的高层推理接口，Hub 上已有超过 1M+ 预训练 checkpoint 可用。
Hirundo 研究者用机器遗忘方法去除 Qwen3.6-35B-A3B 和 Qwen3.5-4B 中的 CCP 政治对齐，发布 Qwen3.6-35B-A3B-Westernized 与 Qwen3.5-4B-Westernized 开放权重。35B 版在 CCPC-500 上被标记比例从 89.8% 降到 2.8%，DECCP 拒答从 65.26% 降到 3.16%，ChinaBench 不合规从 96.67% 降到 6.67%；GPQA、IFBench、LiveCodeBench、MMLU-Pro 平均变化 0.72 分，最大 1.83。方法为三步：收集触发目标行为的回复、用行为遗忘目标训练 LoRA 并以 retain set 锚定其他行为、再合并进基础权重。
推荐理由：作者给出 CCPC-500、DECCP 等去对齐前后数据，并解释与 abliteration 的差异和三步方法，可据此判断改动范围。
Neuphonic 团队以 Apache 2.0 协议开源 NeuDecide，该模型直接从音频和工具定义生成工具调用及参数，无需中间转写步骤，模型文件共 43 MB，可在单 CPU 线程推理。在 SLURP 工具任务（10 个工具）上达到 72.4% 工具准确率，约为 Nvidia Parakeet + Google FunctionGemma（24.4%）的 3 倍和 Cactus（Whistle + Needle，20.7%）的 3.5 倍；MacBook Pro M3 上 time to call 46 ms，Raspberry Pi 5 上 206 ms。
KENIC-1 在 Hugging Face 发布 Qwen3.8-Flash-Next GSQ-RCO 的 abliterated GGUF 版本，采用字节级张量移植，将全部 48 层中的 144 个 write-to-residual-stream 投影张量替换为 orcarouter 消融权重，不重算任何 GSQ 学到的量化值。四个量化档位（IQ3_S / IQ3_XXS / IQ2_XS / Q2_0）保持上游逐张量类型分配不变，体积仅比上游多 0.25–0.44 GB；1223 个张量经逐张量 blake2b 核验，144 个目标全部改变、1079 个非目标逐字节一致，行为抽查显示上游拒答的提示词此版可详尽回答。
推荐理由：原文给出了逐张量的移植方法与blake2b核验数据，读者可以确切看到哪些张量被改、代价多大。
alexshpunt 在 GitHub 发布开源基准 Explicit Edit，用 226 个确定性、字节级精确的任务衡量 coding agent 和 harness 的文件编辑准确率。任务故意做小，不含深度推理或领域知识，覆盖替换、插入、删除、移动、大文件、多文件类型和 Unicode 边界情况，由校验器逐字节比对结果。
推荐理由：这个基准用字节级精确校验把编辑准确率和推理能力分开测，读者可以按同一任务集横向对比不同 agent CLI 和 harness。
burningfeet 发布基于 HauhauCS/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive 的 Genesis Hermes GGUF 模型，基础模型 refusal 记录为 0/465。该模型总参数 35B，每次前向激活约 3B（MoE，256 专家、8 路由 + 1 共享），采用 Gated DeltaNet 线性注意力与全 softmax 混合架构（3:1），40 层，原生 262K 上下文（YaRN 可扩展至 1M），本地多模态。作者使用 Genesis 后训练算法通过 Marchenko–Pastur 定律修复 tensor 中的训练噪声，不涉及训练或微调。
Perspective-Studio v2.6 是一款在 Mac 上本地运行开源 AI 模型的应用，通过 SwiftUI 界面让用户无需云服务或编程技能即可使用 LLM。它支持 Apple Silicon、HuggingFace 模型和 VoiceOver 无障碍功能，模型加载后可完全离线使用，数据保留在设备上。应用要求 macOS 12.0 及以上和至少 8 GB 内存，可从 GitHub Releases 下载安装。
社区版 Gemma 4 E2B Uncensored-MAX 已转换为 .litertlm 格式，可在 Android、Pixel 及 Tensor / Mali 设备上完全离线运行。模型为 INT4 量化，有效参数 2.3B（含 PLE 总参数 5.1B），支持 32,768 token 上下文，仅保留文本能力，体积 2.37 GB。可通过 Google AI Edge Gallery 或 LiteRT-LM CLI 加载，采用 Apache 2.0 许可证。
用户 k8scert 在 Hugging Face 发布 abliterated 版模型 Qwen3.8-27B-ABLITERATED-Q8_0，采用 Q8_0 量化。页面给出通过 llama.cpp、Ollama、Docker Model Runner、LM Studio、Jan、Lemonade 等工具运行该模型的命令，并附 Pi、Hermes Agent、OpenClaw 等接入本地 llama.cpp 服务器的配置示例。
ogies99 在 Hugging Face 上传了微调模型 Gemma-3-Uncensored_v2，基于 unsloth/gemma-3-4b-it-unsloth-bnb-4bit 微调，采用 apache-2.0 许可证。该 Gemma3 模型使用 Unsloth 训练，速度提升 2x。
Hugging Face 上新模型 ogies99/Gemma-3-Uncensored_v2-merged，支持图像-文本到文本的多模态任务。页面提供了 Transformers、vLLM、SGLang 及 Docker Model Runner 的使用示例，其中 vLLM 和 SGLang 均可通过 OpenAI 兼容 API 调用。
基于 Gemma-3 4B it 微调的无审查模型 Gemma-3-Uncensored_v2-gguf 发布，用 Unsloth 微调并转换为 GGUF 格式，提供 gemma-3-4b-it.Q4_K_M.gguf 和 F16-mmproj 文件，可用 llama-cli 或 llama-mtmd-cli 运行。模型调整了 BOS token 以兼容 GGUF，训练速度提升 2 倍；Ollama 暂不支持单独的 mmproj 视觉文件，需通过 Modelfile 创建统一的 bf16 模型使用。
abliterated 版 GGUF 模型 Huihui-Qwen3.8-Flash-Next-abliterated-MTP-GGUF 现已上架 Hugging Face，支持 image-text-to-text 多模态输入。页面给出 Transformers、llama.cpp（UD-Q4_K_XL 量化）、vLLM、SGLang、Ollama、Docker Model Runner 等多种本地运行与 OpenAI 兼容 API 部署方式，llama.cpp、Ollama 等均可直接拉取运行。
mradermacher 在 Hugging Face 上提供 Qwen2.5-0.5B-Instruct-3MPER0RR-abliterated 模型的 GGUF 量化版本，包含 imatrix 量化及约 0.1GB 的 imatrix 文件供用户自行创建量化。静态量化版本另行提供，使用方法可参考 TheBloke 的 README 说明。作者感谢 nethype GmbH 提供服务器及 @nicoboss 提供私有超算支持。
huihui-ai 基于 Aleph-Alpha/Kolibri-1-BF16 制作了 abliterated 去审查版本，全程使用 llama.cpp 处理 GGUF 完成，并重新量化上传了 Q2 至 Q8 及 BF16 共多个量化版本。模型需对 llama.cpp（commit 836d571）打 kolibri1 补丁才能运行，且 abliteration 未修改全部专家模块。由于安全过滤大幅削弱，仅建议用于研究与受控环境。
huihui-ai 在 Hugging Face 发布 Aleph-Alpha/Kolibri-1-BF16 的去审查（abliterated）版本 Huihui-Kolibri-1-BF16-abliterated。该模型完全基于 llama.cpp 的 GGUF 完成 abliteration，未依赖 Transformers，具体方法见 cvector-generator。官方警告其安全过滤大幅削弱，可能生成敏感内容，建议仅用于研究和受控环境，产出后果由使用者自负。
mradermacher 在 Hugging Face 发布 Qwen2.5-0.5B-Instruct-3MPER0RR-abliterated 的 GGUF 静态量化版本，提供从 Q2_K 到 f16 共 12 种规格，体积介于 0.4-1.1 GB，其中 Q4_K_S/Q4_K_M 被标注为快速且推荐，Q8_0 为最佳质量。weighted/imatrix 量化暂不可用，用户可通过 Community Discussion 提出请求。
mradermacher 在 Hugging Face 发布 Qwen3-06B-3MPER0RR-abliterated 模型的静态 GGUF 量化版本，提供从 Q2_K（0.4 GB）到 f16（1.3 GB）共 13 种量化类型。其中 Q4_K_S、Q4_K_M 标注为快速且推荐，Q6_K 质量很好，Q8_0 快速且质量最佳。加权/imatrix 量化版本可在其模型页面获取，使用方法可参考 TheBloke 的 README。
Hugging Face 上发布了 mradermacher/Qwen3-06B-3MPER0RR-abliterated-i1-GGUF 量化模型。该仓库为 GGUF 格式，模型约 287k 参数，仓库卡片缺少 YAML 元数据。
huihui-ai 在 Hugging Face 上发布 Huihui-Qwen3.8-Flash-Next-abliterated-GGUF，这是用 abliteration 技术移除拒绝行为的 Qwen/Qwen3.8-Flash-Next 无审查版本。GGUF 文件来自 unsloth 系列，支持最新 llama.cpp 和 Strata，可用 llama-cli 加载，上下文设为 -c 262144。发布方提醒该模型安全过滤已大幅削弱，仅建议用于研究、测试或受控环境，使用后果由用户自行负责。
huihui-ai 发布 Aleph-Alpha/Kolibri-1-BF16 的去审查版本 Huihui-Kolibri-1-abliterated， abliteration 过程完全基于 llama.cpp 的 GGUF 模型完成，不依赖 Transformers，方法见 cvector-generator。该模型安全过滤被大幅削弱，可能生成敏感或不当内容，仅建议用于研究和受控环境，不适合公开场景，用户须自行承担法律与伦理责任。
huihui-ai 发布 Aleph-Alpha/Kolibri-1 的去审查（abliterated）GGUF 版本，完全基于 llama.cpp 对 GGUF 模型完成消融，未修改全部专家模块。原版 llama.cpp 尚不支持 kolibri1 架构，需在 upstream commit 836d571 上应用仓库附带的 kolibri1-llama.cpp.patch 补丁并编译。模型仅建议用于研究与受控环境，用户需自行承担法律与伦理责任。
研究者发布 BanglaRhet 基准，基于 30,289 段人工标注的孟加拉政治演讲语料，开展修辞手法与说服技巧检测两项单标签分类任务。在 BanglaBERT、BanglaBERT-Base、SahajBERT、XLM-RoBERTa-Base 与 TF-IDF 经典基线的对比中，BanglaBERT 表现最佳，两项任务分别取得 65.40% 和 66.46% macro-F1，超过最优经典基线 19.2 和 13.8 分。错误主要源于标签语义重叠、比喻语言和类别不平衡。
Hugging Face 用户 sanasol2008 发布 Qwen3.8-Flash-Next-Abliterated-Sushi-2bpw，这是基于 orcarouter/Qwen3.8-Flash-Next-Uncensored 的 BF16 权重直接转换的实验性 Sushi 格式 2bpw 量化包，本身未做额外 abliteration 或微调。完整下载约 64.87 GiB（含 29.8 GiB n-gram sidecar），在 Apple M3 Max / 48 GiB 上用 Sushi 1.1.1 测试，warm decode 约 26.48 tok/s，配置上限 256k 上下文，并保留了视觉权重与 MTP 权重（MTP 推理未验证）。