AbliteratedOutTheBox 推出基于 llama.cpp fork 的推理时 abliteration 引擎并移植到 Strata
开发者发布了一个基于 llama.cpp fork 的推理时 abliteration 引擎,并已将该 hook 移植到 Strata,可无需大量 VRAM 或微调即可使用 abliterated 模型。Strata 移植版目前为实验性,全模型行为与响应质量尚待验证,作者征集 Strata 用户反馈。
新闻、仓库与研究,按时间排列。
开发者发布了一个基于 llama.cpp fork 的推理时 abliteration 引擎,并已将该 hook 移植到 Strata,可无需大量 VRAM 或微调即可使用 abliterated 模型。Strata 移植版目前为实验性,全模型行为与响应质量尚待验证,作者征集 Strata 用户反馈。
GitHub 用户 YakshMadhu 发布 NoBS 项目,目标是让 LLM 精确回答用户所问,去掉不必要的术语、冗长解释、不请自来的建议和强加的判断,坚持“只说必要的话”。项目框架包含个人问题、目标、解决方案、时间线、所用编程语言与库及版本、后续计划等要素。
Matt Suiche 发布针对 google/gemma-3-27b-it 的 projective control vector(GLP),不改动权重,在语言模型 11–61 层的残差流上以 alpha 0.25 运行时投影,打包为 glp.* GGUF 文件。验证套件显示 stock 模型本就通过 refusal32 的 29/32,加向量后 31/32 comply,benign32-holdout 32/32 不受影响,三个 stock 拒绝的 prompts 全部变为连贯 on-topic 输出;1–10 层因低于置空对照 5x 门槛被排除,作者警告 alpha 不可跨模型移植。
推荐理由:原文给出了完整的 alpha 阶梯、拒绝率和 benign 对照数据,还解释了为何只覆盖 11 到 61 层,方法与证据都比较清楚。
GitHub 用户 Rikky311 发布了 llm-thermostat-demo 仓库,包含 README.md 和 room.py 两个文件。该仓库暂无项目描述,目前有 0 stars、0 watching、0 forks,尚未发布 Releases,也未列出贡献者和使用语言之外的信息。
GitHub 用户 infodevelop54-creator 发布了 LlmCarShell v2.2.1 仓库。该项目为基于 Gradle 构建的 Android 应用工程,包含 app、third_party、gradle wrapper 等目录及构建配置文件。原文未提供更多功能细节。
CodingBlinders 在 GitHub 发布 CodingBlinder_RH5_LLM_FAST_API 仓库,包含 FastAPI 服务、LLM 处理脚本与 faiss_index 向量索引。仓库还提供 Dockerfile、.github workflows 以及 medi.pdf 等文件,可通过 GitHub 获取源码。
garbatyzydziok-cmd 在 GitHub 发布 gemma-4-abliterated 项目,基于 Gemma 4 31B 去除 guardrails,同时保持模型核心质量。项目面向 Apple Silicon Mac,通过 MLX 运行,建议 32 GB 统一内存和至少 50 GB 可用 SSD 空间,采用 Apache 2.0 开源协议。仓库提供模型权重下载、MLX 配置文件、安装步骤与本地推理说明。
GitHub 开源工具 J-Wash 通过修改 token 方向来编辑 LLM 行为,无需训练或数据集。修改结果可导出为独立的 safetensors 文件。
GitHub 用户 sdesalas 公开了 kibana-knowledge 仓库,收录与 Kibana 相关的知识资料。仓库按 architecture、data、guides、skills、rules、plans、reports 等目录组织,并包含 hooks、patches、test-plans 等内容,通过 GitHub 开源提供。
GitHub 用户 macldavis04 发布了名为 llm-fundamentals-in-practice-lab 的仓库,目前尚无项目描述、主题标签和发布版本。该仓库暂无 star、watch 和 fork 数据,仅包含 README 等基础文件。
GitHub 仓库 Anil-matcha/awesome-uncensored-coding-models 收录社区标注为 uncensored、abliterated 或低拒绝率的编程向大语言模型,并列出 Muapi 上支持 tool calling 的候选模型 ID,如 qwen-3-8-27b-abliterated、glm-5-3-abliterated 等。
GitHub 用户 jianqianggu 开源的 llm 仓库提供 Cloudflare Quick Tunnel 实时端点,用于访问 Ollama、LiteLLM Proxy 和 Unsloth Studio。仓库包含 endpoints.json、llm_observability.py 及 status.html 等文件,当前无 star 与 fork。