跳到正文
热点事件观察中

Inkling-2-Mini abliterated 版发布,拒绝率实测从104降至1

1 篇报道1 个报道来源2 天前更新

先了解这件事

AI 综述

satellitedown 发布了 thinkingmachines/Inkling-2-Mini 的 abliterated(去对齐)版本,并附上与原模型的拒绝率对照:直接回答的拒绝数从 104 降到 1,先推理场景从 47 降到 0,数学、代码与选择题成绩与原模型持平。其去对齐编辑不改变模型权重,而是在每次前向写入后运行时施加。 发布配套了为该模型编写的单 GPU CUDA 推理引擎 ingine,在 RTX 5090 上以 262,144 token 上下文运行,提供 OpenAI 兼容 API 与一键安装脚本;运行需要算力 12.0 且至少 32 GB 显存的 NVIDIA GPU。 发布者称拒绝行为“已被大幅移除”,但注明实测限于贪心解码和英文提示集(有害集用 transformers 参考模型、边界集经 ingine 测得),采样解码、其他语言和其他提示集下的拒绝情况未测,且部分提示仍可能被拒绝。

AI 根据报道生成 · 22 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月21日
  1. Hugging Face · 新模型:abliterated精选
    Inkling-2-Mini abliterated 版发布,附单卡推理引擎 ingine 与拒绝率实测数据

    satellitedown 发布 thinkingmachines/Inkling-2-Mini 的 abliterated 版本,配套为该模型编写的单 GPU CUDA 推理引擎 ingine,在 RTX 5090 上以 262,144 token 上下文运行。直接回答拒绝数从 104 降到 1,先推理场景从 47 降到 0,数学、代码与选择题成绩与原模型持平;模型权重不变,去对齐编辑在每次前向写入后运行时施加,需要算力 12.0 且至少 32 GB 显存的 NVIDIA GPU,提供 OpenAI 兼容 API 与一键安装脚本。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。