跳到正文
热点事件持续更新

Banany 发布 Llama-3.2-3B 无审查模型的 Q4_K_M GGUF 量化版

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Banany 将 DavidAU/Llama-3.2-3B-Instruct-heretic-ablitered-uncensored 通过 llama.cpp 转换为 Q4_K_M 量化的 GGUF 格式,并上架 Hugging Face。 该模型可用 llama-cli 或 llama-server(-c 2048)直接运行;Mac 和 Linux 上可通过 brew 安装 llama.cpp 调用,也可通过 LLAMA_CUDA=1 编译以在 Nvidia GPU 上推理。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. Hugging Face · 新模型:uncensored
    Banany 发布 Llama-3.2-3B-Instruct-heretic-ablitered-uncensored 的 Q4_K_M GGUF 量化版

    Banany 将 DavidAU/Llama-3.2-3B-Instruct-heretic-ablitered-uncensored 通过 llama.cpp 转换为 Q4_K_M 量化的 GGUF 格式并上架 Hugging Face。该模型可用 llama-cli 或 llama-server(-c 2048)直接运行,支持在 Mac 和 Linux 上通过 brew 安装 llama.cpp 调用,也可通过 LLAMA_CUDA=1 编译以在 Nvidia GPU 上推理。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。