跳到正文
我的
Hugging Face · 新模型:abliterated·· 19 小时前AI 评分30

Hung189 发布 Qwen2.5-7B-Instruct-abliterated 的 Q4_K_M GGUF 量化版本

Hung189/Qwen2.5-7B-Instruct-abliterated-Q4_K_M-GGUF

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/Hung189/Qwen2.5-7B-Instruct-abliterated-Q4_K_M-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Hung189/Qwen2.5-7B-Instruct-abliterated 已通过 llama.cpp 和 ggml.ai 的 GGUF-my-repo 转换为 GGUF 格式,发布 Q4_K_M 量化版本。该 checkpoint 可用 llama-cli 或 llama-server 直接加载推理,server 模式支持 `-c 2048` 上下文设置,也可按 llama.cpp 仓库步骤自行克隆构建后运行。

来源:Hugging Face · 新模型:abliterated · huggingface.co

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。