跳到正文
Hugging Face · 新模型:abliterated·· 17 天前AI 评分29

sathya801 发布 NeuralDaredevil-8B-abliterated Q5_K_M GGUF 量化模型

sathya801/NeuralDaredevil-8B-abliterated-Q5_K_M-GGUF

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/sathya801/NeuralDaredevil-8B-abliterated-Q5_K_M-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

sathya801 在 Hugging Face 发布 NeuralDaredevil-8B-abliterated 的 Q5_K_M GGUF 量化版本,使用 llama.cpp 的 ggml.ai GGUF-my-repo 空间从 mlabonne 的原模型转换而来。用户可通过 llama-cli 或 llama-server 直接加载该模型,也可在 Llama.cpp 中自行编译并推理,server 模式示例使用 -c 2048 上下文。模型细节可参考原始模型卡。

来源:Hugging Face · 新模型:abliterated · huggingface.co