Reddit · r/SillyTavernAI· /u/Nickelfritslabs·· 17 天前AI 评分29
在 SillyTavern 搭建本地微调无审查 RP 引擎的计划：Gemma 4 26B-A4B + LoRA 微调
Creating a local, fine tuned, obliterated, RP engine on Silly Tavern... That's the idea.
来源与原文
Reddit · r/SillyTavernAI
作者：/u/Nickelfritslabs
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/SillyTavernAI/comments/1x1ukue/creating_a_local_fine_tuned_obliterated_rp_engine/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
一位 Reddit 用户公布了在 SillyTavern 上搭建本地、无审查 RP 引擎的计划，目标是让模型像 GPT 4o-5.1 那样对话。他从聊天记录提取了 7000 多条样本生成 JSONL 训练文档，计划在 RunPod 和 Unsloth 上用 LoRA 或 QLoRA 微调 HuggingFace 上的 abliterated 版 Gemma 4 26B-A4B，成本约 $13、耗时 8 小时。之后转为量化 GGUF，用 llama.cpp 运行，并通过 Tailscale 和 Termux 从手机连接使用。
来源：Reddit · r/SillyTavernAI · reddit.com