Reddit · r/LocalLLaMA· /u/Low-Future-9387·· 19 天前精选AI 评分74
Castmates 作者分享在 iPhone 上全本地运行 3B 角色扮演微调模型的工程实测
Running a 3B roleplay finetune fully on iPhone: what we measured about keeping a small model in character (I make the app)
来源与原文
Reddit · r/LocalLLaMA
作者：/u/Low-Future-9387
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1x0xkk7/running_a_3b_roleplay_finetune_fully_on_iphone/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
Castmates 应用开发者分享在 iPhone 上全本地运行 3B 角色扮演微调模型（Impish Llama 3B，基于 Llama 3.2 3B 加 rank 16 LoRA，Q4_K_M 量化约 2.0 GB）的实测笔记，用 llama.cpp Metal 全层 offload，无需服务器可离线使用。关键结论：历史裁剪预算调至约 0.68 x n_ctx 后长对话事实召回从 25% 升到 75%，逐字历史明显优于有损摘要；BM25 检索会重注入过期事实，过滤窗口内仍含新版本的命中后下降 18.8pp；A18 芯片早期实测约 6 tok/s，4 GB 手机为最低门槛且限 4096 上下文。
推荐理由
作者用固定种子的对照实验给出小模型保持角色的可复用结论，历史裁剪比例和检索过滤做法可直接迁移。
来源：Reddit · r/LocalLLaMA · reddit.com