Reddit · r/LocalLLaMA· /u/Unstable_Llama·· 4 天前精选AI 评分58
MemT-1.0-Nano 在 ExLlamav3 上实现对话内持续记忆
Persistent in-model memory w/MemT - running on ExLlamav3
来源与原文
Reddit · r/LocalLLaMA
作者：/u/Unstable_Llama
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xcpnq5/persistent_inmodel_memory_wmemt_running_on/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
/u/Unstable_Llama 将三天前发布的 MemTensor MemT-1.0-Nano 移植到自己 fork 的 exllamav3（exl3-qlora）上，可原生配合 tabbyAPI 运行。模型能在对话中持续学习并通过 /commit 命令把重要事实写入记忆模块、清除上下文后仍能回答记忆相关问题；作者演示了该流程并附量化版本链接（https://huggingface.co/MemTensor/MemT-1.0-Nano）。
推荐理由
作者在 exllamav3 fork 上实测了 MemT 的持续记忆能力，给出了 /commit 命令的实操流程和量化版本地址。
来源：Reddit · r/LocalLLaMA · reddit.com