Reddit · r/LocalLLaMA· /u/either_T_or_F·· 11 小时前AI 评分26
如何管理超出上下文窗口的长期记忆?有哪些可用工具?
Any tools for managing long-term memory beyond the context window?
来源与原文
Reddit · r/LocalLLaMA
作者:/u/either_T_or_F
发布时间:(北京时间)
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xprpm3/any_tools_for_managing_longterm_memory_beyond_the/
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
一位本地 LLM 新手提问:长对话超出上下文窗口后,模型会丢失早期情节与人物关系等细节,如何管理长期记忆。他设想用外部知识库存章节摘要并按需检索注入提示词,但担心摘要属于有损压缩,第 3 章的细节可能到第 40 章才关键却已被丢弃;完整保存历史又面临检索哪些信息的难题。他想了解实践中人们怎么做、效果如何。
来源:Reddit · r/LocalLLaMA · reddit.com
这条消息,你怎么看?
把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。