跳到正文
Hugging Face · 趋势模型·· 12 天前精选AI 评分70

MemTensor 发布记忆基础模型 MemT-1.0 系列,Nano 版权重以 Apache 2.0 开放

MemTensor/MemT-1.0-Nano

来源与原文

Hugging Face · 趋势模型

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/MemTensor/MemT-1.0-Nano

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

MemTensor 在 Hugging Face 发布记忆基础模型 MemT-1.0 系列,含基于 Qwen3.6-35B-A3B 的 Nano(36B 总参数、3B 激活)和基于 DeepSeek-V4-Flash 的 Flash(288B 总参数、17B 激活),Nano 权重以 Apache License 2.0 开放。模型将动态本地记忆与可训练超记忆内置到模型计算中,推理时无需访问原始上下文,128K 历史长度下持久状态大小恒定、存储约为全上下文 KV cache 的 1/66;在 11 项记忆基准上 Flash 和 Nano 在参数化记忆方法中分列第一、第二。

推荐理由

模型卡给出了记忆架构设计、两阶段训练流程和11项记忆基准的排名,适合想了解参数化记忆方案落地方式的读者。

来源:Hugging Face · 趋势模型 · huggingface.co