量化模型文件请尽快备份
Reddit r/LocalLLaMA 用户提醒量化模型制作者和用户尽快备份自己的量化模型文件,并建议有条件的人制作 torrent 分享备份。帖子未说明具体风险原因,也未提及具体模型或版本。
新闻、仓库与研究,按时间排列。
Reddit r/LocalLLaMA 用户提醒量化模型制作者和用户尽快备份自己的量化模型文件,并建议有条件的人制作 torrent 分享备份。帖子未说明具体风险原因,也未提及具体模型或版本。
博主卡兹克受邀参加英伟达 RTX Spark 全球开售活动后,深度使用华硕 ProArt 创16 一周并分享体验。该机配备 128G 统一内存 + 1T 存储,京东售价 37999 元,开售时 128G 版本几分钟内被抢空。
有用户在 iPhone 16 Pro Max 上通过 OpenBMB 安装指南中的 iOS 应用运行 MiniCPM-V 4.7 35B-A3B 时,应用在加载模型阶段崩溃,有时进入界面后点按也会再次崩溃。README 建议 12GB 内存,低内存设备会回退到更小的 expert cache,该用户尚不确定是手机内存限制、模型包问题还是应用 bug。
一位用单张 3090 运行 Qwen3.8-27B-exl3(约 150k 上下文、约 70t/s)的用户,因 strata 的热度考虑加购 128GB 6000MHz DDR5 内存和 Ryzen 9700X,以便搭配 3090 跑 IQ3 量化。他发帖询问跑过 Qwen 3.8 27B 与 Qwen Next strata 的用户两者在输出准确率上的差异,主要用途是编程和 Hermes 助手,并咨询该配置下的其他好选择。