16GB M2 Pro Mac Mini实测Qwen-Flash-Next量化版
热点事件持续更新
16GB M2 Pro Mac Mini实测Qwen-Flash-Next量化版
1 篇报道1 个报道来源18 小时前更新
先了解这件事
AI 综述
用户 /u/SocietyTomorrow 在 16GB M2 Pro Mac Mini 上用 Strata 加载 Qwen-Flash-Next 的 iQ3_xxs 量化版本,以最高 128k 上下文运行基准测试。在 16k 至 120k 上下文区间,中位速度为 prefill 77 tok/s、decode 5.5 tok/s。 由于始终无法缓存、需反复重读并交换专家,prefill 与 decode 速度不随上下文长度变化。该用户称,这一配置可勉强充当聊天生成器与应急代码助手,但对 SSD 写入负载较重。
AI 根据报道生成 · 17 小时前更新
最新进展11月7日 00:15
Qwen-Flash-Next 在 16GB M2 Pro Mac Mini 上跑 128k 上下文实测报道时间线
沿着报道,了解事件的不同侧面。
11月7日
- Reddit · r/LocalLLaMAQwen-Flash-Next 在 16GB M2 Pro Mac Mini 上跑 128k 上下文实测
用户在 16GB M2 Pro Mac Mini 上用 Strata 加载 Qwen-Flash-Next 的 iQ3_xxs 量化版本,以最高 128k 上下文运行基准测试,16k 至 120k 上下文区间中位速度为 prefill 77 tok/s、decode 5.5 tok/s。由于始终无法缓存、需反复重读并交换专家,prefill 与 decode 速度不随上下文长度变化,可勉强充当聊天生成器与应急代码助手,但对 SSD 写入负载较重。
本事件热度走势
- 可比范围当前
- 6
- 可比范围峰值
- 1011月7日 01:00
- 近 24 小时变化
- –
02.557.510
03:0006:0009:0012:0015:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。