用户在 Mac Studio M5 Ultra 上用 llama.cpp 实测 SenseNova-U1.5-8B-MoT
热点事件持续更新
用户在 Mac Studio M5 Ultra 上用 llama.cpp 实测 SenseNova-U1.5-8B-MoT
1 篇报道1 个报道来源23 小时前更新
先了解这件事
AI 综述
Reddit 用户 /u/Binary_orchid 自行转换 SenseNova-U1.5-8B-MoT 官方权重,在 Mac Studio M5 Ultra 上用 llama.cpp 实测。llama-bench 显示 Q4_K_M 量化(5.32 GiB)生成速度达 125 tok/s(tg128),Q8_0 为 88 tok/s,BF16 为 56 tok/s。视觉测试中,Q4_K_M 版本通过 llama-mtmd-cli 识别出小票计费错误:六项小计加总为 28.99 而标印 29.99,多算 $1.00,且 7% 税按错误数字计算,含加载共耗时 16 秒。该用户说明此测试仅覆盖理解侧(文本或图像输入、文本输出),并指出 mradermacher 的量化版本不含 mmproj,因此无视觉能力。
AI 根据报道生成 · 19 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
10月31日
- Reddit · r/LocalLLaMA精选SenseNova-U1.5-8B-MoT 在 M5 Ultra 的 llama.cpp 实测:Q4_K_M 达 125 tok/s 并识别出账单错误
作者自行转换官方权重,在 Mac Studio M5 Ultra 上用 llama.cpp 跑通 SenseNova-U1.5-8B-MoT(仅理解侧,文本或图像输入、文本输出)。llama-bench 显示 Q4_K_M 5.32 GiB 达 125 tok/s(tg128),Q8_0 88 tok/s,BF16 56 tok/s;视觉测试中 Q4_K_M 通过 llama-mtmd-cli 发现小票小计多算 $1.00,把六项加总为 28.99 对比标印 29.99,还注意到 7% 税按错误数字计算,含加载共 16 秒。
本事件热度走势
- 可比范围当前
- 5
- 可比范围峰值
- 910月31日 10:00
- 近 24 小时变化
- –
02.557.510
12:0015:0018:0021:0011月1日03:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。