Reddit · r/LocalLLaMA· /u/IronDiligent6698·· 19 小时前AI 评分49
Tiiny AI 便携设备性能实测:Qwen3.6-35B、gpt-oss-120b 本地运行表现
Tiiny AI Performance tests. I just got my Tiiny, and here's what it can do.
来源与原文
Reddit · r/LocalLLaMA
作者:/u/IronDiligent6698
发布时间:(北京时间)
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xoib84/tiiny_ai_performance_tests_i_just_got_my_tiiny/
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
一位众筹早期用户分享 Tiiny Pocket 便携 AI 设备(32GB SoC + 48GB NPU 内存,共 80GB)的实测结果。测试显示 Qwen3.5-9B-Turbo 生成速度达 75 tok/s 最快;Qwen3.6-35B-A3B-Turbo 约 64 tok/s 并在编码测试获 9/10;gpt-oss-120b 是唯一通过全部 10 项编码测试的模型,但仅约 16 tok/s 且加载约 75 秒。目前设备暂不支持导入自定义模型或从 Hugging Face 安装,官方表示计划推出模型导入工具。
来源:Reddit · r/LocalLLaMA · reddit.com
这条消息,你怎么看?
把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。