Kimi K3 发布三个月后实测:本地几乎跑不动,小模型已追平
Kimi K3, three months after the hype: too big for almost anyone to run locally, and smaller models have already caught it
来源与原文
Reddit · r/LocalLLaMA
作者:/u/Sanbi_Ai
发布时间:(北京时间)
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1x7s89u/kimi_k3_three_months_after_the_hype_too_big_for/
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
Reddit 用户 /u/Sanbi_Ai 复盘 Kimi K3 发布三个月后的实际使用状况:全模型 1.56 TB,Unsloth 推荐的最小量化为 594 GB,需约 610 GB RAM+VRAM,装不进 512 GB;1-bit 量化与全模型下一 token 一致率 79%,2-bit 达 90% 但需 861 GB。其在 Artificial Analysis 指数已从 57 降至 44,GLM-5.3(753B)得 45,Step 5 Preview(600B)以 44 追平;自家 API 仅 43 tok/s,AA agentic 基准平均每任务近一小时、超 $10。许可证非 MIT,公司若 12 个月内总收入超 $20M 需与 Moonshot 另行签约。
作者用 Unsloth 量化文档和 AA 数据逐项核算了 Kimi K3 的本地运行门槛、API 速度和许可证限制,信息可直接用于部署决策。
来源:Reddit · r/LocalLLaMA · reddit.com