Sam Altman 称本地推理是对稀缺资源的糟糕分配

Sam Altman 在 Reddit r/LocalLLaMA 发帖称，本地推理是对稀缺资源的糟糕分配：许多开源模型在个人电脑上的使用率仅约 5%，而全球有限的 DRAM 分散闲置在个人电脑里并不划算。 他表示，在供应受限的环境下应追求云端的最大化利用率，并指出许多人的直觉与此相反。这是其个人观点，属言论而非已验证的结论。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。