跳到正文
10月21日周三
  1. Reddit · r/LocalLLaMA32

    立陶宛医学 AI 技术会议见闻:本地模型在医疗场景的实践

    立陶宛医学 AI 技术会议上,研究者展示了多个本地模型医疗应用:用于医学问答的实验性决策模型、加速遗传学家工作的 MCP server、将医学数据集批量翻译成立陶宛语等。涉及 Qwen3.5-4B、Qwen3.6-35B-A3B、Qwen3.5-122B-A10B、medgemma-27B 等模型,经典 ML 与神经网络占比更高。因患者数据隐私要求严格,本地模型成为医疗场景的关键选择。

10月19日周一
  1. Reddit · r/LocalLLaMA18

    PSA:请给 5090 限制功耗!

    一位 Reddit r/LocalLLaMA 用户在调试 4x5090 机器时因性能调优过快,熔化了墙上插座和插头,而 12VHPWR 接口反而完好。其建议安装 16/20 安培墙插,而非依赖标准 13A 保险丝,并提醒其他用户对 5090 限制功耗。

10月18日周日
10月16日周五
  1. Reddit · r/SillyTavernAI24

    SillyTavern 用户尝试本地自托管模型遇挫,求隐私与效果兼顾的建议

    一位 SillyTavern 用户因担心隐私不愿使用 AI 服务商,在 32GB 内存 + 16GB 显存的电脑上自托管测试了 Cydonia-24B-v4zg-Q3_K_M、Rocinante-XL-16B-v1a-Q5_K_M 和 Impish_QWEN_14B-Q5_K_M 等模型,但遇到持续重复、模型崩溃和显存不足导致无法生成等问题。他不打算回付费订阅,转而向社区求推荐适合自己配置的自托管模型及隐私方案。

10月15日周四
  1. Reddit · r/LocalLLaMA24

    MiniCPM-V 4.7 35B 在 iPhone 16 Pro Max 上频繁崩溃,LocalLLaMA 用户求助

    有用户在 iPhone 16 Pro Max 上通过 OpenBMB 安装指南中的 iOS 应用运行 MiniCPM-V 4.7 35B-A3B 时,应用在加载模型阶段崩溃,有时进入界面后点按也会再次崩溃。README 建议 12GB 内存,低内存设备会回退到更小的 expert cache,该用户尚不确定是手机内存限制、模型包问题还是应用 bug。

10月13日周二
10月7日周三
  1. Reddit · r/LocalLLaMA27

    单卡 3090 跑 Qwen 27B 的用户考虑为 Qwen Next strata 热潮加购 128GB 内存

    一位用单张 3090 运行 Qwen3.8-27B-exl3(约 150k 上下文、约 70t/s)的用户,因 strata 的热度考虑加购 128GB 6000MHz DDR5 内存和 Ryzen 9700X,以便搭配 3090 跑 IQ3 量化。他发帖询问跑过 Qwen 3.8 27B 与 Qwen Next strata 的用户两者在输出准确率上的差异,主要用途是编程和 Hermes 助手,并咨询该配置下的其他好选择。

  2. Reddit · r/LocalLLaMA29

    All Day AI 免费线上会议 10 月 22 日举办,聚焦小模型、本地推理与速度

    免费线上会议 All Day AI 将于 10 月 22 日举行,公布部分演讲阵容:Vivienne Hnin(Utilyst)谈 SLM 的经济性与工程权衡,Hossein Kazemi(Astorna)讲用任务专用小语言模型处理敏感数据,Hitesh Jain(Coral Bricks AI)分享 "Coding at 250 tokens"。会议设 Build、Lead、Secure、Ship 四个赛道,演讲由社区提交,现已开放免费注册。

10月6日周二