立陶宛医学 AI 技术会议见闻:本地模型在医疗场景的实践
立陶宛医学 AI 技术会议上,研究者展示了多个本地模型医疗应用:用于医学问答的实验性决策模型、加速遗传学家工作的 MCP server、将医学数据集批量翻译成立陶宛语等。涉及 Qwen3.5-4B、Qwen3.6-35B-A3B、Qwen3.5-122B-A10B、medgemma-27B 等模型,经典 ML 与神经网络占比更高。因患者数据隐私要求严格,本地模型成为医疗场景的关键选择。
新闻、仓库与研究,按时间排列。
立陶宛医学 AI 技术会议上,研究者展示了多个本地模型医疗应用:用于医学问答的实验性决策模型、加速遗传学家工作的 MCP server、将医学数据集批量翻译成立陶宛语等。涉及 Qwen3.5-4B、Qwen3.6-35B-A3B、Qwen3.5-122B-A10B、medgemma-27B 等模型,经典 ML 与神经网络占比更高。因患者数据隐私要求严格,本地模型成为医疗场景的关键选择。
一位 Reddit r/LocalLLaMA 用户在调试 4x5090 机器时因性能调优过快,熔化了墙上插座和插头,而 12VHPWR 接口反而完好。其建议安装 16/20 安培墙插,而非依赖标准 13A 保险丝,并提醒其他用户对 5090 限制功耗。
博主卡兹克受邀参加英伟达 RTX Spark 全球开售活动后,深度使用华硕 ProArt 创16 一周并分享体验。该机配备 128G 统一内存 + 1T 存储,京东售价 37999 元,开售时 128G 版本几分钟内被抢空。
一位 SillyTavern 用户因担心隐私不愿使用 AI 服务商,在 32GB 内存 + 16GB 显存的电脑上自托管测试了 Cydonia-24B-v4zg-Q3_K_M、Rocinante-XL-16B-v1a-Q5_K_M 和 Impish_QWEN_14B-Q5_K_M 等模型,但遇到持续重复、模型崩溃和显存不足导致无法生成等问题。他不打算回付费订阅,转而向社区求推荐适合自己配置的自托管模型及隐私方案。
惠普新推出的 RTX Spark 笔记本开售,128GB 内存配置原价 $5109.99,使用优惠码 anniversary25 可享 75 折,折后 $3832.49。帖子称这是错过 $4000 以下 DGX Spark 用户的替代选择。
有用户在 iPhone 16 Pro Max 上通过 OpenBMB 安装指南中的 iOS 应用运行 MiniCPM-V 4.7 35B-A3B 时,应用在加载模型阶段崩溃,有时进入界面后点按也会再次崩溃。README 建议 12GB 内存,低内存设备会回退到更小的 expert cache,该用户尚不确定是手机内存限制、模型包问题还是应用 bug。
NVIDIA RTX Spark 笔记本将于 10 月 16 日发售,该超芯片具备最高 128GB 统一内存和 1 petaflop AI 算力。配合发布,生态伙伴同步推出覆盖 Agent、创意和开发工具的本地 AI 软件更新。
一位用单张 3090 运行 Qwen3.8-27B-exl3(约 150k 上下文、约 70t/s)的用户,因 strata 的热度考虑加购 128GB 6000MHz DDR5 内存和 Ryzen 9700X,以便搭配 3090 跑 IQ3 量化。他发帖询问跑过 Qwen 3.8 27B 与 Qwen Next strata 的用户两者在输出准确率上的差异,主要用途是编程和 Hermes 助手,并咨询该配置下的其他好选择。
免费线上会议 All Day AI 将于 10 月 22 日举行,公布部分演讲阵容:Vivienne Hnin(Utilyst)谈 SLM 的经济性与工程权衡,Hossein Kazemi(Astorna)讲用任务专用小语言模型处理敏感数据,Hitesh Jain(Coral Bricks AI)分享 "Coding at 250 tokens"。会议设 Build、Lead、Secure、Ship 四个赛道,演讲由社区提交,现已开放免费注册。
PewDiePie 在自己电脑上微调本地模型 Ajax,因用 OpenAI API 生成数据集被判定违反条款封号,申诉解封后再次拉取数据又遭二次封禁。他随后改用开源工具去除模型内置拒答、清理冗余内容,开始构建完全本地的 9B 智能体。