跳到正文
10月26日周一
  1. GitHub · 灵魂体仓库50

    fanyifan090409-dev/mobile-llm-engine:基于 Qwen3 的手机本地大模型推理引擎开源

    GitHub 开源 mobile-llm-engine,一款 iOS 优先的本地大模型推理引擎,内置基于 Qwen3 继续训练的 0.6B 中文助手模型(Q5_K_M 量化、551MB),专注日历等工具调用任务,数据不出设备。实测 40 题工具调用中 tool_call 发射率和 schema 校验通过率均为 100%,但日期参数正确率 0/15,幻觉问题修复中。目前仅支持 Apple Silicon Mac,运行内存约 1GB,可开放试用。

10月24日周六
  1. GitHub · 灵魂体仓库50

    shaunakmahajan12 开源幻觉检测器:微调 ModernBERT-base 逐句判定 RAG 答案是否有据

    该仓库发布了一个面向 RAG 等有据生成的句子级幻觉检测器,输入来源材料与答案,逐句评分来源是否支持。模型为微调 ModernBERT-base(150M 参数),在 RAGTruth 测试集(18,965 句)F1 0.652、AUROC 0.916,远超 zero-shot NLI 基线(F1 0.197);域外 LLM-AggreFact 上 BAcc 66.1。经 Platt 校准后 ECE 从 0.043 降至 0.016,Docker API 在 CPU 上约 1.2 秒每句,摘要类任务是弱项(F1 0.446)。

10月22日周四
10月20日周二
  1. Hugging Face · 趋势模型58

    FastVideo 发布 FastH3 Omni 的 ComfyUI 版 BF16 与 INT8 ConvRot 模型

    FastVideo 在 Hugging Face 发布 FastH3 Omni 最终版的 ComfyUI 就绪权重,提供 BF16 和 INT8 ConvRot 两种扩散模型,可从提示词与有序图像、视频、音频参考生成视频及同步音频。部署需搭配 qwen3vl_32b 文本编码器和视频、音频 VAE,采样 8 步、guidance 1.0、视频 shift 12.0、音频 shift 3.0,参考输入用 <Picture 1> 等标签;NVFP4 文本编码加速需 Blackwell 硬件。模型由 FastVideo 与 Nuva Lab 合作开发,权重遵循 MiniMax-H3 Community License Agreement。

    推荐理由:原文给出完整文件清单、采样参数和不同硬件的部署路径,想本地跑 ComfyUI 视频加音频生成可以直接照做。

10月18日周日