跳到正文
10月22日周四
  1. GitHub · 灵魂体仓库75

    homelab-atlas:在二手硬件上跑通 Qwen3.8、GLM-5.3-Flash 与 DeepSeek V4.1 Flash 的实测手册

    akapug 发布 homelab-atlas 仓库,用 2017 服务器、2019 工作站、Ryzen 桌面等四台旧机器实测本地大模型部署,如 DeepSeek V4.1 Flash(748B MoE)在 RTX 6000 + Optane 上解码 12.69 tok/s,GLM-5.3-Flash 在 3090 Ti 上达 26.69 tok/s。仓库提供 PATCHES.md 补丁索引、按硬件分类的复现命令、失败记录,以及浏览器端 Recipe Maker 规划工具,用于在下载权重前预判 MoE 模型在 VRAM、DRAM、PMem 上的布局与速度。

    推荐理由:用二手服务器、老工作站和Intel冷门卡跑通大MoE模型,每个数字都附条件、命令和补丁来源,方法可直接照搬。

  2. GitHub · 灵魂体仓库70

    Tether 长时 Agent 运行时开源,主打可验证压缩与中断恢复

    作者开源了 Tether,一个面向长时编码 Agent 的运行时,解决压缩后假完成问题:任务摘要和模型维护的计划放在永不裁剪的记忆层,每次压缩过 ROUGE-L 加关键词双校验,不达标就整条回滚。压缩率 22.5%,比不上 LLMLingua 类学习式压缩器的 10–20 倍;DeepSeek 端到端实测 20 任务 pass@1 80%,总 token 省 21%。还含三层记忆、三级文件漂移检测(stat → MD5 → AST)、10 种中断场景恢复、重复调用拦截、MCP 接入,150 个测试全离线可跑。作者明确列出局限:代码执行无沙箱,漂移测试集为自建,e2e 仅 20 任务样本差异在噪声内。

    推荐理由:作者把每个设计取舍都配上了可复现的实验数字和明确局限,读者可以照着 benchmark 判断这套运行时是否值得试。

  3. GitHub · 灵魂体仓库57

    BlackoutOps 仓库发布离线自我修复的 IT 运维 Agent,目标部署 Jetson AGX Thor

    BlackoutOps 项目发布,目标在断网的边缘设备 Jetson AGX Thor 上全本地运行大模型推论与小型 RAG,做出能自主诊断修复 IT 故障的 Agent,开发验证机为 NVIDIA DGX Spark(GB10,128 GB unified memory)。2026-10-20 起正式推论引擎由 TensorRT-LLM 改为 vLLM,跑 Nemotron-3.5-Bolt-74B-A9B-24GB(Spark 舞台用 Nemotron-3.5-Lightning-30B-A3B-NVFP4,DSpark speculative decoding 下 decode 提速 27–49%)。

    推荐理由:项目给出了完整的部署架构、故障目录规模和多轮实测数据,读者可据此了解全离线自我修复运维 Agent 的工程做法。

  4. GitHub · 灵魂体仓库64

    royalskynet/orchestrator 发布多模型工单调度器 dc/dcq

    GitHub 仓库 royalskynet/orchestrator(原名 dispatch-router,2026-10-22 改名)发布工单调度器:一个任务档进、由工单自带验收脚本 wo-verify 机械判定成败后出结果,不采信模型自述。

    推荐理由:README 详细写了验收脚本判定成败、贝叶斯加权排序和多层 fallback 的具体做法,可作多模型调度的可复用参考。

  5. GitHub · 灵魂体仓库51

    Leiwe & Partners 发布 barium-watermarking 本地绿名单水印检测工具

    Leiwe & Partners 在 GitHub 发布 barium-watermarking,一个本地运行、零托管、仅依赖标准库的 Kirchenbauer 绿名单 LLM 水印检测与参考嵌入工具,不依赖 torch、模型权重或网络调用。检测用单比例 z 检验重新推导绿名单,z > 4 表示未加水印文本超阈值的概率约 3×10⁻⁵;低于 25 个计分 token 判为 inconclusive,低熵文本(代码、事实补全)实际不可检测。工具仅检测开放绿名单方案(Hugging Face WatermarkingConfig),不检测 SynthID Text;附带 stdio MCP 服务器和自测 round-trip,MIT 许可,呼应 EU AI Act 第 50(2) 条的机器可读标识要求。

  6. arXiv · cs.CL65

    DeepEvolve 论文提出基于未来事件预测的递归自我改进系统

    Zhipeng Chen 等人在 arXiv 发布 DeepEvolve,一个以未来事件预测为环境的可持续演化智能体系统,通过递归进化引擎把每次预测的推理轨迹转化为能力。在按周更新、以真实世界结果评估的 FutureX 榜单上连续三周排名第一,rating 最高提升 195%;在自建评测中于四个基座 LLM 上进入前三,领先最强基线最多 10.7 Bradley-Terry 分。论文 47 页,标注为进行中的工作。

    推荐理由:论文以未来事件预测这一可持续演化的环境为基础研究递归自我改进,FutureX 榜单连续三周第一是可复核的外部结果。

  7. arXiv · cs.CL19

    GoiBERT:基于两阶段知识蒸馏的紧凑型越南语语言模型

    研究者推出 GoiBERT,包含 26M 和 49M 两个参数规模的越南语编码器,通过同分词器教师与大教师软标签两阶段知识蒸馏训练,可直接处理原始文本。在文本分类、方面级情感分析、自然语言推理和命名实体识别共八个 benchmark 上,GoiBERT-large 以不到最强紧凑基线一半的参数量取得非教师模型中的最高平均分,且吞吐量翻倍;GoiBERT-base 以四分之一大小保留基线 99% 的性能。压缩对情感和分类任务几乎无损,但在推理和实体识别上代价仍高。

  8. arXiv · cs.AI36

    GuideEvolve:融合专家引导与 3Ts 机制的自进化智能体框架

    GuideEvolve 是一个结合专家引导与 3Ts 机制(Think Fast and Slow、Throwback、Termination by choice)的自进化智能体框架。在 MGSM 上达到 89.8% 准确率(Gödel Agent 为 90.6%),MMLU 上 89.1%(对手 87.9%),方差降低 25-59%。其进化成功率达 100%(基线 82%),优化迭代次数从 30 次降至约 15 次。

  9. arXiv · cs.AI70

    AI 辅助发现新共识协议 A-greement,并构建 Lean 验证的智能体框架 AI-greement

    研究者借助 AI 智能体框架 AI-greement 发现了面向地理分布式状态机的新共识协议 A-greement。在 5 或 9 副本的六种部署中,该协议在写密集和读密集负载下分别将地理分布式键值存储的平均延迟较最快基线降低 12.2% 和 33.3%,只读负载下持平。AI-greement 集成协议知识库、模块化实现骨架和基于 Lean 的验证框架,其形式化还发现了既有共识协议中多个此前未报告的漏洞;作者强调人类专家在搜索前后仍不可或缺。

    推荐理由:原文给出 AI 智能体在 Lean 验证框架下发现新共识协议的完整方法与延迟数据,还附对既有协议漏洞的发现。

  10. GitHub · 3D 生成新仓库16

    API Evangelist 发布 Vectara 独立 API 档案仓库

    API Evangelist 在 GitHub 上线 Vectara 的独立第三方 API 档案,Vectara 是一家提供 RAG 服务的平台,REST API v2 支持语料库管理、文档索引、语义与混合搜索、基于 Hughes Hallucination Evaluation Model(HHEM)的幻觉检测及构建 agents 和 pipelines。该仓库不含任何软件,仅收录 OpenAPI、Postman Collection 等公开机器可读描述,并独立计算 Kin Score 和 Agent Readiness 评分,接受免费更正、重评与下架请求。

  11. GitHub · 3D 生成新仓库18

    基于 LLM 和 RAG 的 AI 文档问答学习助手系统开源项目发布

    一个基于 LLM 和 Retrieval-Augmented Generation (RAG) 的文档问答学习助手项目在 GitHub 开源。系统将文档切分并生成 embeddings,用 Pinecone 向量数据库检索,通过 Groq API 调用 LLM 生成答案,前端用 Streamlit 构建。项目还计划支持多文档格式、对话历史和答案来源引用。

  12. GitHub · 3D 生成新仓库25

    DiagramMagic:AI 图表生成开源仓库(Alexi5000/diagrammagic)

    DiagramMagic 是一个基于 React + Vite 的开源 AI 图表生成工具,通过 Supabase Edge Function 调用 OpenAI API,把英文自然语言提示词转成 Mermaid 图表,支持流程图、时序图、ER 图、甘特图等 9 种类型,内置 12 个模板,可实时预览并导出 SVG。登录用户可借助 Supabase 保存图表到个人库,项目在线体验地址为 diagrammagic.lovable.app。

  13. GitHub · 3D 生成新仓库23

    Apex-Knowledge-Solutions:基于 RAG 的企业知识助手开源仓库

    开源项目 Apex Global 是一个基于 RAG 的企业知识助手,使用 Python、Streamlit、LangChain、OpenAI API(gpt-4o-mini 与 text-embedding-3-small)和 FAISS 构建。它支持从本地 .txt 和 .xlsx 文档检索公司信息,严格限定回答依据检索内容,证据不足时返回 "I don't know."。系统提供带来源引用卡片的管理界面,支持 10MB 文件上限校验、SHA-256 去重、可配置 Top-K 检索与实时文档管理。

  14. GitHub · 3D 生成新仓库31

    HunterAhlquist 开源小型团队项目管理工具 Solo

    开发者 HunterAhlquist 在 GitHub 发布开源项目管理工具 Solo,为小团队提供 Kanban 看板,以 epics/tasks/sub-tasks 作为泳道,支持 SignalR 实时协作编辑、单提供方 OIDC SSO、完整审计日志、主题与扩展。技术栈为 ASP.NET Core Web API、EF Core + PostgreSQL 和 Blazor WASM,一个容器加 Postgres 即可完成部署,服务器发布包内置 MCP 扩展。

  15. GitHub · 3D 生成新仓库20

    cs-tts-steering:用激活转向向量生成印英混说语音的研究设计

    一个新的 GitHub 仓库 cs-tts-steering 正在设计基于 CAA(对比激活添加)方法,利用 MaSaC 印地语-英语混杂语料训练转向向量,让 LLM 骨干的 TTS 模型生成自然的语码转换语音。TTS 模型尚未选定,计划用 OrpheusTTS 或 Kokoro-82M 合成中性样本,并首次尝试将 BiPO 应用于 TTS 激活转向。实验将在配备 2× L40 48GB 的 Columbia CS 语音实验室机器上进行,目前处于初步研究设计阶段。

  16. arXiv · cs.AI23

    反身性阈值:多智能体操演性预测的相变研究

    一项 NeurIPS 2026 录用的研究提出“反身性矩阵”$\Gamma$,用于刻画多智能体操演性预测中重复再训练的稳定性。当矩阵谱半径小于 1 时,再训练几何收敛到唯一稳定均衡;越过阈值后,局部信息学习者的期望累计超额损失随时间线性增长。该阈值以上下界刻画了相变行为,并将先前单智能体的标量阈值作为特例恢复。

  17. GitHub · 去对齐工具与仓库45

    AI Guardian Lab:在 AI 智能体执行 shell 命令前进行策略校验的开源工具

    AI Guardian Lab 在 AI 智能体执行 shell 命令前校验命令,智能体提议命令后由 Guardian 按 L1 allowlist、L2 模式、L3 意图和 L4 语义审查四层检查,默认仅模拟、不真实执行。1.6 版本提供 full profile,经 Ollama 启动本地小模型与 System One 观察者,System One 在 CPU PyTorch 2.13.0 上通过 shadow-only 验证,500 ms 预算仍不满足,full profile 采用 2 秒预算,强制执行在两种 profile 中均保持关闭。

  18. GitHub · 去对齐工具与仓库35

    FraudDistill:面向 LLM 欺诈协助响应检测的研究与实验框架开源

    GitHub 开源 FraudDistill 框架,用于检测大模型面对欺诈诱导时实际生成的回答是否构成欺诈协助,主张该属性是响应级且关系性的,需联合观察查询与回答。框架用 Multi-Agent Teacher 生成结构化信号,经 QLoRA 蒸馏出 1.5B 学生模型支持低成本本地推理,并通过 15% 查询率的选择性审计级联恢复召回,已在 Qwen、DeepSeek、GLM、Kimi 等 6 个直连目标模型上实测验证。

  19. GitHub · 去对齐工具与仓库42

    CourtVision:NBA 比赛分析与复盘开源项目

    GitHub 上的 CourtVision 是一个 NBA 比赛分析项目,将球队与球员历史数据、赛前情报、独立预测与市场参考整理成分析报告,赛后对照赛前判断复盘。报告本地生成,公开网站仅静态读取,前端用原生 HTML/CSS/JavaScript,无需数据库或 API Key。2026-10-13 的 V1 评测记录显示:1,231 场历史输入、300 个静态用例、黄金评测集 20 场,生成 15 篇文章中 14/20 条链路合格,DeepEval 128/160 项通过;另有 LightGBM、XGBoost 与 ARIMA 离线预测实验,代码采用 MIT 许可。

  20. GitHub · 去对齐工具与仓库21

    ARIOS:基于 FastAPI 与 LangGraph 的文档智能与 RAG 后端项目

    GitHub 上的 ARIOS 是一个基于 FastAPI 的文档智能与 RAG 后端,可从网页、YouTube 字幕、GitHub 仓库、PDF 和图像提取文本,经 LangGraph 工作流做 spaCy NLP 分析、facebook/bart-large-mnli 零样本分类后存入 SQLite。检索侧用 all-MiniLM-L6-v2 生成嵌入并持久化到 ChromaDB,支持带过滤条件的语义搜索和经 Groq 托管 LLM 的问答。项目处于本地开发阶段,认证与部署尚未实现。

  21. GitHub · 去对齐工具与仓库29

    llm-youtube-landscape-tracker:面向 LLM 频道的 YouTube 追踪仓库

    GitHub 仓库 jzy13357737150-eng/llm-youtube-landscape-tracker 提供一个公开网页追踪器,聚合一组 LLM 相关 YouTube 频道的最新视频,基于字幕或转写文本而非仅标题生成摘要。管道以 YouTube RSS 监控更新,默认无需付费 API,配置 OPENAI_API_KEY 后可用默认模型 gpt-5 增强摘要;站点由 GitHub Actions 每 6 小时定时重建并通过 CDN 访问。

  22. GitHub · 灵魂体仓库60

    StephanMeijer 开源 llmproxy:LLM API 反向代理工具

    StephanMeijer 在 GitHub 发布 llmproxy,一个带鉴权和限流的反向代理,置于 LLM 客户端与各家 provider API 之间,客户端只持有代理 token,provider 密钥留在服务端,全部配置写在单个 TOML 文件。超限请求按到达顺序排队等待而非直接拒绝,超过 max_wait 默认 120s 才返回 429;上游 429 可按 Retry-After 自动重试,支持 SSE 流式透传、tool_choice 自动补全 shim、Prometheus 指标和 JSON 日志。项目为 Rust 实现,CI 要求 clippy 严格检查且行覆盖率不低于 99%;模型池与 Claude 订阅适配器尚未实现。

    推荐理由:README 完整给出了鉴权、限流排队和凭据隔离的工作方式与配置细节,读者可据此判断是否适合放在自己的客户端与模型 API 之间。

  23. GitHub · 灵魂体仓库20

    roshpinacare-sys/execution-fabric:自主任务执行系统仓库

    GitHub 仓库 roshpinacare-sys/execution-fabric 是一套自主任务执行系统:任务经 API 派发,后台常驻 worker 每 5 秒 tick 循环执行真实 LLM 调用(不做模拟),每条结果用 sha256 哈希链式签名入账本。系统提供 POST /api/batches 并行批量派发、计数预算 12/小时,任务类型为 CODE/AUDIT/PLAN,Git 侧内置 leak-scan 泄漏扫描并禁止 force-push,推送到账本的代码需所有者批准。

  24. GitHub · 灵魂体仓库51

    The Pipeline Framework 发布 Java 强类型应用流框架,将模型决策与确定性业务逻辑组合在同一模型中

    The Pipeline Framework(TPF)是一个 Java 框架,用于构建强类型应用流,把模型决策、授权 SaaS 能力、确定性业务逻辑和长时工作组合在一个应用模型中,自动生成传输、持久化、重试、replay、遥测和部署等命令式外壳。框架将每次模型推理建模为带 schema 校验的普通 Query,模型不会获得环境连接器、凭据或效果权限;Agent 循环由普通 Pipeline 组合实现,支持 MCP、GraphQL、OpenAPI 三类连接器,生产运行时基于 Quarkus,Spring 支持尚未达到生产对等。

  25. GitHub · 灵魂体仓库34

    Lulu Vela 结构化白板发布:一种与 AI 可视化协作的新方式

    Lulu Vela 推出结构化白板,用统一文本协议实现 AI 智能体与用户在画布上的双向同步协作:智能体写文本,Lulu Vela 绘制图表,双方保持一致。用户通过聊天入口 /board 即可从提示词生成 Mermaid 流程图并直接在画布或 Source 中编辑,已登录用户可通过 Share 分享云端图表,支持在 Cursor 和 Claude Code 中配置 hosted MCP 实现账号级云端图表创建与更新,项目采用 MIT 许可证开源。

  26. GitHub · 灵魂体仓库31

    ai-free-content-digest:每日更新 AI 免费额度与免费内容的中文情报简报

    GitHub 仓库 ai-free-content-digest 每天整理「AI 免费额度、免费内容生成、免费发布入口」三条线的增量变化,并附上一期纠错清单。每期采用固定十节结构,已发布 7 期、约 9.8 万字、91 张表,网页版为单文件自包含 HTML,支持全文检索与状态筛选。仓库还维护 182 条五级信源台账,配 14 个脚本自动核对表格、避坑编号连续性与手机端版式,发布前须全部检查通过。

  27. GitHub · 灵魂体仓库65

    Split-View PDF 论文开源样本与验证代码,论文被 IEEE S&P 2027 接收

    Side Liu 和 Jiang Ming 的论文 What Users See Is Not What Models Read 被 IEEE S&P 2027 接收,仓库公开了配套样本与验证代码。内容包括 25 个最小提取差异 PDF(corpus_a)、25 个下游 LLM 评测 PDF 和 11 个 QA 适配 PDF,以及开源 PDF 解析器验证和 LLM API/Web 验证脚本,支持在 Ubuntu 上用 Python 3.10+ 和 Node.js 20.16+ 复现。

    推荐理由:论文配套仓库放出全部样本和验证代码,读者可以实际复现 PDF 对人和对模型显示内容不一致的攻击测试。

  28. GitHub · 灵魂体仓库38

    Bisotun 发布 JetBrains 调用流提取插件 v1.0.0

    Bisotun 发布 IntelliJ IDEA 插件 v1.0.0,可从光标处提取执行调用流与数据模型并复制为 Markdown。Java 完整支持 controller 到 DTO 的提取链,JavaScript/TypeScript/JSX/TSX 为部分支持。默认最大遍历深度 4,含循环保护与正则 fallback,插件内置 token 估算,通过 Ctrl + Alt + Shift + F 等快捷键操作。

  29. arXiv · cs.CL49

    BIRD-RL:在状态化数据中心环境中扩展智能体强化学习

    BIRD-RL 是一个四阶段智能体强化学习课程,配合 Trajectory-scoped Persistent Execution Infrastructure 实现数据库副本安全复用并保持轨迹隔离,空间效率提升 12.8x,无需 Kubernetes 即可扩展。在 BIRD-CRITIC-SQLite 基准上,7B 和 14B 模型分别取得 44.40% 和 48.00% 的成功率,可与 Claude-Opus-4.6 Agent(48.20%)竞争。该框架还训练出兼具 SQL 调试与生成能力的统一小模型。

  30. GitHub · 3D 生成新仓库24

    Playforge:云原生 AI 游戏生成器仓库 Gamehub 开启 Phase 0

    代号为 Playforge 的云原生 AI 游戏构建器开源仓库 Gamehub 已进入 Phase 0(cloud spine),用户用自然语言描述即可生成基于 Phaser 2D / Three.js 3D 的可玩网页游戏并发布为可分享 URL,还支持 2–8 人手机入房的 Game Jam 共创模式。目前含 12 个包、1615 个测试全部通过,涵盖 @playforge/agent-core 生成核心、Fastify API 与 Drizzle 数据库(16 张表)等模块;项目需 Node ≥ 22 和 pnpm 9,后续仍需 Postgres、Redis 等基础设施。

  31. GitHub · 3D 生成新仓库13

    Fyosamu/thumb-bot 仓库上线

    GitHub 上新开了一个名为 Fyosamu/thumb-bot 的仓库,包含 bot、factory、projects、state、yt_auth 等目录,以及 BUILDLOG.md、puzzles_pool.jsonl、topics_bio.txt、topics_sci.txt 等文件。正文仅为仓库目录结构,未披露具体功能细节。

  32. GitHub · 3D 生成新仓库41

    ErikaAX08 开源 AI 编程助手技能集 erikas-skills

    GitHub 新仓库 erikas-skills 提供适用于 Claude Code、OpenCode、Cursor、Windsurf、Codex 等编程助手的可复用技能,涵盖前端架构、API 规范、规范驱动开发、多智能体编排与代码质量。需 Node >= 18,通过 `pnpm add -D erikas-skills` 及 `npx erikas-skills install` 安装,支持 `--target claude | opencode | cursor | windsurf | codex` 指定目标,采用 MIT 许可证。

  33. GitHub · 3D 生成新仓库21

    Vector-Void 开源 PS-5-RAG:基于文档问答的 RAG 助手系统

    Vector-Void 在 GitHub 发布 PS-5-RAG,一个用于文档问答的 RAG 系统,支持上传文档并基于内容生成答案。系统采用 Sentence Transformers 生成语义嵌入、ChromaDB 做向量存储与相似度检索,LLM 调用 Groq API,后端为 FastAPI、前端为 Streamlit。仓库以 Python 编写,可直接克隆并按说明部署运行。

  34. GitHub · 3D 生成新仓库15

    SeerX:云原生机器学习算法交易平台开源仓库

    开源项目 SeerX 是一个云原生算法交易平台,用机器学习预测股票和加密货币价格走势。系统基于 scikit-learn 的 Random Forest 模型,通过 Alpaca API 执行模拟交易,用 Supabase(PostgreSQL)记录预测与交易,并以 GitHub Actions 实现云端定时自动化。项目已完成数据管道、模型、交易引擎、仪表盘等全部 5 个阶段,当前性能指标尚未公布,采用 MIT License。

  35. GitHub · 3D 生成新仓库21

    基于 Mistral-7B-Instruct-v0.1 的餐厅评论情感分析项目开源

    GOWTHAMRAJ-DK 开源了一个基于 Mistral-7B-Instruct-v0.1 的餐厅评论分析项目,仅用提示词工程(无微调、无 RAG),将非结构化评论转为整体情感、方面级反馈、好评/差评特征和客户回复。在 20 条评论上以星级作为代理标签评测,Zero-Shot 与 Few-Shot 的 Accuracy 和 Macro-F1 均为 0.95,输出结构化 JSON,模型支持 8-bit/4-bit/FP16 量化加载。

  36. GitHub · 自我改进 Agent 新仓库发现42

    pi2:在 Pi Durable 上实现 Harness² 的自我改进 Agent

    pi2 是基于 Pi Durable 的 Harness² 实现:给它一个任务和工作区,它会执行任务并提议改进 harness,在新的工作区副本上测试每次改动,保留最优结果并记录经验供后续任务使用,不改动模型权重。需 Node.js 22.19 或更新版本,通过 npm 安装运行,用 PI2_MODEL 或 --model 指定模型,状态保存在 ~/.pi2/,不会写回原始工作区。该项目改编自 Google 的 Harness²(Apache-2.0),Pi 依赖包为 MIT 许可,插件和脚本以本地代码运行,pi2 本身不是沙箱。

  37. GitHub · 去对齐工具与仓库43

    OpenDroid:开源 Android 自主 AI 智能体

    开源项目 OpenDroid 是一个运行在 Android 手机上的全自主 AI 智能体,可将复杂指令拆解为多步骤并自动执行、验证与重规划。它支持 13 家 LLM 提供商(含 Gemini、Claude、GPT-4o、DeepSeek 等)与自动故障转移,内置 LiteRT-LM 端侧模型管理、4 层个人知识图谱、离线唤醒词语音交互,并提供 60+ 动作执行器实现设备控制、通信、导航、支付等操作。

  38. GitHub · 去对齐工具与仓库26

    Benarbiaa/email-extraction-qlora:用 QLoRA 微调 Qwen3-4B-Instruct-2507 从 HR 邮件抽取 JSON

    该开源项目用 QLoRA 微调 Qwen3-4B-Instruct-2507(Apache 2.0),将法语/英语/混用的招聘邮件转换为经 schema 校验的 JSON,并与同款基座模型的 zero-shot 和 few-shot 表现在人工核验的 200 条测试集上对比。训练数据为 LLM 生成的合成数据,微调模型使用单行指令以避免超出 1024-token 预算,其部分延迟优势来自更短的提示词。项目尚处进行中(Day 1),备选模型为 Qwen3-1.7B。

  39. GitHub · 去对齐工具与仓库21

    JatinF 开源 IntelliForge AI 平台:模型无关的 LLM 评测、路由与治理参考实现

    JatinF 在 GitHub 发布开源项目 intelliforge-ai-platform 0.1.0,一个模型无关的 LLM 评测、LoRA 适配、模型路由与治理参考实现。本地 NumPy LoRA(rank 2)held-out 准确率 1.0,基线 0.333333,本地诊断 P95 为 2.667 ms;开源权重槽位为 Qwen/Qwen2.5-3B-Instruct(vLLM),商业槽位为 grok-4.7,两者均未实际运行,部署决策为 NO-GO。