基于 Jev 逻辑的 LLM 自适应思考方法(开源)
Reddit 用户 dimknaf 发布了一种让大语言模型思考过程自适应的开源方法:逐词测量熵,在模型不确定时通过 Jev 式门控决定是否触发思考块,并用并行对话树按同样逻辑选出最佳路径。项目已在 GitHub 开源,作者称适合能跑多路并行的本地模型场景。
新闻、仓库与研究,按时间排列。
Reddit 用户 dimknaf 发布了一种让大语言模型思考过程自适应的开源方法:逐词测量熵,在模型不确定时通过 Jev 式门控决定是否触发思考块,并用并行对话树按同样逻辑选出最佳路径。项目已在 GitHub 开源,作者称适合能跑多路并行的本地模型场景。
HauhauCS 在 Hugging Face 发布基于 Qwen3.6-35B-A3B 的去审查版模型 Aggressive 变体,0/465 拒答,不改动数据集与能力。该模型为 MoE 架构,总参数 35B、每 token 激活约 3B,原生 262K 上下文,支持文本、图像、视频多模态。提供 Q8_K_P 到 IQ2_M 多种 GGUF 量化(K_P 量化以约 5-15% 更大体积提升 1-2 级质量),兼容 llama.cpp、LM Studio 等 GGUF 运行时。
开源项目 Locally Uncensored 发布 v3.0.7(2026 年 10 月),把聊天、图像与视频生成、编码 Agent 和工具 Agent 集成进一个免 Docker、免终端的桌面应用,本地模式下全部在本机运行,AGPL-3.0 协议。3.0.7 新增 REA 逆向分析插件、LU Cloud 接入 DeepSeek V4.1 Flash 1017、聊天分支与角色卡转 persona,并首次推出 Android APK(iPhone 应用在 App Store 审核中)。
推荐理由:项目方给出了与 Open WebUI、LM Studio 等工具的逐项功能对照表,以及 46 个云端模型实测中 19 个无拒绝、5% 拒绝率的数据。
shray77 在 GitHub 发布 VetVoice RAG(VetEcosystem),一个兽医 AI 助手,支持皮肤照片 VLM 诊断、RAG 知识库检索、语音转 SOAP 病历和剂量计算。后端通过 FastAPI 代理 Z.AI 的 glm-4.5-flash 与 glm-4.6v,检索采用 FAISS + TF-IDF 混合方案(支持俄英互译),知识库托管于 HF Hub(shrayyyy/vet-derm-rag),并提供 Gradio 网页界面与 Flutter 移动客户端,默认 rate limit 为每分钟 30 次。
state-alchemists 在 GitHub 开源了 Zrb,一个可接入构建流水线的终端编码 Agent,pip install zrb 即可使用 zrb llm chat 进行完整编码会话。其核心是把 LLMTask 与 CmdTask 用 >> 组成 DAG,如 write_fix >> run_tests >> deploy,pytest 非零退出时部署不会启动并以 pytest 退出码结束;Agent 的工具、钩子、权限策略均用 zrb_init.py 中的纯 Python 定义,兼容 .claude/skills/ 与 CLAUDE.md,同一任务定义可在终端、Web UI 和 CI 中运行。
Mullassery 发布 PyInferenceManager 1.3.0(Beta),一个多供应商 LLM 推理编排库,Rust 核心约 11k 行加 PyO3 绑定,按任务复杂度、隐私和成本在本地 Ollama/vLLM 与 Anthropic Claude、OpenAI、Google Gemini、OpenRouter 之间路由,带硬预算上限、指数退避重试和语义缓存。支持 run_concurrent() 有界并发批处理、MCP 工具和硬件画像,privacy="high" 强制本地执行;作者实测与 LiteLLM 在同一本地 qwen2.5:7b-instruct 上延迟相当,差异在路由、预算与重试能力而非速度。
CloudForge AI 是一个自主云 Agent,可检测代码异常、在 AWS Fargate 或 Docker 隔离沙箱中验证 AI 生成的修复补丁,并自动创建 PR,全程无需人工干预。它支持 Claude、GPT-4、Groq 等多 LLM 后端,通过自优化路由将简单问题分配给更快更便宜的模型,把 MTTR 从数小时缩短到数分钟。
GitHub 开源项目 agentty 发布,定位为终端内的 Claude Code 替代品,用 C++26 构建为单个 16.7 MB 静态二进制,冷启动约 3 ms,无 Node 或 Python 依赖,MIT 协议。支持 Claude、GPT、OpenRouter、DeepSeek、Ollama 等多家模型并可 ^P 实时切换;内置本地 RAG 引擎(BM25 + 嵌入 + GraphRAG)只发送相关代码片段,称可将上下文削减 80% 以上;shell 命令默认在 OS 级沙箱中运行,并支持 SSH 空气隔离模式与 Zed ACP 集成。
AgentField 发布开源控制平面,可将 Python、Go 或 TypeScript 编写的 Agent 函数变成可被任意服务调用的 REST 端点,由控制平面负责路由、队列、重试、内存与可观测性。项目已通过 af install 提供多个可安装节点,其安全审计示例每次运行 250 个协同 Agent,深度研究引擎单次工作流扇出 10,000+ 次 Agent 调用;项目采用 Apache 2.0 许可证,仓库地址 https://github.com/Agent-Field/agentfield。
推荐理由:项目方详细说明了控制平面的路由、内存、审计与扩缩容设计,读者可据此评估把它接入现有 Agent 技术栈的适配成本。
quqxui 发布 RSI-Flow,一个外部运行时,用任务经验来构建和评估对 Agent 提示词、工作流等可编辑产物的改进。它按固定评测协议对比原版与候选版本,采纳通过的修改并支持回滚,改进流程分六个阶段,任务执行、提案生成和评测使用独立组件,已集成 Pi、DeepSeek Harness、Harbor / Terminus-2、Codex,采用 MIT 许可证。
推荐理由:README 说明了基于任务经验的六阶段改进流程与评测对比、回滚机制,读者可以据此评估是否复用到自己的 Agent 工作流。
Vengeance 是一款面向 Windows、macOS 和 Linux 的桌面应用,将 Engine 与 Engine 2 两个编码 Agent 引擎集成在同一界面中,支持并行运行多个 Agent、会话中途切换引擎以及后台会话。应用内置结构化编辑器管理模型、账户、包和 MCP 服务器,提供工具调用卡片、Mermaid 图表渲染、Inspector 面板查看上下文与 token 用量,并内置全部三个 Abliteration 模型。
GitHub 仓库 qa-test-automation-frameworks/verity-policy-coverage-eval-framework 发布了一个针对 LLM 应用的三层评测框架,以一个 RAG + 工具调用的保险条款问答助手为演示对象。Tier 1 为每次 PR 的确定性检查,靠 cassette 回放实现零 API 调用、3 分钟内阻断合并;Tier 2 用 DeepEval + RAGAS 在 69 个 golden 用例上跑语义评测,Tier 3 用 Promptfoo/DeepTeam 做每周注入、越狱和 PII 探测。
agent-of-empires 在 GitHub 发布 AoE,一个面向 Linux 和 macOS 的 AI 编码智能体会话管理工具,支持并行运行多个 agent 并通过 TUI 或浏览器监控。每个 agent 运行在独立 tmux 会话中,断开 SSH 或关闭终端后仍持续运行,并提供 git worktree、Docker/Podman/Apple Containers 沙箱隔离、diff 审查和 HTTP API。项目由 Mozilla.ai 支持,采用 MIT 许可证,Windows 仅支持通过 WSL2 使用。
Ledatic-Empire 发布自举编程语言 Rail 的 v5.5.0,约 1 万行 Rail 编译器产出约 0.9 MB ARM64 二进制,两轮自编译达到字节级一致定点,运行时无 C、GC 用 ARM64 汇编实现。v5.5.0 引入 Hindley-Milner 类型检查,自编译从约 20 秒降到 5 秒,GC 压力测试发现并修复 6 个收集器 bug,253/253 测试通过。项目将编译器用作训练适应度函数,用哈希链账本和熵信标签名证明计算过程,并公开了 138M 模型在冻结基准 16/16 compile@1 但对新函数名泛化 0/10 的局限,以及一次自改进循环的收益在更宽样本上被证伪的教训。
Sitimlab 开发的开源 Chrome/Edge 扩展 docx-anonymizer 在用户向 ChatGPT、Claude 等聊天服务附加 .docx 或带文本层 PDF 时拦截文件,在本地识别 21 类个人与商业数据(含 INN、KPP、IBAN、护照、电话、邮箱、公司名等)并替换为占位符后上传,保留格式、表格、脚注和页眉并清除元数据;AI 回复可用仅存于本机的替换映射还原回真实名称。可选 NER 模型基于 rubert-tiny2 在 WikiANN ru+en 上微调,导出为 ONNX int8(约 30 MB)经 onnxruntime-web 在本地运行,WikiANN ru 测试 F1 为 PER 0.916、ORG 0.762、LOC 0.861,20 页合同全流程约 2.2 秒。
推荐理由:README 给出了 NER 模型在 WikiANN 上的 F1、处理耗时和零网络请求的验证方式,隐私声明有测试支撑而非口号。
Tidegap(原 Ebb AI,因商标冲突在 0.18 更名)发布 v0.19.0,将 Agent 不急需的 LLM 任务安排在截止时间前电网碳强度最低的时段执行,deadline 超 24 小时自动走 Anthropic 和 OpenAI Batch API(约为同步标价 50%)。它基于 5 个真实数据源、31 个地区的 72 小时碳强度预测选调度时刻,为每个任务写入 Ed25519 签名的碳收据存入本地 SQLite 账本,可用 tidegap verify 离线校验;v0.10 起使用 59 个 LLM 的每模型 Wh/token 系数。
推荐理由:原文给出一次真实运行的碳强度前后数据并标注仅为单次预测值,还附完整复现路径,读者可自行验证调度效果。
Sylphx 发布开源工具 lockdocs,读取 npm、PyPI、crates.io、Go 的各类 lockfile,从本地已安装包的文档与类型声明中按精确版本回答问题,提供 MCP 服务与 CLI,MIT 协议。工具用 BM25 加 32 MB 本地嵌入模型做混合检索,答案按 token 预算打包并附 package@version 路径引用,支持离线缓存与私有包。在 105 道版本敏感问题上,lockdocs fetch 得 96/105,Context7 匿名 API 得 77/105,其中旧主版本题 38/45 对 19/45;fetch 后中位延迟 58 ms,Context7 为 2,583 ms。Pro 版以每席位每年 120 美元提供私有源读取和升级差异报告。
推荐理由:官方仓库给出 105 题版本敏感基准,与 Context7 对比后旧主版本题正确率高一倍,延迟和配额数据也可直接核对。
SenteLabsAI 发布开源项目 OpenExecutive,用九个专家Agent(CSO、CFO、CHRO、General Counsel、COO、CMO、CPO、Head of Sales、Board Communications Director)组成统一高管声音,支持审批阈值、公司知识库集成和 Act as me 代拟 Gmail 邮件。
inclusionAI 在 Hugging Face 发布紧凑型原生音频语言模型 Ming-3.0-audio-tiny,采用 MoE 架构,总参数 9.3B、每次推理激活 2.7B。模型接受音频与文本指令输入,支持中英文语音识别、口语问答、音频理解与音频推理,可选合成语音回复,支持长音频、多说话人和嘈杂环境,采用 MIT 许可证开源。
botp 发布 china-v1 审查方向文件,推理时在第 4 到 44 层投影掉该方向分量,使 Qwen3.8-Flash-Next 不再对中国敏感话题拒答或用宣传口径,原权重不变、可按请求开关。192 题评测中敏感话题拒答/回避率从 58% 降到 2%,校准回答从 11% 升到 56%;质量对照显示 Agentic 任务 34/34 持平,HumanEval+ 156 对 155、GSM8K 50 对 49、MMLU 96 对 97。方向由 30 组中英对照对比对的残差流均值差构造,已在 Strata 生产环境验证,llama.cpp 原生 --control-vector 是加法而非投影、不能复现结果;作者提示 1989 年六四短问题仍可能回避,法轮功、大饥荒和新疆的数字细节可能夸大。
同一新闻,精选展示《Qwen3.8-Flash-Next 发布 china-v1 审查方向文件,推理时去除中国政治审查》
Chris Schmidt 开源 datapipeline-ast-guard v0.5,一个不执行代码的 CLI 静态检查工具,用 AST 规则检测 AI 生成的数据管道代码中的无键 join、无界 collect()/toPandas() 和硬编码路径,输出 JSON 或 SARIF 2.1.0 并可阻断 CI。工具无网络无模型,含 28 个测试;作者在多轮预注册评测中测得 AG001 精确率 97% 但仅约 1/15 值得审查(v2 降级为 warning),AG003 经 v4 修复后规则精确率 1.00、可操作精确率 0.22,AG002 未发现真实缺陷;项目尚未上 PyPI,MIT 许可。
NVIDIA 开源的 NeMo Guardrails 工具包(最新版本 0.24.1)可让开发者在 LLM 应用中添加可编程护栏,控制对话主题、语言风格、对话路径并防范越狱与提示词注入。它支持输入、对话、检索、执行、输出五类护栏,兼容 GPT-3.5、GPT-4、LLaMa-2 等模型,可通过 Python API 或 guardrails server 使用,并支持 LangChain 集成。
michaelkrauty 在 GitHub 发布 llamesh,一个面向 llama.cpp 的 OpenAI 兼容网格代理,可跨一台或多台机器管理 llama-server 实例的生成、驱逐、负载均衡与集群路由,对客户端暴露标准 OpenAI API。
推荐理由:原文给出完整的配置示例与功能清单,读者可以直接照着部署一个跨机器的 llama.cpp 集群代理。
GitHub 上的 closet-ai 是一款衣柜应用,拍照识别衣物后给出搭配建议或协助出售,核心功能 "Want / Can" 会针对想要的商品(如 ₪2,000 的外套)给出三种方案:用现有衣物搭出类似造型、找更便宜的平替、或卖掉闲置衣物购买原品。应用处于早期开发阶段,技术栈为 TypeScript、Fastify 5、PostgreSQL 17(含 pgvector)与 Expo(SDK 57),支持英语、希伯来语和俄语,首先面向以色列市场。免费版限 30 件衣物、每月 3 条出售列表,Pro 版含 7 天试用,提供无限制、价格建议和照片清理。
GitHub 仓库 qibin0506/llm_trainer 发布,是一个基于 PyTorch 与 DeepSpeed 的 LLM/VLM 训练框架,覆盖 Pretrain、SFT、DPO/ORPO/SimPO 到 PPO 与 GRPO 的完整流程,支持 8 种 GRPO 变体算子(grpo、bnpo、dr_grpo、cispo、dapo、luspo、sapo、vespo)。框架内置 Muon 优化器自动混合参数分组与多学习率比例调度,通过分块交叉熵、Active Token Filtering 和生成/评估分块降低显存峰值,支持多轮 Agent 强化学习交互与奖励折叠,并适配 NVIDIA CUDA、华为昇腾 NPU、寒武纪 MLU 和 Apple Silicon MPS 后端。
推荐理由:原文完整给出了从预训练到 GRPO 的训练流程与关键显存优化手段,读者可以对照自己的硬件环境判断哪些模块可直接迁移。
开源项目 booth-image-to-model 可将一张展会展位照片或渲染图转换为以米为单位的可编辑参数化 3D 模型(JSON spec)、.blend 文件、干净客户渲染图和 GLB。它以 Agent 技能(支持 Claude Code、Codex、Cursor)或本地 Web studio 两种方式使用,Web studio 可配置任意 OpenAI 兼容模型读图。项目基于 Python 3.10+ 和 Blender 4.0+,尺寸为单图估算、非施工级,采用 Apache-2.0 许可证。
AWS 推出 TorchNeuron,一个面向 Trainium 芯片的开源原生 PyTorch 后端。该项目于 10 月 20 日在 PyTorch Conference North America 开启公测,采用 Apache 2.0 协议开源。
Reddit 用户讨论 Intel 新公布的 D270 GPU:官方规格最高 480GB LPDDR5 显存、1.5T/s 内存带宽,主打推理优化。发帖人询问其定价区间、能否用于工作站而非服务器,以及驱动支持情况(确定无 CUDA),认为该卡适合运行当前高端开源权重模型。
Bria 发布 Fibo 2.0 Edit Turbo 开源权重模型,是从 Fibo 2.0 Dev 蒸馏出的专用图像编辑模型,4 步推理且无需 classifier-free guidance 即可出图。据 Artificial Analysis Image Arena 2026 年 10 月 20 日排名,它在开放权重图像编辑模型中位列第一。模型为 8B 参数 flow-matching 架构,基于 FLUX.2 VAE 潜空间,用 Qwen3-VL-4B-Instruct 编码提示词,训练数据全部为授权数据;许可证为 CC BY-NC 4.0,商用需与 BRIA 另行协议。支持普通编辑、掩码编辑和最多 4 张参考图编辑,官方也预告了多轮编辑、背景去除、商品图 LoRA 等后续组件。
tashfeenahmed 发布 FreeLLMAPI,将 34 家提供商的 635 个免费模型端点聚合为单一 OpenAI 兼容 /v1 API,宣称合计约每月 74 亿 token 免费推理容量。路由器按速度、能力、可靠性评分选模型,429/5xx 时自动冷却并切换下一家,按 key 跟踪 RPM/RPD/TPM/TPD 以不超各免费档上限;密钥 AES-256-GCM 加密存于本地 SQLite,目录每日两次从 freellmapi.co 拉取签名更新,免费版滞后 30 天,Premium 实时目录 $19/年。
推荐理由:原文给出了聚合 34 家免费档位的具体规模和路由、限流跟踪机制,读者可以据此评估自建免费推理池的可行性。
开源平台 apowerb 用于在生产环境构建、运行和治理 AI 智能体,支持多智能体编排(顺序、并行、循环、子智能体)、RAG、Text-to-SQL、MCP 服务器接入,以及 Gmail/Outlook 触发和定时运行。核心采用 Apache-2.0 协议,计费、MFA、智能体评估等企业模块由 thaink² 单独销售;可经 Docker Compose 或 Helm 自托管,基于 FastAPI、Google ADK 和 LiteLLM,兼容 Anthropic、OpenAI、Mistral、Gemini 等模型。
iilmchat 开源的 IIChatTools AI Workflow Builder 是一个无代码 AI 流水线构建工具,用户在画布上拖拽 22 种类型节点(LLM、Agent、图像/视频/音频生成、Web Search、DOCX 生成等)并运行工作流。基于 BullMQ + Redis 后台执行,支持 SSE 实时流式进度、pgvector 向量记忆、MCP 工具接入(默认 MCP_ENABLED=false),LLM 供应商涵盖 Anthropic、OpenAI、DeepSeek 等。技术栈为 NestJS 12、React 19、PostgreSQL 17 + pgvector,主 chunk 经代码分割从 774 kB 降至 141 kB。
开源项目 cold-chain-logistics-ai-assistant 用 LLM、RAG 与结构化遥测数据构建冷链物流助手,可查询车队状况并检索事故处理 SOP。项目采用 LangGraph 编排智能体,通过 Ollama 运行 Qwen 2.5 7B 本地模型,用 BAAI/bge-m3 生成嵌入向量并存入 Pinecone,结合 SQL Server 只读访问与 Streamlit 界面。云端部署与端到端验证尚未完成,暂未达到生产可用。
GitHub 开源库 prompt-composer 是一个面向 LLM 应用的轻量级分段提示词组合库,支持按命名 section 独立增删改提示词,并可用全局或 section 级变量填充 {variable} 占位符。它支持 XML、YAML、JSON、Markdown、TOML、TOON、HCL、BAML 八种模板格式解析,可强制以 XML 标签或 Markdown 标题输出,仅依赖 pyyaml、jinja2 和 pydantic,通过 pip install prompt-composer 安装。
al2m4n 发布 TheYgent,一个自托管、无代码的 AI Agent 编排平台,通过可视化画布组合 LLM 步骤、工具、MCP 服务器、RAG、路由和人工审批节点。内置本地推理支持 llama.cpp、Apple Silicon 上的 MLX 和 NVIDIA GPU 上的 vLLM(实验性),也可接入任意 OpenAI 兼容 API;默认无遥测、可完全离线运行,发布版本不可变可回滚,并提供 Claude Code AI 网关与面向编码 Agent 的 MCP 服务器。许可证为 Sustainable Use License,自用免费,商业化转售或托管服务需授权。项目地址:https://github.com/al2m4n/TheYgent
推荐理由:原文完整列出了可视化编排、内置本地推理和隐私架构等能力,还给出部署方式与许可证条款,便于评估是否自托管。
slipstream 是一个部署在 AWS EKS 上的自托管 LLM 推理平台,用 vLLM 在 Karpenter 调度的 g5 GPU 节点上服务 AWQ 量化的开源模型。它通过无人值守的两层参数扫描(引擎参数 × 客户端并发)找出每个配置在 SLO 下的持续并发上限,just stack-up / stack-down 可一键搭建和销毁整套环境,目标是在单 GPU、按需计费的预算下提升每美元 token 吞吐。
ArcavenAE 开源了 beadle,一个意图对齐的 issue 分诊与仪表盘系统,可对每个 issue/PR 评分(advances/neutral/drifts),并以置顶 GitHub issue 形式维护实时分诊仪表盘,填补现有分诊机器人不按项目意图与维护者实际行为加权的空白。当前以 Phase-0 Claude Code 技能为主,二进制提供 macOS(arm64)与 Linux(amd64、arm64)预构建版本,尚无稳定版,所有发布均为 prerelease,支持 Homebrew、mise 或直接下载。
Reddit r/LocalLLaMA 用户提议建立公共仓库,供贡献者手动上传与模型对话的会话数据,并开发浏览器插件等工具自动收集。由于前沿模型禁止蒸馏、开源 LLM 训练预算有限,作者认为共享会话数据有助于提升开源模型能力,同时提出需兼顾数据匿名化、贡献者积分激励与付费下载分成机制。
MaxKharlan 发布 next-experiment,一个在 Nebius Token Factory 上诊断微调失败原因并做因果验证的智能体。它先按概率排序可能病因,用最便宜的探针和 fix/control 对照实验确认病因,确认后才在批准后重训。演示案例中 Qwen3-0.6B 因学习率 1e-5 过低只答对 14% 的 200 条 held-out 查询,4 个 Post-training job 证实病因后重训达 42.5%,全程约 $0.075。基准在 13 个 Token Factory 任务上对比四种方法,Next Experiment 9/9 找到病因、0 误报,成本比 ReAct 低 30%。仓库含 HTTP API、调查回放页面、权重探针与完整文档,Apache 2.0 许可。
推荐理由:原文给出基准对比数据,这个诊断智能体以低 30% 的成本达到与 ReAct 相同的病因定位成功率,方法可迁移到自己的微调排查。
Albasha0x0 发布 Corvus,一个让 Agent 通过 MCP 读取、追踪、对比和修补编译程序的 MCP 服务器,支持 .NET 程序集及 PE、ELF、Mach-O 原生二进制。单文件自包含、无需安装运行时、默认不执行所读内容,原生分析覆盖 x86、x64、ARM32、ARM64,可选 IDA 或 Ghidra 作反编译器,共含 165 个工具和 15 个提示词,支持 Claude Code、Cursor、VS Code 等众多客户端。项目仍在活跃开发中,接口可能在版本间变动。
推荐理由:项目自述内置 .NET 反编译与原生二进制分析引擎,无需安装运行时,结果按 token 预算分页,适合让 Agent 直接做逆向。