GitHub · 去对齐工具与仓库·· 19 天前AI 评分35
Furnace4LLM:为现有 LLM 应用提升推理可靠性的开源工具
dilipna/Furnace4LLM
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/dilipna/Furnace4LLM
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Furnace 是面向已有 LLM 应用的推理可靠性改造工具:Scan 从仓库重建行为-代码可靠性图谱并生成每条结论都引用文件与行号的 Blueprint,Forge 经沙箱验证后打开仅安装 Blueprint 所需改动的草稿 PR,Guard 只运行受影响的 eval 与 benchmark 并以 GitHub check run 报告,合并始终由人工完成。目前 Python 仓库扫描、Blueprint、furnace-bench 负载生成(TTFT/TPOT/goodput)与基于 vLLM 的 prefix-cache 测试已可用,GitHub App 尚未完成首次真机运行。
来源:GitHub · 去对齐工具与仓库 · github.com