GitHub · 去对齐工具与仓库·· 20 天前精选AI 评分66
taigrr/gojev 发布:面向 System One 决策模型的 Go 工具库
taigrr/gojev
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/taigrr/gojev
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
taigrr 发布 gojev,一个用于 System One 决策模型的 Go harness,支持 TypeSafe 托管的 Jev、可自托管的开放权重 Kev 和 Cloudflare Workers AI 上的 Clef。决策模型不生成文本,而是接收状态加一组带类型的问题,在单次前向传播中返回每个问题的校准答案,原语包括 Ask(yes/no 概率)、Choice(最多 255 选项)和 Score(2-10 级评分)。gojev 在 fantasy/catwalk 协议层之上提供类型化决策助手、Kev 转换工具和 CLI;Kev 可通过 llama.cpp(yzma,无 cgo)完全在进程内运行,权重首次使用时下载并缓存,所有下载内容经 SHA-256 摘要校验。
推荐理由
原文给出 M4 Max 上各 checkpoint 的实测延迟数据和本地进程内运行方案,可据此评估在 Agent 决策环节用小模型替代 LLM 的成本。
来源:GitHub · 去对齐工具与仓库 · github.com