跳到正文
GitHub · 去对齐工具与仓库·· 20 天前精选AI 评分66

taigrr/gojev 发布:面向 System One 决策模型的 Go 工具库

taigrr/gojev

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/taigrr/gojev

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

taigrr 发布 gojev,一个用于 System One 决策模型的 Go harness,支持 TypeSafe 托管的 Jev、可自托管的开放权重 Kev 和 Cloudflare Workers AI 上的 Clef。决策模型不生成文本,而是接收状态加一组带类型的问题,在单次前向传播中返回每个问题的校准答案,原语包括 Ask(yes/no 概率)、Choice(最多 255 选项)和 Score(2-10 级评分)。gojev 在 fantasy/catwalk 协议层之上提供类型化决策助手、Kev 转换工具和 CLI;Kev 可通过 llama.cpp(yzma,无 cgo)完全在进程内运行,权重首次使用时下载并缓存,所有下载内容经 SHA-256 摘要校验。

推荐理由

原文给出 M4 Max 上各 checkpoint 的实测延迟数据和本地进程内运行方案,可据此评估在 Agent 决策环节用小模型替代 LLM 的成本。

来源:GitHub · 去对齐工具与仓库 · github.com