跳到正文
GitHub · 灵魂体仓库·· 7 天前AI 评分52

DecisionUI 发布,把 LLM API 转成结构化决策模型 API

panuthept/decision-ui

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/panuthept/decision-ui

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

panuthept 发布 DecisionUI,一个轻量 Python 服务器,可在 vLLM、SGLang、Ollama 等 Chat Completions 端点前,以 SystemOne API 和 OpenAI Decisions API 两个决策接口暴露模型,返回选项与概率而非自由文本。安装命令为 pip install decision-ui,README 给出 vLLM 起服务的 Quick Start 与工单分类示例,输出如 billing 0.94 / technical 0.03 / other 0.03 的概率分布。

来源:GitHub · 灵魂体仓库 · github.com