GitHub · 灵魂体仓库·· 19 天前精选AI 评分65
ekbandroid 发布 llm-api-client:支持多提供商的 LLM 对话与实验客户端
ekbandroid/llm-api-client
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/ekbandroid/llm-api-client
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
作者开源了 llm-api-client,一个通过 OpenAI 兼容 API 与大语言模型对话的客户端,提供控制台和流式 Web 界面,支持 OpenAI、DeepSeek、OpenRouter、Ollama 和 LM Studio。工具内置多组可复用实验:compare.py 对比有无格式与长度限制的输出,reasoning.py 用直答、分步、模型自写提示词和专家组四种方式解题并统计正确率,temperature.py 在 0、0.7、1.2 三档温度下多次采样测准确率与多样性,benchmark.py 按每秒 token 数和费用对比模型与 thinking 配置,实测三种配置成本相差 4.4 倍。
推荐理由
作者用实测数据对比上下文管理策略与温度设置的成本效果,方法可直接迁移到自己的对话应用。
来源:GitHub · 灵魂体仓库 · github.com