GitHub · 去对齐工具与仓库·· 20 天前AI 评分45
deepwhale-labs 开源 event-driven-llm:基于 Kafka 的异步 LLM 执行控制台
deepwhale-labs/event-driven-llm
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/deepwhale-labs/event-driven-llm
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
deepwhale-labs 在 GitHub 发布 event-driven-llm,一个用 Kafka 分发任务、PostgreSQL 保存执行记录的异步 LLM 运行控制台。技术栈为 Java 21、Spring Boot 3.5、Kafka 4.3、PostgreSQL 16 与 Coral Protocol 1.4.0,支持单条或最多 50 条批量提交、每条请求最长 32,000 字符、失败重试和 Kafka 分区分配可视化,模型可选 DEMO、Ollama(默认 llama3.2:1b)或 Windows Codex CLI。项目通过 Docker Compose 本地运行,未实现文件上传、任务取消和用户账户。
来源:GitHub · 去对齐工具与仓库 · github.com