跳到正文
我的
GitHub · 去对齐工具与仓库·· 1 小时前AI 评分42

PubMed 摘要总结器:本地 Llama 3.3 70B 经 vLLM 生成临床结局摘要

AchieverAditi/pubmed-llm-summarizer

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/AchieverAditi/pubmed-llm-summarizer

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

PubMed 摘要总结器清洗混乱的 PubMed JSON,并调用本地 Llama 3.3 70B(vLLM、OpenAI 兼容 API)为每项研究生成一句话临床结局摘要。它处理不一致键名、null/占位字符串和 ERR_* 记录,跳过无摘要条目,并对超时、连接中断及 429/5xx 错误做指数退避加抖动重试;DGX Spark 上需用 FP8 或 4-bit 检查点避免 OOM。

来源:GitHub · 去对齐工具与仓库 · github.com

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。