跳到正文
GitHub · 去对齐工具与仓库·· 20 天前AI 评分40

Rami2212/PSSN-LLM-Reasoning:基于 Qwen3 提升 LLM 推理效率

Rami2212/PSSN-LLM-Reasoning

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/Rami2212/PSSN-LLM-Reasoning

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

GitHub 仓库 Rami2212/PSSN-LLM-Reasoning 提出了用于提升 LLM 推理效率的 Predictive Semantic State Navigation(PSSN)项目,基于未量化 Qwen/Qwen3-4B 模型,在 Hugging Face GSM8K 数据集与 Google Colab 上搭建。项目包含 CoT 基线、答案抽取与准确率评估,默认生成长度 1,024 tokens,使用 BF16(不支持时 FP16),初始实验在固定 seed=42 的 75 题 GSM8K 开发子集上运行,结果以 JSONL 记录 token 数、延迟和 CUDA 峰值内存。

来源:GitHub · 去对齐工具与仓库 · github.com