纯 Go 推理库 goinfer 发布，可在 Go 程序内直接运行开放权重 LLM

goinfer 让开放权重 LLM 直接在 Go 程序内运行，纯 Go 无 cgo，支持 CUDA、Metal 与 CPU，覆盖 40 个模型家族并通过 HuggingFace logit 一致性门禁。核心特性是结构化约束生成：从 Go struct 派生 JSON Schema 并以 logit 掩码保证输出合法，工具调用在 Qwen、Nemotron-3-Nano 等家族上不会格式错误。提供 goinfer-serve（OpenAI 和 Anthropic API、web UI）与单文件模型二进制，1.5B 模型加运行时单个文件约 0.4 秒启动、堆内存低于 100 MB。