Genrius AI 发布 Pingala-8 2-bit 量化格式，Qwen3-4B 体积缩小 6.5 倍

Genrius AI 的 Harshit Goyal 发布 Pingala-8，一种基于 8-state coset trellis 编码的 2-bit 量化格式，通过 CUDA 补丁在 llama.cpp 中运行，无需重训即可把 Qwen3-4B 从 8.05 GB 压到 1.24 GB，Llama-3.1-8B 从 16.08 GB 压到 2.39 GB。同字节数下 Qwen3-4B WikiText-2 困惑度 16.64，优于 IQ2_XXS 的 28.61 和 IQ2_KT 的 18.15；batch 1 生成比 Q4_K_M 快 39%。