跳到正文
arXiv · cs.AI· Mahendra Roopa·· 7 天前AI 评分44

在托管模型上实现隐私保护推理:针对冻结 Qwen3.8-27B 的学习型输入嵌入变换

Privacy-preserving inference on hosted models: a learned input-embedding transform for frozen Qwen3.8-27B

来源与原文

arXiv · cs.AI

作者:Mahendra Roopa

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2610.27817v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

该 arXiv 论文提出在客户端本地将文本转为向量,并经 55.6M 参数的训练网络变换后,再交给托管方运行冻结的 Qwen3.8-27B 模型,托管方始终收不到文本或 token id。在 1,490 道训练外的 MMLU 问题上,该变换仅损失 1.5 个百分点准确率(80.7% vs. 82.3%),同时 30.1% 的内容 token 经最近邻查找已无法还原为原始 token。

来源:arXiv · cs.AI · arxiv.org