研究测量Gemma 2六模型情绪几何结构并开源代码数据
热点事件持续更新
研究测量Gemma 2六模型情绪几何结构并开源代码数据
1 篇报道1 个报道来源17 小时前更新
先了解这件事
AI 综述
Adam Hollowell 在 arXiv 发布研究,测量 Gemma 2 系列六个模型(2B、9B、27B 的基座版与指令微调版)的情绪表征几何结构,代码、数据与审计报告已开源。 主要发现:所有模型都呈现核心情绪几何,在 30 组有序模型对中,对嵌入向量做线性映射清洗后,在 rank 1 即可恢复全部留出情绪。规模增大使几何方差分散到更多方向,但首成分与人类效价评分的相关性保持在 .71–.78;指令微调后唤醒度相关性下降,幅度超出研究者预期。
AI 根据报道生成 · 2 小时前更新
最新进展10月26日 21:23
Gemma 2 系列六模型情绪几何表征的跨规模、深度与指令微调分析报道时间线
沿着报道,了解事件的不同侧面。
10月26日
- arXiv · cs.CLGemma 2 系列六模型情绪几何表征的跨规模、深度与指令微调分析
一项 arXiv 研究测量了 Gemma 2 2B、9B、27B 基座及指令微调版共六个 LLM 的情绪几何结构,发现所有模型都呈现核心情绪几何:在 30 组有序模型对中,线性映射清洗嵌入向量后在 rank 1 恢复全部留出情绪。规模增大使几何方差分散到更多方向,但首成分与人类效价评分的相关性保持在 .71–.78。指令微调后唤醒度相关性下降,幅度超出预期,代码与数据已开源。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。