跳到正文
热点事件持续更新

研究测量Gemma 2六模型情绪几何结构并开源代码数据

1 篇报道1 个报道来源17 小时前更新

先了解这件事

AI 综述

Adam Hollowell 在 arXiv 发布研究,测量 Gemma 2 系列六个模型(2B、9B、27B 的基座版与指令微调版)的情绪表征几何结构,代码、数据与审计报告已开源。 主要发现:所有模型都呈现核心情绪几何,在 30 组有序模型对中,对嵌入向量做线性映射清洗后,在 rank 1 即可恢复全部留出情绪。规模增大使几何方差分散到更多方向,但首成分与人类效价评分的相关性保持在 .71–.78;指令微调后唤醒度相关性下降,幅度超出研究者预期。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月26日
  1. arXiv · cs.CL
    Gemma 2 系列六模型情绪几何表征的跨规模、深度与指令微调分析

    一项 arXiv 研究测量了 Gemma 2 2B、9B、27B 基座及指令微调版共六个 LLM 的情绪几何结构,发现所有模型都呈现核心情绪几何:在 30 组有序模型对中,线性映射清洗嵌入向量后在 rank 1 恢复全部留出情绪。规模增大使几何方差分散到更多方向,但首成分与人类效价评分的相关性保持在 .71–.78。指令微调后唤醒度相关性下降,幅度超出预期,代码与数据已开源。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。