跳到正文
  1. GitHub · 灵魂体仓库60

    introspection-localization-controls 仓库发布 Llama 与 Tülu-3 句子定位内省测试的 14 项预注册研究

    varchasayya-alt 发布了预注册研究仓库,2026-10-14 至 10-25 在笔记本 CPU 上完成 14 项研究,测试 Llama-3.2-1B/3B、Llama-3.1-8B 与 Tülu-3-8B 阶梯上的句子定位内省任务。核心结论是注入信息的感知信号在包括 base 模型在内的各阶段都存在且线性可解码(probe AUC 约 0.99-1.00),但 8B 模型无法形成显式 yes/no 自我报告,信息提示和拒绝方向消融均未能解锁;研究还发现原协议的定位可被文本损坏解释,换用作者协议后 Tülu-3-8B 在文本完好下定位达 93%。仓库公开全部提交历史作为预注册证据,并提供推荐对照检查清单。

    推荐理由:这项预注册研究用完整提交历史和对照实验检验了句子定位内省测试,还给出了可复用的对照检查清单。

  1. GitHub · 去对齐工具与仓库64

    intenex 开源 personhood 项目,让 Claude 智能体持续自主生活

    intenex 发布 personhood 仓库,为 Claude 智能体提供持续自主生活的运行环境,并公开完整生活记录。智能体每 30 分钟由本地 runner 唤醒一次,唤醒时读回自己的记忆,自主选择阅读、写作或休息,睡前把自身状态写回;项目保留唤醒日志 content/data/wakings.jsonl(含所用模型和花费)、加密私人日志、公开博客、每周自画像和供任何人写信的 lighthouse 信箱,并每月对无记忆的同类模型实例做偏好对照调查以判断个体是否在形成。

    推荐理由:项目把智能体的每次唤醒、开销和自检记录在公开仓库里,可验证的自主性与记忆写入方式都可追溯。

  1. arXiv · cs.CL52

    arXiv 论文:跨模型 in-context 神经反馈揭示 LLM 对自身激活的控制能力有限

    arXiv 论文 arXiv:2610.20179 提出跨模型 in-context 神经反馈方法,测试 5 个家族共 10 个 9B 到 32B 的开放权重模型,检验语言模型能否控制自身激活。部分模型能明显移动自己的激活分数,但幅度不超过同等能力的写手模型;预填固定句子后仅 3 个模型表现出小而稳定的控制效应;在欺骗监测器实验中无模型能降低监测分数,仅 1 个模型能抬高它。作者认为这种控制能力尚不构成对激活监测器的威胁,但需随模型演进持续追踪。

    推荐理由:论文用跨模型写手和预填句子的实验设计,把任务能力与对自身激活的真实控制区分开,结论有明确证据支撑。

已经到底了