pimenovdv/SelfLlmAsResearcher:基于 LLM 智能体的机制可解释性实验框架
GitHub 开源项目 pimenovdv/SelfLlmAsResearcher 提供一个基于 ReAct 模式的机制可解释性(Mechanistic Interpretability)实验框架,由生成假设并写代码的 LLM 智能体和作为实验对象的目标模型(如 GPT-2、LLaMA)两部分组成。框架支持 attention head 消融、Activation Patching 因果干预分析,以及从权重层面研究越狱和系统提示词绕过等漏洞。运行需在 Docker 容器中隔离执行,可通过 .env 或命令行参数配置 openai 或兼容端点(如 Ollama、vLLM)的 API 密钥。