axon 开源工具：以 3D 可视化呈现 GPT-2 的内部思考过程

开源项目 axon 利用 sparse autoencoders 识别 GPT-2 神经网络中的具体特征，并将其渲染为可旋转、缩放的 3D 可视化地图。用户输入句子后点击播放，可逐 token 观察各特征点的激活过程，点击节点还能查看该特征的权重。工具需 Windows 10/11、8 GB 内存并通过浏览器运行，目标是将大语言模型的内部逻辑变得直观可理解。