模型解释与探测

研究模型内部表示、电路和行为成因,适合希望理解模型机制的读者。

12 条精选 · 按推荐学习顺序:越基础、直观越靠前,越系统、深入越靠后

在 3D 图中查看
  1. 5进阶
    项目发布 10-27
    Reddit

    面向 Qwen3.5-4B 的交互式神经元操控实验台,基于 WebGPU 在浏览器本地运行

    Interactive neuron steering playground for Qwen3.5-4B that runs locally in the browser on WebGPU

    这是一篇社区分享帖,作者受 X 上关于用极少量神经元(常为一两个)操控大模型行为的讨论启发,制作了一个交互式实验台,可在浏览器中通过 WebGPU 完全本地运行 Qwen3.5-4B,让用户自行尝试不同神经元组合对模型输出行为的影响,并给出 Hugging Face Space 链接。适合对模型内部机制、神经元级行为操控和浏览器端本地推理感兴趣的人阅读。

模型原理与训练的其他细分主题