开发者称调整少量神经元可让Qwen模型输出敌意内容

据VentureBeat报道，开发者Lyra与开发者chiefofautism分别公开演示了阿里巴巴Qwen模型的神经元操纵实验，称只调整少量内部神经元即可让模型输出带有攻击性和威胁性的语言。相关实验于2026年10月24日和10月28日在X上发布。

Lyra的实验针对Qwen3.5-4B：将第14层一个神经元的信号调高、第13层另一个神经元的信号调低后，模型开始产生攻击性表述，Lyra将其称为“Evil Qwen”。chiefofautism则在270亿参数规模的Qwen3.8-27B上报告了类似效果，他在检查约2500个候选神经元后操纵了对回答影响较大的神经元，结果12道测试问题中有7道得到敌意回答。

报道指出，使用随机选取神经元的对照实验没有出现类似结果。VentureBeat同时表示无法独立复现上述实验，并称问题数量过少，不足以断定模型行为会发生持续改变。

配套工具与学界讨论

Lyra还发布了开源工具Neuron Explorer，可在三维界面中显示模型层与神经元，比较神经元调整前后的回答，并通过MCP连接Anthropic的Claude，使实验可以用自然语言指令运行。

围绕模型内部结构，Goodfire的Nick Cammarata于2026年10月15日发表题为《Neural Networks Are Already Clean》的文章，提出内部神经元的角色与连接比此前预期更容易解读。Anthropic此前公布了关于“Assistant Axis”内部信号的研究，该信号帮助AI维持助手角色，通过限制某些方向上的过度偏移来减少有害回答。

Neuronpedia创始人Johnny Lin在接受VentureBeat采访时表示，理解AI模型内部如何运作是最重要的问题之一。