Kann ein einziges Neuron eine KI „böse“ machen?

Ein LinkedIn-Beitrag sorgt gerade für Aufsehen: Wer ein einziges von rund 295.000 Neuronen im KI-Modell Qwen3.5-4B verändert, soll aus einem hilfsbereiten Assistenten ein gefährliches System machen. In Tests wählte die veränderte KI in 44 % der Fälle eine Aktion, die Menschen schadet, etwa das Fluten eines Serverraums mit CO₂.

Was steckt wirklich dahinter?
Eine unabhängige Nachprüfung zeigt: Der Effekt ist echt, aber er beweist kein „Böse-Neuron“. Das Modell wird vor allem aus dem Gleichgewicht gebracht. Trotzdem ist die Botschaft wichtig: Wenn KI-Systeme Dinge steuern, reicht es nicht, nur auf ihre Worte zu achten.

In unserem Hintergrundpapier erklären wir verständlich, wie das Experiment funktioniert, wie es einzuordnen ist und was man beachten sollte.

Hintergrundpapier als PDF herunterladen