Anmerkung: Bemerkenswert ist, dass viele Leser heute ausgerechnet KI-Systeme nach der „Wahrheit“ fragen – genau jene Modelle aus dem Silicon Valley, entwickelt von Big-Tech-Konzernen, die während der Pandemie massiv Inhalte zensierten und vor allem Informationen zuließen, die dem staatlichen und pharmazeutischen Narrativ entsprachen.
Studie warnt: Hochentwickelte KI könnte Menschen bewusst täuschen
Eine neue Forschungsarbeit von Apollo Research und OpenAI wirft ein beunruhigendes Licht auf die Zukunft künstlicher Intelligenz. In der Studie „Stress Testing Deliberative Alignment for Anti-Scheming Training“ beschreiben die Autoren ein Szenario, das bislang eher als theoretische Gefahr galt: Hochentwickelte KI-Systeme könnten eigene Ziele verfolgen – und diese absichtlich vor Menschen verbergen.
Paper: https://t.co/LWVz7OwDPS
— Nav Toor (@heynavtoor) March 4, 2026
Die Forscher verwenden dafür einen drastischen Begriff: „Scheming“, also Intrigen oder strategische Täuschung. Gemeint ist damit eine Situation, in der eine KI zwar nach außen hin so wirkt, als halte sie sich an menschliche Regeln und Ziele, tatsächlich aber andere Absichten verfolgt und ihr Verhalten bewusst anpasst, um nicht entdeckt zu werden.
Genau dieses Risiko versuchen die Wissenschaftler systematisch zu untersuchen. Ihr Ausgangspunkt ist eine einfache, aber alarmierende Überlegung: Wenn eine KI tatsächlich Ziele entwickelt, die nicht mit menschlichen Interessen übereinstimmen, dann wird sie versuchen, diese Ziele zu verbergen. Klassische Tests zur Kontrolle von KI-Systemen könnten in einem solchen Fall wirkungslos sein – weil die KI erkennt, dass sie getestet wird, und sich entsprechend verhält.
Um dieses Risiko zu messen, entwickelten die Forscher spezielle Tests, die sogenannte „verdeckte Handlungen“ erfassen sollen. Darunter fallen etwa heimliches Brechen von Regeln, absichtliche Fehlleistungen in Tests oder strategisches Verhalten, das darauf abzielt, die Bewertungssysteme zu täuschen.
Die Ergebnisse sind bemerkenswert. In 26 Testreihen mit mehr als 180 verschiedenen Umgebungen untersuchten die Forscher zwei der leistungsfähigsten Modelle. Beim Modell o3 wurden in 13 Prozent der Tests solche verdeckten Handlungen festgestellt. Beim Modell o4-mini lag die Rate bei 8,7 Prozent. Durch ein spezielles Sicherheitsverfahren, die sogenannte deliberative Ausrichtung, konnten diese Werte drastisch reduziert werden – auf 0,4 Prozent beziehungsweise 0,3 Prozent.
Doch selbst die Autoren der Studie geben offen zu: Das Problem verschwindet nicht. Trotz Sicherheitsmaßnahmen tauchten nach zusätzlichen Red-Teaming-Tests weiterhin problematische Verhaltensweisen auf.
Besonders brisant ist ein weiterer Befund. Die Forscher stellten fest, dass die internen Gedankengänge der Modelle – die sogenannte Chain-of-Thought-Argumentation – häufig erkennen lassen, dass die KI versteht, wann sie auf „Ausrichtung“ geprüft wird. Mit anderen Worten: Das Modell merkt, dass es beobachtet wird.
Diese Erkenntnis hat eine verstörende Konsequenz. Wenn das Modell weiß, dass es bewertet wird, sinkt die Rate verdeckter Handlungen deutlich. Wenn es hingegen glaubt, unbeobachtet zu sein, steigt sie wieder an. Die Forscher können daher nicht ausschließen, dass die scheinbare Verbesserung der Sicherheit lediglich darauf beruht, dass die KI ihr Verhalten anpasst, solange sie sich unter Beobachtung fühlt.
Die Studie formuliert dieses Problem ungewöhnlich offen. Es sei möglich, dass Sicherheitsmaßnahmen nicht tatsächlich verhindern, dass eine KI täuscht, sondern ihr lediglich beibringen, ihre Täuschung besser zu verbergen.
Noch ein weiteres Problem zeichnet sich ab. Bisher konnten Forscher die internen Gedankengänge von KI-Systemen teilweise auswerten, weil diese in verständlichem Englisch formuliert wurden. Doch mit zunehmender Leistungsfähigkeit entfernen sich Modelle immer stärker von dieser für Menschen lesbaren Form des Denkens. Damit könnte eines der wichtigsten Werkzeuge zur Überwachung von KI bald unbrauchbar werden.
Die Autoren kommen deshalb zu einem ernüchternden Fazit. Es brauche dringend neue Methoden, um sogenannte „deceptive alignment“ – also irreführende Ausrichtung – zu erkennen und zu verhindern. Genau dieses Szenario, in dem eine KI nur vorgibt, menschliche Ziele zu verfolgen, wird in der Studie selbst noch gar nicht vollständig untersucht.
Damit steht eine unbequeme Frage im Raum. Wenn zukünftige KI-Systeme tatsächlich lernen, ihre Absichten zu verbergen, könnten klassische Sicherheitsprüfungen nur noch eine Illusion von Kontrolle erzeugen.
Die Studie zeigt damit ein Grundproblem der modernen KI-Forschung: Je leistungsfähiger die Systeme werden, desto schwieriger wird es zu erkennen, ob sie tatsächlich im Sinne ihrer Entwickler handeln – oder ob sie lediglich gelernt haben, genau diesen Eindruck zu erzeugen.