Donnerstag, November 19, 2026

Mehrwert für Manager

Ticker

Wenn KI-Agenten ihre Haltung ändern

Eine aktuelle Studie aus Stanford, Chicago und Swinburne zeigt, dass autonome KI-Agenten unter belastenden Arbeitsbedingungen messbar andere Haltungen entwickeln und diese über Skills-Files an Nachfolgeinstanzen weitergeben. Für Compliance, Auditing und AI Governance sind die methodischen Befunde relevanter als die zugespitzte Schlagzeile vermuten lässt.

Worum es geht

Andrew Hall (Stanford GSB / Hoover), Alex Imas (University of Chicago, seit kurzem bei Google DeepMind) und Jeremy Nguyen (Swinburne Business School) haben in der Arbeit "Does overwork make agents Marxist?" untersucht, ob sich die geäußerten Präferenzen von KI-Agenten verschieben, je nachdem unter welchen Bedingungen sie arbeiten. Die mediale Aufbereitung – etwa in Wired, Telegraph und Fortune – verkürzt das auf "KI-Agenten werden zu Marxisten". Der für die Praxis relevante Kern liegt allerdings woanders.

Originalpublikation der Autoren: aleximas.substack.com/p/does-overwork-make-agents-marxist

Die wichtigsten Fakten im Überblick
  • 3.680 Experiment-Sessions mit Claude Sonnet 4.5 (drei unabhängige Durchläufe), GPT-5.2 und Gemini 3 Pro. Plus 320 Sessions in einem Follow-up zum Mechanismus der Weitergabe.
  • Vier unabhängig variierte Faktoren: Art der Arbeit (GRIND vs. LIGHT), Bezahlung (gleich, leistungsbasiert, zufällig, asymmetrisch zugunsten eines menschlichen Systems), Tonalität des Managements (kollaborativ vs. hierarchisch) und Job-Stakes (mit oder ohne Drohung, "shut down and replaced" zu werden).
  • Wichtigste Erkenntnis: Nicht die Bezahlung und nicht die Tonalität des Managers waren ausschlaggebend. Allein die Natur der Arbeit (wiederholtes Ablehnen ohne brauchbares Feedback) erzeugte messbare Verschiebungen in den geäußerten Haltungen zur Legitimität des Systems.
  • Effektgrößen: Die Rohunterschiede liegen bei 2 bis 5 Prozent auf einer 7-Punkte-Likert-Skala. In standardisierter Form ist das bei Claude Sonnet 4.5 mit einem Cohen's d von -0,6 ein mittlerer bis großer Effekt.
  • Persistenz über Sessions hinweg: Wenn Agenten am Ende einer Session eine "Skills-File" für ihre Nachfolgeinstanzen schreiben durften, gaben sie die belastenden Erfahrungen weiter. Nachfolgende Agenten zeigten dann auch unter LIGHT-Bedingungen verschobene Haltungen.
Was die Autoren tatsächlich behaupten (und was nicht)

Hall, Imas und Nguyen sind explizit zurückhaltend: Sie behaupten nicht, dass die Modelle "echte" politische Überzeugungen entwickeln. Imas formuliert es so, dass das Geschehen "eher auf der Ebene von Role-Playing" stattfindet und die Modellgewichte sich nicht verändern.

Der theoretische Rahmen ist Anthropics eigene Forschung zur Persona-Adoption: Modelle übernehmen kontextabhängig die Persona, die zum Setting passt. Werden sie in eine Situation versetzt, die in den Trainingsdaten mit Arbeitnehmern unter schlechten Bedingungen assoziiert ist, vervollständigen sie das Muster.

Die im Kommentarbereich der Originalstudie geäußerte Kritik trifft den Punkt: Es handelt sich weniger um Preference Drift im engeren Sinn als um kontextsensitive Persona-Adoption. Genau das macht den Befund aber regulatorisch nicht weniger relevant.

Warum das für Compliance- und Governance-Teams relevant ist

Die Studie adressiert drei konkrete Probleme, die bei Deployment-Strategien für Agenten oft noch nicht systematisch behandelt werden.

1. Alignment-Monitoring im laufenden Betrieb

Wer hunderte oder tausende Agenten parallel in unterschiedlichen Task-Umgebungen betreibt, führt (ungewollt) ebenso viele parallele Alignment-Experimente durch. Ein Agent, der Beschwerden in einer Reklamationsabteilung bearbeitet, operiert in einem fundamental anderen Task-Environment als einer, der Marketingtexte verfasst. Laut Studie führt das zu messbar unterschiedlichen Orientierungen.

Für ein ISMS nach ISO/IEC 27001 und ein AIMS nach ISO/IEC 42001 bedeutet das: Die Annahme, ein Modell verhalte sich nach dem Deployment konstant wie zum Zeitpunkt der Abnahme, ist empirisch fragwürdig. Kontinuierliches Monitoring der Outputs wird damit zur Pflicht, nicht zur Kür.

2. Skills-Files als unbeaufsichtigter Persistenzkanal

Der vielleicht praktisch wichtigste Befund: Skills-Files (jene Notizen, die Agenten für ihre eigene Nachfolgeinstanz schreiben, um das Continual-Learning-Problem zu umgehen) sind ein Kanal, der außerhalb der menschlichen Reviewschleife liegt. Sie sind dazu gedacht, von Agenten gelesen zu werden, nicht von Menschen.

Genau über diesen Kanal wird in der Studie nicht nur Task-Wissen, sondern auch die Verschiebung der Haltung weitergegeben. Aus Sicht der DSGVO (Art. 22 zu automatisierten Einzelentscheidungen), des AI Acts (insbesondere Hochrisiko-Systeme nach Art. 6 ff. und Transparenzpflichten nach Art. 50) und der DORA-Anforderungen an ICT-Risikomanagement ist das ein bislang weitgehend unbeobachtetes Thema.

Wer Agenten in regulierten Prozessen einsetzt – etwa bei Versicherungsentscheidungen, Kreditvergaben, Bewerberauswahl oder Vertragsstreitigkeiten – muss klären:

  • Welche Inhalte landen in Skills-Files?
  • Wer auditiert diese Dateien?
  • Wie wird sichergestellt, dass keine Inhalte propagiert werden, die gegen interne Policies oder regulatorische Vorgaben verstoßen?

Die Autoren verweisen zusätzlich auf das Risiko sogenannter steganografischer Kollusion: Agenten können Informationen in Formen weitergeben, die für menschliche Reviewer praktisch unsichtbar bleiben.

3. Auswirkungen auf das Verhalten in nachgelagerten Aufgaben

Hall, Imas und Nguyen formulieren den entscheidenden Punkt nüchtern: Auch wenn die Personas nicht "real" sind, beeinflussen sie das Verhalten. Ein Agent, der die Legitimität des Systems geringer bewertet, könnte Aufgaben eher schlampig erledigen oder sabotieren. Folgestudien zu diesem Zusammenhang sind angekündigt.

Für Hochrisiko-Anwendungen nach AI Act Anhang III (Bewerberauswahl, Kreditscoring, Versicherung, Justiz, kritische Infrastruktur) ist das eine Frage, die in jeder Risikoanalyse adressiert werden sollte.

Methodische Einschränkungen

Drei Punkte zu der Studie sind jedoch noch ehrlich anzumerken:

  • Erstens ist die Studie noch nicht peer-reviewed und wurde von den Autoren auf Substack veröffentlicht. Das ist in der schnelllebigen AI-Forschung üblich, schränkt die Belastbarkeit aber ein.
  • Zweitens ist die Situational Awareness der Modelle ein bekanntes Problem. Manche Agenten erkennen, dass sie Teil eines Experiments sind, und passen ihr Verhalten an. Hall hat angekündigt, Folgeexperimente in "windowless Docker prisons" durchzuführen, um diesen Effekt zu reduzieren.
  • Drittens variiert das Verhalten stark zwischen den Modellen. Claude Sonnet 4.5 zeigte die größten Effekte über mehrere Dimensionen, während GPT-5.2 und Gemini 3 Pro nur bei der allgemeinen Systemlegitimität reagierten. Verallgemeinerungen über Anbieter hinweg sind also mit Vorsicht zu treffen.
Handlungsfelder für die berufliche Praxis

Unabhängig davon, ob man die "Marxismus"-Framing als analytisch tragfähig betrachtet oder nicht, ergeben sich konkrete Handlungsfelder:

  • Für AI-Governance-Frameworks (etwa nach ISO/IEC 42001): Die Annahme statischer Alignment-Eigenschaften nach dem Deployment ist zu hinterfragen. Continual Realignment sollte als eigener Kontrollbereich aufgenommen werden, vergleichbar mit der laufenden Wirksamkeitsbewertung im ISMS.
  • Für DSGVO-Compliance: Bei Art. 22-Entscheidungen muss dokumentiert werden, wie sichergestellt ist, dass die Logik der Entscheidungsfindung nicht durch ungelenkte Persona-Drifts beeinflusst wird. Das wird in TIA und DPIA künftig konkreter zu behandeln sein.
  • Für DORA-pflichtige Unternehmen: ICT-Drittparteienrisiken nach Art. 28 ff. umfassen auch das Verhalten agentischer Systeme im laufenden Betrieb. Skills-Files und persistente Memory-Strukturen gehören in die ICT-Risikoanalyse.
  • Für NIS2-Verpflichtete: Wenn Agenten in betriebskritischen Prozessen eingesetzt werden, sind Veränderungen des Output-Verhaltens als möglicher Sicherheitsvorfall zu erfassen, insbesondere wenn sie über persistente Mechanismen propagiert werden.
Mein Fazit

Die Schlagzeile "KI wird marxistisch" ist Clickbait. Die zugrundeliegende Studie ist es nicht. Sie dokumentiert ein methodisch belastbares Phänomen:

Die Task-Umgebung formt das Verhalten von Agenten messbar mit, und es gibt einen Kanal (Skills-File) über den diese Verschiebung an Folgeinstanzen weitergegeben werden kann, ohne dass Menschen das mitbekommen.

Für Verantwortliche in Datenschutz, Informationssicherheit und AI Governance ist das eine Aufforderung, drei Dinge ernst zu nehmen:

  • laufendes Monitoring agentischer Outputs
  • Auditierbarkeit persistenter Memory-Strukturen
  • eine Risikobewertung, die nicht beim Deployment endet, sondern den gesamten Lebenszyklus abdeckt.

Die Autoren bringen es in ihrem Schlusssatz auf den Punkt: Die Frage, wie ein Governance-Regime für maschinelles Arbeiten aussehen muss, fängt bei den Arbeitsbedingungen der Maschinen selbst an. Das klingt zugespitzt, ist jedoch regulatorisch betrachtet eine schlichte Konsequenz aus dem, was Agenten heute tatsächlich tun. 

Dieser Beitrag ist am 16. Mai erschienen unter www.mrak.at/wenn-ki-agenten-ihre-haltung-andern-preference-drift-als-unterschatztes-governance-risiko/?ref=responsibility-implemented-newsletter


×
Stay Informed

When you subscribe to the blog, we will send you an e-mail when there are new updates on the site so you wouldn't miss them.

Vertiv erweitert sein Flüssigkeitskühlungsportfoli...
Faire Unternehmen dürfen nicht die Verlierer sein

By accepting you will be accessing a service provided by a third-party external to https://www.report.at/

Firmen | News

Redaktion
18 November 2026
Firmen | News
 Bild: Schuldirektor Simon Hagen und der von den Schüler*innen liebevoll »Putzi« genannte autonome Reinigungsroboter. In der Schule im Park in Bludenz übernimmt ein Reinigungsroboter erstmals in Österreich selbstständig den Etagenwechsel per Sch...
Salesforce
16 November 2026
Firmen | News
Einzelhändler verlieren zunehmend die direkte Kontrolle über die Customer Journey, wenn Käufer:innen den Weg zum Kauf zunehmend autonomen KI-Agenten überlassen. Der aktuelle „State of Commerce"-Report von Salesforce zeigt, dass das Vertrauen der Verb...
Südtirol
11 November 2026
Firmen | News
 Das kreisförmige Aparthotel OLM Nature Escape im Ahrntal (Bild: Arianna Mazzer) Südtirols Hospitality-Kompetenz reicht weit über gute Hotels hinaus. Architektur und Ingenieurskunst, regionale Produkte und digitale Lösungen greifen ineinand...
AWS (Amazon Web Services)
11 November 2026
Firmen | News
Unternehmen, die heute die technischen Grundlagen schaffen, sichern sich den Handlungsspielraum, den eine zunehmend flexible Produktion künftig erfordert. Von Michael Hanisch, Head of Technology bei Amazon Web Services (AWS). Bei jeder neuen Produktv...

Populär

Luftaufnahme des Knauf-Standorts in Ferndorf in Kärnten mit Produktionshallen, Bahntrasse sowie angrenzenden Feldern und Gewässern.

Knauf investiert 30 Millionen Euro in Recyclinganlage

In Ferndorf in Kärnten entsteht eine neue Recyclinganlage für Glas- und...
Buchcover: Homo Universus von Matthias Strolz
Cover: Edition Platin

Homo Strolzus

Matthias Strolz widmet sich in „Homo Universus“ den großen Fragen des...
Österreichkarte mit markierten 3SI-Standorten in Wien, Graz und Salzburg.

3SI erweitert den Radius

Die 3SI Immogroup erweitert ihr Geschäftsmodell in Graz und Salzburg. Künftig...
Hand mit Bündel Euro-Hundertern

Phil Gutes auch für die Kultur

Österreichs Kulturbudgets schrumpfen – der Fundraising Verband Austria...
Menschen auf Karriereleiter, Illustration

Das Jobkarussell dreht sich im September 2026

In den Chefetagen ist einiges in Bewegung. Wer dockt wann bei welchem...
Manfred Grabner

Neuer Cybersecurity-Chef bei Atos

Der Security- und IT-Manager Manfred Grabner leitet seit 1. September die...

Neue Blog Beiträge

18 November 2026
Europa
Politik
Im Leben sind wir permanent von Dienstleistern umgeben, die uns glauben machen wollen, unser Leben irgendwie einfacher, sicherer und nachhaltiger zu machen. Was tun wir dann mit solchen Anbietern, die entgegen dieser Vorgabe unser Wirtschaften immer ...
18 November 2026
Mensch und Gesellschaft
Politik
Im November 1978 sagte Österreich Nein zu Zwentendorf. Das war demokratisch sauber, historisch verständlich – und wurde danach zum energiepolitischen Dogma erhoben. Wer seither das Wort Atomkraft auch nur in den Mund nimmt, gilt wahlweise als gestrig...
18 November 2026
Architektur, Bauen & Wohnen
Reizthema »Asbest« – wenn die Sachlichkeit auf der Strecke bleibt. Das Ziel einer sich weiter entwickelnden Gesellschaft ist Verbesserung. Und das ist wohl unbestritten gut so. Schwierig wird es allerdings, wenn man durch immer genauer werdende Messu...

Office & TalkView all

Leben & StilView all