EINLEITUNG
Human in the Loop reicht nicht mehr
„Der Mensch entscheidet ja am Ende immer noch.“ Dieser Satz beruhigt viele Vorstände und Geschäftsführungen, die gerade KI-Systeme einführen. Er klingt nach Kontrolle. Er beantwortet aber nur eine Frage: ob ein Mensch formal beteiligt ist. Er beantwortet nicht, ob dieser Mensch in dem Moment, in dem es zählt, noch über die Voraussetzungen verfügt, seine Kontrollrolle sinnvoll wahrzunehmen.
Roland Bartl Andreoli, Entwickler des ALS-Modells (AI Leadership Symbiosis), bringt diese Verschiebung in seinen aktuellen LinkedIn-Beiträgen auf den Punkt: Nicht „Human in the Loop“ wird entscheidend, sondern „Human capable of being in the Loop“. Anwesenheit ist noch keine Urteilskraft.
Wie ernst diese Verschiebung inzwischen auch dort genommen wird, wo die leistungsfähigsten KI-Systeme entstehen, zeigte sich Mitte September 2026: Mehrere Sicherheitsforscher von Anthropic gingen mit expliziten Warnungen vor Kontrollverlust an die Öffentlichkeit — darunter der bisherige Leiter des Safeguards-Research-Teams, der mit sofortiger Wirkung zurücktrat. Wenige Tage später reagierte Anthropic-CEO Dario Amodei mit dem öffentlichen Appell, das Entwicklungstempo bewusst zu drosseln, und schlug unabhängige Prüfinstanzen mit dauerhaftem Einblick vor. Für Ihr Unternehmen liegt der Maßstab dieser Debatte auf einer anderen Ebene — die zugrunde liegende Frage jedoch nicht: Wer trägt Verantwortung, wenn niemand mehr vollständig überblickt, was ein System als Nächstes tut?
Quelle: Presseberichterstattung, u. a. Axios, Euronews, The Hill (September 2026); öffentliches Statement Dario Amodei, 12.09.2026.
Dieses Briefing überträgt diesen Gedanken in eine praktische Struktur für Ihr Unternehmen: Warum die Frage nach der Haltung zuerst kommt, wer im Unternehmen Verantwortung tragen sollte, was Sie bewusst nicht automatisieren sollten — und wie Sie das operationalisieren.
1 · WARUM
Haltung vor Technik
Viele Unternehmen führen KI derzeit so ein, wie früher neue Software eingeführt wurde: Lizenz kaufen, Schulung buchen, ein Governance-Kapitel nachreichen. Kultur, Ethik und Führung sollen dann schon irgendwie hinterherkommen. Das gelingt selten.
Drei Beobachtungen, die für die Praxis wichtig sind:
· Technik ohne Werte ist verkleinerte Verantwortung. Wo KI-Projekte ohne ethische Orientierung starten, entfällt menschliche Verantwortung nicht — sie wird verdrängt, bis niemand mehr genau weiß, wer sie trägt.
· Governance wird zur Formsache, wenn Führung nur zuschaut. Wird KI ausschließlich als Reporting-Werkzeug betrachtet, bleiben Transparenz, Verzerrungen (Bias) und Verantwortlichkeit ungeprüft.
· Haltung ist kein Modewort, sondern eine Voraussetzung. Führung ohne Haltung lenkt Prozesse. Führung mit Haltung gestaltet sie.
Die Konsequenz für die Praxis: Stellen Sie nicht zuerst die Frage, welches KI-Tool Sie brauchen. Stellen Sie zuerst die Frage, welche Haltung Ihr Unternehmen dazu trägt. Alles andere baut auf einem Fundament, das nicht trägt.
2 · WER
Verantwortung lässt sich delegieren – Rechenschaft nicht
Ein aktuelles Forschungspapier zur Steuerung der Mensch-KI-Beziehung, das HAIG-Framework (Human-AI Governance: A Trust-Utility Approach), unterscheidet drei Dimensionen, entlang derer sich die Verteilung von Handlungsmacht zwischen Mensch und System beschreiben lässt:
· Decision Authority — Wer hat die legitime Befugnis, die finale Entscheidung zu treffen?
· Process Autonomy — Wie eigenständig darf das System agieren, ohne dass ein Mensch eingreift?
· Accountability Configuration — Wer ist rechenschaftspflichtig, wenn etwas schiefgeht?
Der entscheidende Punkt: Diese drei Dimensionen bewegen sich nicht zwangsläufig im Gleichschritt. Ein System kann in der Ausführung sehr autonom sein, während die Entscheidungsbefugnis vollständig beim Menschen bleibt — das ist keine Schwäche, sondern gute Governance. Gefährlich wird es, wenn Befugnis und Autonomie schleichend auf das System übergehen, ohne dass die Rechenschaftspflicht klar zugeordnet bleibt.
Denn eines gilt unabhängig vom Reifegrad der Technik: „Das System hat entschieden“ ist keine tragfähige Antwort — weder rechtlich noch unternehmerisch. Verantwortung kann delegiert werden. Rechenschaftspflicht nicht.
Zwei Rollen, die sich in der Praxis bewähren
Um zu verhindern, dass Verantwortung zwischen Fachbereich, IT und Geschäftsführung diffundiert („das hat die IT entschieden“ / „wir haben nur das Modell trainiert“ / „wir haben Experten beauftragt“), empfiehlt sich eine klare Trennung von strategischer und operativer Verantwortung:
Wer hat den Loop eigentlich gebaut? Wer hat bestimmt, was einer KI-Vorauswahl überhaupt zur Bewertung vorgelegt wurde? Diese Frage gehört in die Verantwortung des System-Verantwortlichen — nicht erst in den Moment der finalen Freigabe.
Quelle: Human-AI Governance (HAIG): A Trust-Utility Approach, arXiv 2505.01651 (2025, überarbeitet 2026).
3 · WAS
Die Fähigkeit, die Sie bewusst nicht automatisieren
Eine Studie von Subramanya, Krishnan und Azad (Information Systems Frontiers, 2026) untersuchte 143 Wissensarbeiter aus fünf Ländern und beschreibt, was die Autoren als „Complementarity Paradox“ bezeichnen: Intensive Nutzung generativer KI war mit stärkerer Abhängigkeit verbunden — diese wiederum mit wahrgenommenem Verlust professioneller Fähigkeiten.
Die Autoren behaupten nicht, dass KI-Nutzung zwangsläufig zu Kompetenzverlust führt. Ihre Daten zeigen aber eine Entwicklung, die Organisationen ernst nehmen sollten: Aus hilfreicher Ergänzung kann mit zunehmender Routinisierung eine asymmetrische Abhängigkeit werden. Wer jede Analyse zunächst durch ein Sprachmodell laufen lässt, übt seltener, aus einem unübersichtlichen Informationsraum selbst Bedeutung herzustellen.
Das muss nicht grundsätzlich problematisch sein — wir trauern auch nicht der Fähigkeit nach, große Zahlen schriftlich zu dividieren. Bei Führungsentscheidungen gibt es allerdings einen Unterschied: Urteilskraft lässt sich nicht vollständig auslagern, weil sie die Voraussetzung dafür ist, zu erkennen, wann Auslagerung überhaupt sinnvoll ist.
Eine zweite, neuere Studie setzt einen wichtigen Gegenpunkt: Liu, Watts, Li, Wang und Li (Journal of Organizational Behavior, September 2026) zeigen in zwei mehrstufigen Studien, dass die Zusammenarbeit von Führungskräften mit KI positiv mit der Teamperformance zusammenhängt — unter anderem vermittelt über Teamreflexivität und ein breiteres wahrgenommenes Handlungsvermögen im Team. Bemerkenswert: Das Alter der Führungskraft verstärkte einige dieser positiven Effekte, statt sie abzuschwächen.
Die Zukunft von Führung mit KI liegt damit vermutlich nicht darin, möglichst jung und prompt-affin zu sein. Erfahrung wird gerade dann wertvoll, wenn sie hilft, ein Ergebnis einzuordnen, Ambivalenz auszuhalten und eine scheinbar eindeutige Empfehlung wieder in einen größeren Kontext zu stellen. KI ersetzt Urteilskraft nicht — sie macht gute Urteilskraft wertvoller.
Praktische Konsequenz
Definieren Sie bewusst, welche Fähigkeiten in Ihrem Team erhalten bleiben müssen — auch wenn eine KI die jeweilige Aufgabe heute schon schneller oder scheinbar besser erledigt. Das ist kein Rückschritt, sondern eine Form der organisationalen Resilienz: Sie stellen sicher, dass Ihr Unternehmen auch dann noch urteilsfähig ist, wenn ein System einmal falschliegt, ausfällt oder schlicht nicht verfügbar ist.
Quelle: Subramanya, S., Krishnan, S. & Azad, N. (2026): The Complementarity Paradox: Human-AI Collaboration, Overreliance, and Skill Decline in Entrepreneurial Contexts. Information Systems Frontiers. — Liu, P. et al. (2026): AI-Augmented Leadership: How, Why, and When Leaders’ Collaboration With AI Enhances Team Performance. Journal of Organizational Behavior, Vol. 47(7), S. 1228–1254.
4 · WIE
Die vier Fragen der Urteilskraft — operationalisiert
Ein Review von Tremblay und Kollegen (Human Factors, 2026) wertete 192 Veröffentlichungen zur Zusammenarbeit von Menschen und KI-Agenten aus. Zentrales Ergebnis: Entscheidend sind nicht nur klassische Fähigkeiten wie Kommunikation und Koordination, sondern regulatorische Fähigkeiten — das eigene Vertrauen in die KI kalibrieren und gleichzeitig beobachten, was die Zusammenarbeit mit dem eigenen Denken macht.
Nach dem ALS-Modell von Roland Bartl Andreoli lassen sich daraus vier Fragen ableiten, die Sie bei jedem wichtigen KI-gestützten Entscheidungsprozess in Ihrem Unternehmen verankern sollten:
1. Urteilsfähigkeit
Verfügt die zuständige Person an diesem Punkt noch über genügend eigenes Fachwissen und Kontext, um die KI-Empfehlung inhaltlich zu beurteilen? Praxis-Tipp: Prüfen Sie das regelmäßig mit Stichproben ohne KI-Unterstützung.
2. Situation Awareness
Kann nachvollzogen werden, was das System vorher getan, ausgewählt oder verworfen hat, bevor es ein Ergebnis präsentiert? Praxis-Tipp: Machen Sie den Auswahlprozess sichtbar, nicht nur das Endergebnis.
3. Widerspruchsfähigkeit
Ist es organisatorisch und psychologisch legitim, gegen eine gut begründete KI-Empfehlung zu entscheiden? Praxis-Tipp: Bewerten Sie begründeten Widerspruch aktiv positiv, nicht als Verzögerung.
4. Skill-Erhalt
Welche menschliche Fähigkeit wollen Sie bewusst erhalten, auch wenn die KI die Aufgabe heute schon schneller erledigen könnte? Praxis-Tipp: Definieren Sie explizit, welche Arbeitsschritte trotz Automatisierungsmöglichkeit manuell bleiben.
Ergänzend hilft eine einfache Verantwortungslogik für jede wesentliche KI-gestützte Aufgabe: Wer ist zuständig für die Ausführung (Responsible)? Wer trägt am Ende die Rechenschaft (Accountable)? Wer wird vorab einbezogen (Consulted)? Wer wird im Nachgang informiert (Informed)? Diese vier Fragen — bekannt als RACI-Logik — lassen sich auf jede KI-gestützte Entscheidung im Unternehmen anwenden, nicht nur auf große Governance-Projekte.
Quelle: Tremblay, S. et al. (2026): Cognitive Readiness for Human-AI Collaboration. Human Factors. — Konzept ALS-Modell (AI Leadership Symbiosis): Roland Bartl Andreoli.
RECHTLICHER RAHMEN
Was Geschäftsführung und Vorstand wissen sollten
Wichtiger Hinweis: Die folgenden Angaben sind eine Führungs- und Orientierungsperspektive, keine Rechtsberatung. Lassen Sie die Anwendung im Einzelfall anwaltlich prüfen.
Für Geschäftsführer einer GmbH und Vorstandsmitglieder einer AG in Deutschland gilt die allgemeine Sorgfaltspflicht: § 43 GmbHG verpflichtet Geschäftsführer zur Sorgfalt eines ordentlichen Geschäftsmannes, § 93 AktG entsprechend Vorstandsmitglieder einer Aktiengesellschaft. Diese Sorgfaltspflicht umfasst nach überwiegender Auffassung auch die Einrichtung angemessener Kontrollmechanismen für unternehmenskritische Entscheidungsprozesse — dazu zählen zunehmend auch KI-gestützte Verfahren. Fehlende Prüfmechanismen für Systeme, die Entscheidungen vorbereiten oder treffen, können als Organisationsverschulden gewertet werden.
Auf EU-Ebene ist zusätzlich die KI-Verordnung (EU AI Act) relevant. Zwei Artikel sind für die Unternehmenspraxis besonders bedeutsam:
· Art. 13 regelt Transparenzpflichten für Hochrisiko-KI-Systeme gegenüber Betreibern — etwa verständliche Betriebsanleitungen und Informationen zu Funktionsweise und Grenzen des Systems.
· Art. 50 regelt Kennzeichnungspflichten für bestimmte KI-Systeme und KI-generierte Inhalte (u. a. Chatbots, Deepfakes, bestimmte veröffentlichte KI-Inhalte) — in Kraft seit dem 2. August 2026, mit Übergangsfristen für bereits eingesetzte Systeme. Es handelt sich nicht um eine pauschale Kennzeichnungspflicht für jeden KI-Einsatz, sondern um kontextabhängige Anforderungen.
Praxisempfehlung: Führen Sie ein einfaches internes Verzeichnis aller im Unternehmen eingesetzten KI-Systeme (auch nicht offiziell freigegebene Tools einzelner Teams), ordnen Sie diese den Risikoklassen des EU AI Act zu und klären Sie, ob Ihr Unternehmen dabei als Anbieter oder als Betreiber auftritt.
CHECKLISTE
Ihr KI-Führungs-Fahrplan innerhalb einer Systemarchitektur
Zum Abhaken für die nächste Geschäftsführungssitzung oder das nächste Führungskräfte-Meeting:
☐ KI-Systeme inventarisieren: alle eingesetzten Systeme erfassen — inklusive nicht offiziell freigegebener Tools einzelner Teams.
☐ Für jedes System klären: Anbieter- oder Betreiberrolle, Risikoklasse nach EU AI Act, Entscheidungsspielraum des Systems.
☐ Einen KI-Verantwortlichen aus der Geschäftsführung/dem Führungsteam benennen — keine neue Stelle, sondern eine klar definierte Rolle mit Zuständigkeit.
☐ Für jedes geschäftskritische System einen operativen System-Verantwortlichen benennen.
☐ Für jede wesentliche KI-gestützte Aufgabe RACI klären: Wer ist zuständig, wer rechenschaftspflichtig, wer wird konsultiert, wer informiert?
☐ Eskalationspunkte definieren: Welche Ereignisse erfordern sofortiges menschliches Eingreifen (z. B. Kundenbeschwerden, auffällige Muster, Konfidenzwerte unter einem Schwellenwert)?
☐ Die vier ALS-Fragen (Urteilsfähigkeit, Situation Awareness, Widerspruchsfähigkeit, Skill-Erhalt) für mindestens die drei wichtigsten KI-gestützten Prozesse im Unternehmen konkret beantworten.
☐ Bewusst festlegen, welche Fähigkeiten im Team trotz Automatisierungsmöglichkeit aktiv trainiert und erhalten werden.
☐ Regelmäßige Stichproben ohne KI-Unterstützung einplanen, um Urteilsfähigkeit der zuständigen Personen zu erhalten und zu prüfen.
☐ Entscheidungsprotokoll führen: Warum wurde einer KI-Empfehlung gefolgt oder widersprochen? Dokumentation schützt im Streitfall.
☐ Transparenz- und Kennzeichnungspflichten nach Art. 13 und Art. 50 EU AI Act prüfen — im Zweifel anwaltlich absichern.
☐ Diesen Fahrplan mindestens halbjährlich überprüfen — KI-Systeme und Rechtslage entwickeln sich weiter.
ABSCHLUSS
Führung als Architektur von Entscheidungsräumen
KI verändert nicht, ob Führung gebraucht wird. Sie verändert, wofür Führung gebraucht wird. Weg vom einsamen Entscheider an der Spitze, hin zur Architektin von Entscheidungsräumen — die vorher festlegt, was eine Maschine allein tun darf, was eine Freigabe braucht und was einen sofortigen Stopp auslöst.
Genau diese Fragestellung — wie viel Steuerung, Distanz und Regulationsfähigkeit eine Führungskraft in komplexen, sich wandelnden Situationen aufbringt — ist kein neues Thema. Sie ist der Kern meines „Neuroleadership Radar„, das Framework „Schließung der Execution Gap“ (siehe beide in vorhergehenden Beiträgen), macht die Rollen- und Prozessklarheit in der Systemarchitektur deutlich. KI macht diese Frage nicht neu, sie macht sie dringlicher.
Sprechen Sie mich gerne an. KI ist bereits ein wichtiger Baustein in unseren Systemen. Die Frage ist als nicht ob, sondern wer und wie gehen wir mit KI um.
Schreibe einen Kommentar