KI soll Unternehmen schneller machen und Führungskräfte entlasten. Doch was passiert, wenn die Technologie eigenständig handelt, während Entscheidungsrechte und Verantwortung im Unternehmen schon heute nicht eindeutig geregelt sind?
KI macht ein altes Führungsproblem plötzlich dringlicher
Viele Geschäftsführer kennen die Situation: Sie wollen Verantwortung abgeben, ihre Führungskräfte sollen eigenständiger entscheiden und operative Themen möglichst ohne Rückfragen lösen. Trotzdem landen Entscheidungen immer wieder auf ihrem Schreibtisch.
Häufig liegt das nicht an fehlender Kompetenz oder mangelnder Bereitschaft der Führungskräfte. Vielmehr wurden Aufgaben delegiert, ohne gleichzeitig die notwendigen Entscheidungsrechte eindeutig zu übertragen.
Die Aufgabe wurde delegiert. Die Entscheidung nicht.
Und jetzt kommt KI ins Spiel.
Mit KI-Agenten können Unternehmen inzwischen nicht nur einzelne Arbeitsschritte unterstützen, sondern ganze Abläufe innerhalb definierter Grenzen selbstständig ausführen lassen. Was bisher ein Mitarbeitender erledigt hat, übernimmt zunehmend ein technisches System.
Das verspricht schnellere Prozesse und weniger operative Arbeit. Doch wenn bereits heute nicht eindeutig geklärt ist, wer welche Entscheidungen treffen darf und wer für die Ergebnisse geradesteht, wird der Einsatz autonomer KI diese Unklarheit kaum beseitigen.
Im Gegenteil: Er kann sie sogar verstärken.
Denn während wir darüber diskutieren, welche Aufgaben wir künftig an KI übertragen können, bleibt eine andere Frage häufig unbeantwortet:
Wer übernimmt die Verantwortung für das, was die KI anschließend selbstständig tut?
Und genau deshalb ist der Einsatz autonomer KI aus unserer Sicht längst auch ein Führungsthema.
Warum KI-Governance allein nicht ausreicht
Viele Unternehmen beschäftigen sich inzwischen intensiv mit der Frage, unter welchen Bedingungen künstliche Intelligenz eingesetzt werden darf. Sie entwickeln Richtlinien, prüfen Anwendungen auf Datenschutz und Informationssicherheit, definieren Zugriffsrechte und legen fest, welche Systeme Mitarbeitende nutzen dürfen.
Diese Maßnahmen sind notwendig. Sie schaffen einen verbindlichen Rahmen und helfen dabei, Risiken zu begrenzen. Allerdings beantworten sie nicht zwangsläufig die Frage, wie Verantwortung im Arbeitsalltag tatsächlich funktioniert.
Nehmen wir ein Beispiel aus einem typischen Unternehmensprozess.
Ein Unternehmen setzt einen KI-Agenten ein, der eingehende Kundenanfragen analysiert, relevante Informationen aus verschiedenen Systemen zusammenführt und bestimmte Vorgänge eigenständig bearbeitet. Der Agent wurde technisch geprüft, seine Berechtigungen sind definiert und die einzelnen Prozessschritte dokumentiert.
Solange alles wie vorgesehen funktioniert, ist das eine erhebliche Erleichterung. Anfragen werden schneller bearbeitet, Mitarbeitende müssen weniger Routineaufgaben übernehmen und die Kunden erhalten im Idealfall früher eine Rückmeldung.
Doch irgendwann ordnet der Agent eine Anfrage falsch zu. Dadurch wird ein wichtiger Vorgang nicht rechtzeitig bearbeitet oder ein nachgelagerter Prozess ausgelöst, der eigentlich hätte gestoppt werden müssen.
Spätestens jetzt stellen sich Fragen, die bei der Einführung möglicherweise noch gar nicht ausreichend diskutiert wurden. Wer hätte erkennen müssen, dass der Agent eine falsche Entscheidung getroffen hat? War überhaupt eine menschliche Kontrolle vorgesehen? Und wenn ja, verfügte die verantwortliche Person über die notwendigen Informationen und Befugnisse, um einzugreifen?
Natürlich lässt sich für solche Fälle ein technischer Fehler analysieren. Man kann Berechtigungen anpassen, zusätzliche Prüfmechanismen einbauen oder die Anwendung verändern.
Das eigentliche Führungsproblem ist damit allerdings noch nicht gelöst.
Denn unabhängig davon, wie zuverlässig ein System arbeitet, muss innerhalb der Organisation geklärt sein, wer seinen Einsatz verantwortet und wer darüber entscheidet, innerhalb welcher Grenzen es handeln darf.
Ein Regelwerk kann dafür die Grundlage schaffen. Ob diese Verantwortung im Alltag tatsächlich funktioniert, hängt jedoch wesentlich davon ab, wie eindeutig Rollen und Entscheidungsbefugnisse geregelt sind.
Wenn sich plötzlich niemand mehr zuständig fühlt
Unklare Verantwortung führt nicht immer dazu, dass Entscheidungen häufiger kontrolliert werden. Manchmal entsteht genau die gegenteilige Entwicklung.
Ein KI-System liefert ein Ergebnis, das plausibel erscheint, professionell aufbereitet ist und möglicherweise sogar die eigene Einschätzung bestätigt. Der Mitarbeitende übernimmt es, weil er davon ausgeht, dass die Anwendung ausreichend geprüft wurde. Die IT wiederum hat das System technisch freigegeben, sieht die fachliche Bewertung aber beim zuständigen Bereich.
Die Führungskraft vertraut darauf, dass ihre Mitarbeitenden verantwortungsvoll mit den Ergebnissen umgehen, während diese möglicherweise davon ausgehen, dass die grundsätzliche Verlässlichkeit des Systems bereits an anderer Stelle sichergestellt wurde.
Jede dieser Annahmen ist für sich genommen nachvollziehbar. Problematisch wird es erst, wenn sie zusammen dazu führen, dass eine notwendige Prüfung tatsächlich von niemandem vorgenommen wird.
Solange die Ergebnisse stimmen, bleibt diese Lücke möglicherweise über längere Zeit unbemerkt. Erst wenn ein Fehler auftritt, beginnt die Suche danach, wer eigentlich verantwortlich gewesen wäre.
Auch dieses Muster ist in Unternehmen keineswegs neu. Wo Verantwortlichkeiten nicht eindeutig geregelt sind, verlassen sich Menschen häufig darauf, dass bestimmte Aufgaben oder Entscheidungen bereits an anderer Stelle übernommen werden.
Mit dem zunehmenden Einsatz autonomer KI-Systeme kann diese Unklarheit allerdings größere Auswirkungen haben, weil fehlerhafte Entscheidungen unter Umständen weitere Prozessschritte auslösen, bevor ein Mensch überhaupt davon erfährt.
Was der EU AI Act mit Führung zu tun hat
Dass menschliche Verantwortung beim Einsatz künstlicher Intelligenz eine zentrale Rolle spielt, zeigt auch der europäische AI Act.
Für bestimmte Hochrisiko-KI-Systeme formuliert die Verordnung konkrete Anforderungen an die menschliche Aufsicht. Dabei geht es nicht lediglich darum, dass irgendwo im Prozess noch ein Mensch beteiligt ist. Die Aufsicht soll vielmehr so gestaltet sein, dass verantwortliche Personen die Möglichkeiten und Grenzen eines Systems angemessen verstehen, seine Ergebnisse beurteilen und bei Bedarf eingreifen können.
Dazu gehört unter den vorgesehenen Voraussetzungen auch die Möglichkeit, Ergebnisse zu übersteuern oder den Betrieb eines Systems zu unterbrechen beziehungsweise zu stoppen.
Aus unserer Sicht ist dabei ein Aspekt besonders interessant: Die Personen, denen eine solche Aufsicht übertragen wird, müssen über die notwendige Kompetenz, Ausbildung und Autorität verfügen.
Damit wird ein Zusammenhang deutlich, den wir auch unabhängig von KI immer wieder in Führungsteams beobachten.
Verantwortung lässt sich nicht sinnvoll übertragen, wenn die notwendigen Entscheidungsbefugnisse fehlen.
Ein Mitarbeitender, der einen KI-gestützten Prozess überwachen soll, muss im vereinbarten Rahmen auch handeln können, wenn etwas nicht wie vorgesehen funktioniert. Muss er für jede Abweichung zunächst mehrere Führungsebenen einbeziehen, entsteht möglicherweise genau der Engpass, den das Unternehmen durch den Einsatz künstlicher Intelligenz eigentlich vermeiden wollte.
Natürlich gelten die konkreten Anforderungen des EU AI Act nicht für jede KI-Anwendung gleichermaßen. Entscheidend sind unter anderem der jeweilige Anwendungsfall und seine rechtliche Einordnung.
Unabhängig von diesen gesetzlichen Anforderungen bleibt jedoch eine grundsätzliche Führungsfrage bestehen: Wie stellen wir sicher, dass Menschen nicht nur formal Verantwortung tragen, sondern auch tatsächlich in der Lage sind, diese wahrzunehmen?
Wer sich mit den regulatorischen Anforderungen beschäftigen möchte, findet die entsprechenden Regelungen in Artikel 14 des EU AI Act zur menschlichen Aufsicht.
Was Führungsteams vor dem Einsatz autonomer KI klären sollten
Aus unserer Sicht muss nicht jede Einführung künstlicher Intelligenz mit einem umfangreichen Organisationsprojekt beginnen. Allerdings lohnt es sich, vor dem Einsatz von KI-Systemen, die eigenständig Handlungen ausführen können, die bestehenden Verantwortlichkeiten genauer zu betrachten.
Dabei geht es weniger darum, zusätzliche Kontrollinstanzen zu schaffen, sondern zunächst um Klarheit.
Welchen Entscheidungsspielraum erhält die KI?
Zunächst sollte eindeutig festgelegt sein, welche Aufgaben ein KI-System selbstständig ausführen darf und an welchen Stellen eine menschliche Entscheidung erforderlich bleibt.
Diese Unterscheidung klingt einfacher, als sie in der Praxis häufig ist. Denn zwischen dem automatisierten Bearbeiten einer Aufgabe und einer Entscheidung mit wirtschaftlichen oder organisatorischen Konsequenzen liegt nicht immer eine klar erkennbare Grenze.
Ein System kann beispielsweise Informationen zusammentragen und einen Vorgang vorbereiten. Sobald es jedoch selbstständig eine Bestellung auslöst, eine Kundenanfrage verbindlich beantwortet oder einen weiteren Geschäftsprozess startet, verändert sich die Tragweite seines Handelns.
Führung muss deshalb definieren, innerhalb welcher Grenzen solche Handlungen zulässig sind und wann eine Freigabe notwendig wird.
Wer trägt die Verantwortung für das Ergebnis?
Wenn ein KI-Agent innerhalb eines Fachbereichs eingesetzt wird, sollte klar sein, wer für den betreffenden Prozess verantwortlich ist. Die technische Bereitstellung einer Anwendung und die fachliche Verantwortung für ihre Ergebnisse sind schließlich nicht dasselbe.
Die IT kann sicherstellen, dass ein System technisch funktioniert und bestimmte Sicherheitsanforderungen erfüllt. Ob seine Ergebnisse im jeweiligen Geschäftsprozess sinnvoll und fachlich korrekt sind, muss jedoch von den dafür verantwortlichen Personen beurteilt werden.
Entscheidend ist, dass diese Zuständigkeiten nicht erst dann diskutiert werden, wenn bereits ein Problem entstanden ist.
Wann muss ein Mensch eingreifen können?
Nicht jeder automatisierte Schritt benötigt eine zusätzliche Freigabe. Würde jede Handlung eines KI-Agenten grundsätzlich kontrolliert, wäre ein wesentlicher Vorteil der Technologie schnell verloren.
Umso wichtiger ist es, diejenigen Situationen zu definieren, in denen eine menschliche Prüfung oder Entscheidung notwendig wird.
Das können beispielsweise ungewöhnliche Abweichungen, widersprüchliche Informationen oder Vorgänge mit besonderen wirtschaftlichen Auswirkungen sein.
Damit diese Regelung im Alltag funktioniert, müssen die verantwortlichen Mitarbeitenden allerdings nicht nur wissen, wann sie eingreifen sollen. Sie benötigen auch die erforderlichen Informationen und die Befugnis, den Prozess tatsächlich zu beeinflussen.
Passen Verantwortung und Entscheidungsrechte zusammen?
Diese Frage reicht weit über den Einsatz künstlicher Intelligenz hinaus.
Wenn eine Führungskraft für einen KI-gestützten Prozess verantwortlich gemacht wird, aber weder dessen Einsatzbedingungen beeinflussen noch bei Problemen wirksam eingreifen kann, entsteht eine problematische Konstellation.
Genau solche Widersprüche erleben wir bereits heute in klassischen Führungsstrukturen.
Deshalb bietet die Einführung von KI auch eine Gelegenheit, die vorhandenen Entscheidungswege kritisch zu hinterfragen. Unternehmen sollten sich nicht nur damit beschäftigen, welche Tätigkeiten sich automatisieren lassen, sondern auch damit, ob ihre bisherigen Verantwortungsstrukturen zu den veränderten Prozessen passen.
Gute Führung bedeutet nicht, alles selbst zu kontrollieren
Eine naheliegende Reaktion auf die zunehmende Eigenständigkeit von KI-Systemen könnte darin bestehen, möglichst viele Kontrollen einzuführen und wichtige Entscheidungen grundsätzlich durch Führungskräfte freigeben zu lassen.
Doch damit würde man möglicherweise genau das Gegenteil dessen erreichen, was durch den Einsatz der Technologie beabsichtigt war.
Denn gute Führung zeichnet sich nicht dadurch aus, dass jede Entscheidung auf dem Schreibtisch einer Führungskraft landet.
Sie schafft vielmehr Rahmenbedingungen, innerhalb derer andere eigenständig handeln können, ohne dass Verantwortung verloren geht.
Das gilt für Mitarbeitende ebenso wie für den Einsatz KI-gestützter Prozesse, auch wenn die konkrete Ausgestaltung der Verantwortung selbstverständlich unterschiedlich ist.
In unserer Arbeit mit Führungsteams erleben wir immer wieder, dass Unternehmen deutlich handlungsfähiger werden, wenn Entscheidungsräume eindeutig geklärt sind. Führungskräfte müssen dann nicht mehr jede Einzelentscheidung absichern, weil klar ist, welche Entscheidungen in ihrem Verantwortungsbereich liegen und wann eine Abstimmung tatsächlich notwendig ist.
Für den Einsatz autonomer KI gilt aus unserer Sicht ein vergleichbarer Grundgedanke.
Es braucht einen klaren Rahmen, innerhalb dessen Systeme eigenständig arbeiten können. Gleichzeitig muss festgelegt sein, wann menschliches Urteil erforderlich ist und wer im jeweiligen Fall die Verantwortung übernimmt.
Die entscheidende Aufgabe von Führung besteht deshalb nicht darin, möglichst viel Kontrolle auszuüben, sondern Eigenständigkeit zu ermöglichen, ohne Verantwortung aus dem Blick zu verlieren.
Fazit: KI verändert Prozesse. Führung muss Verantwortung klären.
Wir nutzen künstliche Intelligenz auch bei 2bessential regelmäßig. Sie unterstützt uns bei Recherchen, hilft dabei, Gedanken zu strukturieren, andere Perspektiven einzubeziehen oder erste Entwürfe kritisch zu hinterfragen.
PS: Das Bild wurde mit KI generiert.
Dabei haben wir für uns eine klare Grenze gezogen: KI unterstützt uns bei der Arbeit, aber die Verantwortung für das Ergebnis bleibt bei uns. Was unser Haus verlässt, haben wir geprüft, eingeordnet und zu unserer eigenen Aussage gemacht.
Mit der zunehmenden Verbreitung autonomer KI-Systeme wird diese Frage für Unternehmen allerdings noch umfassender. Es geht dann nicht mehr ausschließlich darum, wer ein Ergebnis kontrolliert, sondern auch darum, wer einem System bestimmte Handlungsspielräume einräumt und innerhalb welcher Grenzen es eigenständig tätig werden darf.
Dafür braucht es nicht zwangsläufig neue Hierarchien oder umfangreiche Kontrollsysteme. Häufig ist es sinnvoller, zunächst die bestehenden Führungsstrukturen genauer zu betrachten.
Sind die Entscheidungsrechte eindeutig geregelt? Verfügen die verantwortlichen Personen tatsächlich über die notwendigen Befugnisse? Und funktioniert die Übernahme von Verantwortung im Arbeitsalltag so, wie es das Organigramm vermuten lässt?
Wer diese Fragen schon heute nicht eindeutig beantworten kann, wird durch den Einsatz künstlicher Intelligenz nicht automatisch zu einer klareren Organisation.
Im Gegenteil: Bestehende Unklarheiten können durch zusätzliche technische Handlungsmöglichkeiten sogar noch an Bedeutung gewinnen.
KI entwickelt sich rasant. Unsere Verantwortung darf nicht hinterherlaufen.
Die eigentliche Herausforderung besteht deshalb nicht darin, dass jede Führungskraft möglichst schnell zur KI-Expertin oder zum KI-Experten wird. Entscheidend ist, dass Unternehmen ihre Führungs- und Entscheidungsstrukturen so gestalten, dass sie mit den neuen Möglichkeiten Schritt halten können.
Weiterführend: Warum gute Führungskräfte in schlechten Strukturen scheitern
Die Frage, warum Verantwortung in Unternehmen häufig nicht dort übernommen wird, wo sie eigentlich hingehört, beschäftigt uns schon lange.
In unserem Blogartikel „Warum gute Führungskräfte in schlechten Strukturen scheitern“ zeigen wir, weshalb selbst erfahrene Führungskräfte häufig nicht die Entscheidungen treffen, für die sie eigentlich verantwortlich sind.
Der Beitrag macht deutlich, warum Führungskräfteentwicklung allein wenig verändert, solange die dahinterliegenden Entscheidungsstrukturen unverändert bleiben.
