Wenn KI die Werte auf die Probe stellt, zu denen wir uns bekennen

Eine Führungskraft betrachtet eine KI-gestützte Entscheidung. Ein Kompass steht für Werte, während Verbindungslinien die Folgen für Beschäftigte, Kunden und die weitere Gemeinschaft zeigen.

Ich komme immer wieder auf eine Frage zurück, die vielen unserer Gespräche über künstliche Intelligenz auf unangenehme Weise zugrunde liegt: Was genau soll eine ethische Verpflichtung verändern, wenn uns die rentabelste, bequemste oder im Wettbewerb attraktivste Entscheidung in eine andere Richtung führt?

Es ist vergleichsweise leicht, über verantwortungsvolle Innovation zu sprechen, solange Verantwortung mit allem vereinbar scheint, was wir sonst erreichen wollen. Wir können Transparenz befürworten, wenn Offenlegung unsere Position nicht schwächt, menschliche Aufsicht verteidigen, wenn sie die versprochenen Einsparungen nicht beeinträchtigt, und uns um den Schutz der Privatsphäre sorgen, solange die Informationen, die wir aufbewahren möchten, für uns verfügbar bleiben. Aufschlussreicher wird es, wenn diese Verpflichtungen beginnen, eine Entscheidung einzuschränken. Denn dann zeigt sich, ob unsere Werte Einfluss darauf haben, wie wir tatsächlich handeln wollen.

Stellen wir uns eine Organisation vor, die einen KI-Dienst einführen möchte, der einen erheblichen Teil ihrer Kundeninteraktionen übernehmen soll. In diesem hypothetischen Beispiel sind die ersten Ergebnisse ermutigend: Routineanfragen werden schnell bearbeitet, die Antworten wirken schlüssig, und der Business Case legt nahe, dass sich der Arbeitsaufwand der Kundenbetreuung deutlich verringern ließe. Die Tests zeigen jedoch auch, dass manche komplexen Situationen unzureichend behandelt werden, insbesondere wenn die Umstände eines Kunden nicht zu den Annahmen passen, auf denen der Dienst beruht. Zusätzliche menschliche Unterstützung könnte einen Teil dieser Schwäche ausgleichen, würde allerdings die erwarteten Einsparungen reduzieren.

Die Führungsentscheidung betrifft nun weit mehr als die Leistung eines Modells. Es geht darum, wessen Erfahrungen bei der Leistungsbewertung zählen, wer die Folgen der verbleibenden Grenzen trägt und ob die Organisation bereit ist, einen attraktiven Business Case zu überarbeiten, weil die Erkenntnisse ihn in seiner ursprünglichen Form nicht mehr stützen. Eine geringere interne Arbeitsbelastung kann weiterhin eine sinnvolle Verbesserung sein. Wenn Kunden jedoch mehr Zeit darauf verwenden müssen, Missverständnisse zu korrigieren, ihre Situation erneut zu schildern oder jemanden mit ausreichenden Befugnissen zu finden, könnte sich ein Teil der Kosten lediglich außerhalb des von der Organisation bevorzugten Messbereichs verlagert haben.

Hier wird Kongruenz anspruchsvoller als die beruhigende Vorstellung, konsequent zu sein. Im Ethical Leadership Practice Guide bezeichnet Kongruenz die Beziehung zwischen dem, was wir glauben, was wir sagen und was wir tun. Entscheidend ist, ob diese drei Dimensionen auch dann zusammenpassen, wenn ihre Übereinstimmung unbequem wird (Ethics & Leadership Association [ELA], 2026a, S. 7). Eine Führungskraft, die eine Zusage zum Einführungstermin revidiert, weil Tests eine gravierende Schwäche aufgedeckt haben, kann deshalb mit größerer Kongruenz handeln als jemand, der am ursprünglichen Datum festhält – insbesondere dann, wenn die wichtigste Verpflichtung darin besteht, Menschen verantwortungsvoll zu dienen.

Diese Unterscheidung ist wichtig, weil wir uns erstaunlich stark an die sichtbare Ausdrucksform einer Entscheidung binden und dabei den Zweck aus dem Blick verlieren können, der sie rechtfertigte. Aus dem Termin wird ein Versprechen, aus dem Versprechen ein Maßstab für Glaubwürdigkeit. Schließlich wird es wichtiger, das Versprechen zu bewahren, als die Bedingungen zu sichern, unter denen es verantwortungsvoll erfüllt werden kann. Wenn jemand ein unbequemes Bedenken vorbringt, hat die Organisation möglicherweise schon so viel Reputation in das gewünschte Ergebnis investiert, dass ein Überdenken als Führungsversagen erscheint.

Das Integritätsmodell bietet eine hilfreiche Möglichkeit, diese Spannung zu untersuchen, weil es vier Dimensionen unterscheidet, die allzu leicht zu einem einzigen Urteil zusammengezogen werden: Fähigkeit (Ability), Recht (Legal), Ethik (Ethics) und Werte (Values). Fähigkeit betrifft die Frage, ob uns die praktischen Mittel zur Verfügung stehen, etwas zu tun. Dazu gehören die Kompetenzen, Ressourcen, Informationen und betrieblichen Kapazitäten, die wir benötigen, um verantwortungsvoll zu handeln. Bei unserem hypothetischen KI-Dienst würde das auch die Fähigkeit einschließen, jene Situationen zu unterstützen, mit denen die Technik nicht gut zurechtkommt, statt die Prüfung dort zu beenden, wo die Software eine Antwort erzeugt.

Vier Dimensionen fließen in dieselbe Entscheidung ein und verlangen jeweils eine eigene Prüfung. Stärke in einer Dimension beantwortet nicht die Fragen der anderen. Konzeptionelle Darstellung nach dem Integritätsmodell im Ethical Leadership Practice Guide (ELA, 2026a, S. 54–55).

Die rechtliche Dimension betrifft die Pflichten und Erlaubnisse, die für die Tätigkeit gelten. Die Ethik fragt, wie sich die Entscheidung zu den Standards und Kodizes verhält, mit denen eine Profession oder Organisation verantwortungsvolles Verhalten definiert. Die Dimension Werte führt die Prüfung zu den Überzeugungen zurück, durch die Menschen verstehen, wofür sie einzustehen bereit sind. Dazu gehört auch die Beziehung zwischen diesen Überzeugungen und den erklärten Verpflichtungen der Organisation. Die Dimensionen beeinflussen einander, beantworten aber unterschiedliche Fragen. Dass etwas technisch möglich ist, belegt beispielsweise nicht, dass es erlaubt, angemessen oder mit den Grundsätzen vereinbar ist, zu denen wir uns bekennen (ELA, 2026a, S. 54–55, 79–80).

Aus meiner Sicht ist das Modell gerade deshalb nützlich, weil es der Versuchung widersteht, mit einer attraktiven Antwort die ganze Diskussion zu erledigen. Ein leistungsfähiges System kann weiterhin einem unzureichend begründeten Zweck dienen. Eine rechtlich vertretbare Regelung kann Menschen weiterhin auf eine Weise behandeln, die unseren beruflichen Verpflichtungen widerspricht. Und eine aufrichtige Überzeugung kann eine erneute Prüfung erfordern, wenn ihre Folgen deutlicher werden. Das Modell hilft uns, diese Spannungen sichtbar zu machen. Die schwierige Arbeit des Urteilens, Erklärens und Einstehens für die Folgen bleibt bei den Menschen, die die Entscheidung treffen.

Das führt mich zu einem Gedanken zurück, den ich in Wie wir präsent sind untersucht habe: Wir sprechen oft über Organisationen, als wären sie eigenständige Wesen, die entscheiden, erlauben, ablehnen oder Verantwortung übernehmen könnten. Die Entscheidungen, durch die eine Organisation handelt, werden jedoch von Menschen getroffen und aufrechterhalten (Lazar, 2026a). KI kann diese Unterscheidung schwerer erkennbar machen, weil ein Ergebnis einen Anbieter, ein Entwicklungsteam, einen geschäftlichen Auftraggeber, einen Konfigurationsprozess und einen automatisierten Arbeitsablauf durchlaufen kann, bevor es die betroffene Person erreicht. Alle Beteiligten mögen eine bestimmte Aufgabe erfüllt haben, während erstaunlich schwer festzustellen bleibt, wer die daraus hervorgehende Entscheidung erklären und für sie einstehen muss.

Verantwortung und Rechenschaftspflicht verdienen deshalb eine sorgfältigere Behandlung, als lediglich dem letzten Freigabeschritt einen Namen zuzuordnen. Unterschiedliche Beteiligte müssen für unterschiedliche Entscheidungen einstehen: Was wurde entwickelt? Welche Grenzen wurden offengelegt? Welcher Einsatz wurde genehmigt? Welche Arbeitsbedingungen wurden bereitgestellt? Und was geschah, als Erkenntnisse darauf hindeuteten, dass die getroffene Regelung ein Problem verursachte? Die technische Kompetenz eines Anbieters belegt nicht, dass ein bestimmter Einsatz angemessen ist. Ebenso entbindet die Zustimmung der einsetzenden Organisation die Entwickler nicht von ihrer Verantwortung für Entscheidungen und Aussagen, die in ihrem Einflussbereich liegen.

Mutige Verantwortung gewinnt hier Substanz, denn für eine Entscheidung einzustehen bedeutet, ihre noch ungeklärten Folgen sichtbar machen zu wollen, bevor die Umstände dies unausweichlich machen. Der fiktive Lehrfall The Warning No One Wanted veranschaulicht das anhand von Jane, einer Teamleiterin, die vor dem Start einer Serviceplattform Defizite in der Einsatzbereitschaft erkennt. Ihre Bedenken werden dokumentiert und anerkannt, doch auf ihrem Weg durch die Organisation wird ihre Bedeutung schrittweise abgeschwächt. Schließlich fordert sie die Führung auf, ausdrücklich über das verbleibende Risiko zu entscheiden und festzulegen, wer für dessen Annahme einstehen wird. Der Fall behandelt eine Serviceplattform und keinen KI-Einsatz. Die darin sichtbar werdende Unterscheidung ist dennoch unmittelbar relevant: Eine Warnung kann in der Dokumentation erhalten bleiben und zugleich kaum beeinflussen, was anschließend geschieht (ELA, n.d.).

Diese Möglichkeit ist besonders beunruhigend, wenn Menschen aufrichtige ethische Verpflichtungen haben, aber in Strukturen arbeiten, die das dafür erforderliche Verhalten bestrafen. Diese Spannung thematisiert auch die jüngste ELA-Betrachtung über verborgene Abhängigkeit (ELA, 2026b). Wenn das Ansehen eines Auftraggebers von einer bestimmten Einsparung abhängt, Führungskräfte vor allem für kürzere Bearbeitungszeiten belohnt werden und prüfende Personen jeden Eingriff rechtfertigen müssen, der den Prozess verlangsamt, hat die Organisation bereits die Bedingungen geprägt, unter denen ihre ethischen Verpflichtungen ausgelegt werden.

Deshalb hat auch Dienst vor Status eine praktische Bedeutung, die weit über die Erwartung hinausgeht, dass Führungskräfte rücksichtsvoll sein sollten. Das Prinzip fragt danach, was mit Autorität geschützt wird – insbesondere wenn der Schutz der Interessen der Menschen, denen man dient, von einer ranghohen Person verlangt, eine Peinlichkeit hinzunehmen, eine öffentliche Zusage zu revidieren oder ein früheres Urteil als unvollständig anzuerkennen. Von Beschäftigten moralischen Mut zu erwarten und ihnen zugleich die beruflichen Kosten des Widerspruchs gegen einen mächtigen Auftraggeber zu überlassen, wäre eine ausgesprochen selektive Auslegung ethischer Führung.

Amy Edmondsons Arbeit zur psychologischen Sicherheit erklärt, weshalb die Bedingungen eines solchen Widerspruchs bedeutsam sind. Psychologische Sicherheit betrifft die Überzeugung, innerhalb eines Teams zwischenmenschliche Risiken eingehen zu können: Unsicherheit zuzugeben, um Hilfe zu bitten oder einen Fehler anzusprechen. Ihre Studie von 1999 stellte einen Zusammenhang zwischen dieser geteilten Überzeugung und dem Lernverhalten von Teams fest. Auf KI übertragen würde ich daraus ableiten, dass eine Organisation Menschen braucht, die sowohl die Ergebnisse eines Systems als auch die Annahmen seiner Auftraggeber hinterfragen können und vernünftigerweise erwarten dürfen, dass ihre Bedenken inhaltlich geprüft werden. Wird das Ansprechen einer Grenze als Innovationsfeindlichkeit verstanden, kann die Organisation ihre eigene Fähigkeit schwächen, die Anforderungen eines verantwortungsvollen Einsatzes zu erkennen. (Edmondson, 1999)

Das vertraute Versprechen menschlicher Aufsicht muss mit derselben Aufmerksamkeit für die Arbeitsbedingungen geprüft werden. Kehren wir zu unserem hypothetischen Dienst zurück: Die Organisation behält eine Person zur Prüfung schwieriger Fälle bei, reduziert zugleich aber Personal, erhöht die Fallzahl pro prüfender Person und bewertet die Leistung danach, wie schnell die Fälle abgeschlossen werden. Die Anwesenheit eines Menschen mag der Prozessbeschreibung entsprechen und dieser Person trotzdem kaum praktische Möglichkeiten lassen, jenes Urteilsvermögen einzusetzen, von dem der Prozess angeblich abhängt.

Hier hilft ein historischer Blick. In Ironies of Automation untersuchte Lisanne Bainbridge, wie die Automatisierung industrieller Prozesse die Probleme menschlicher Bedienpersonen vergrößern konnte, insbesondere wenn diese weiterhin für die Bewältigung ungewöhnlicher Zustände verantwortlich blieben. Obwohl sie industrielle Automatisierung behandelte, reicht die Frage in die KI-Diskussion hinein: Wenn wir uns darauf verlassen, dass Menschen die Situationen bewältigen, die Automatisierung nicht angemessen lösen kann, welche Kompetenzen, Informationen, Zeit und Befugnisse erhalten wir ihnen dafür? Diese Bedingungen als verzichtbare Gemeinkosten zu behandeln, würde genau den Mechanismus schwächen, auf den wir uns für einen verantwortungsvollen Betrieb verlassen. (Bainbridge, 1983)

Gleichzeitig sollten wir nicht vorschnell annehmen, dass die Einbindung eines Menschen zwangsläufig jedes Ergebnis verbessert. Die Ausführungen zur Mensch-KI-Interaktion im KI-Risikomanagementrahmen des NIST erkennen an, dass Ergebnisse von der Gestaltung dieser Beziehung abhängen und sich menschliche und systembedingte Verzerrungen mitunter gegenseitig verstärken können. Wirksame Aufsicht erfordert deshalb eine Prüfung der ausgeführten Arbeit, ihrer Folgen und des konkreten Beitrags, den ein Mensch leisten soll. Ein Freigabeklick allein sagt über all das sehr wenig aus. (Tabassi, 2023, Anhang C)

Menschliche Prüfung gewinnt praktische Bedeutung, wenn die prüfende Person die nötigen Bedingungen vorfindet, um ihr Urteilsvermögen einzusetzen und das weitere Geschehen zu beeinflussen. Die dargestellten Reaktionen dienen der Veranschaulichung. Konzeptionelle Synthese auf Grundlage von Bainbridge (1983) und Tabassi (2023, Anhang C).

Transformationale Demut bietet eine ethische Grundlage dafür, diese Prüfung aufrechtzuerhalten. Sie bedeutet anzuerkennen, dass Vertrauen in eine Entscheidung die Möglichkeit unvollständigen Verstehens nicht beseitigt und neue Erkenntnisse eine Änderung unseres Vorgehens verlangen können. Beim KI-Einsatz könnte das heißen, die anfängliche Genehmigung als ein weiterhin überprüfbares Urteil zu behandeln, mit ausdrücklichen Bedingungen für eine Ausweitung, Einschränkung, Korrektur oder Beendigung des Einsatzes. Die Verpflichtung zum Lernen ist glaubwürdiger, wenn diese Möglichkeiten bedacht wurden, bevor die Organisation vom gewünschten Ergebnis abhängig wird.

Der Schutz der Privatsphäre bringt eine weitere Ausprägung derselben Spannung mit sich. Betrachten wir ein zweites hypothetisches Beispiel: einen KI-Dienst, der Menschen helfen soll, über schwierige berufliche Situationen nachzudenken. Ausführliche Gespräche könnten zur Verbesserung des Dienstes beitragen und zugleich Informationen über Kollegen, Kunden oder andere Menschen enthalten, die sich nie für eine Interaktion mit ihm entschieden haben. Die Frage nach der Aufbewahrung solcher Gespräche beträfe deshalb mehr als den Wert des entstehenden Datensatzes. Denn diejenigen, die Wert für den Dienst schaffen, und diejenigen, die durch diese Informationen Risiken ausgesetzt werden, sind möglicherweise nicht dieselben Personen.

Hier erweitert Gemeinsame Treuhandschaft den Umfang der Führungsverantwortung. Sie fordert uns auf, das Vertrauen, die Beziehungen, Ressourcen und Folgen zu berücksichtigen, die uns anvertraut sind – auch über unsere unmittelbare Rolle oder eine direkte Transaktion hinaus. Eine Entscheidung zur Speicherung von Informationen würde dann eine klare Erklärung verlangen: Was wird für welchen Zweck benötigt? Wer erhält Zugang? Wie lange bleiben die Informationen notwendig? Und welche Zusagen zu ihrem Umgang lassen sich tatsächlich einhalten? Rechenschaftspflicht kann Aufzeichnungen über Entscheidungen, Tests und Korrekturmaßnahmen erfordern. Daraus ergibt sich jedoch nicht automatisch, dass jedes zugrunde liegende Gespräch aufbewahrt werden sollte (ELA, 2026a, S. 7, 79–80).

In all diesen Beispielen werden die ethischen Kosten verständlicher, sobald wir nicht mehr annehmen, die eigenen Ausgaben der Organisation erfassten sämtliche Folgen ihrer Entscheidung. Eingesparte Betreuungskapazität kann zusätzlichen Aufwand für einen Kunden bedeuten, eine schnellere Einführung kann Unsicherheit auf Beschäftigte verlagern, und ein nützlicherer Datensatz kann Risiken für Menschen schaffen, deren Lebensumstände nie Teil des Business Case waren. Gemeinsame Treuhandschaft verlangt von Führungskräften, diese Folgen in die Diskussion einzubeziehen, auch wenn die Menschen, die sie tragen, wenig Einfluss auf die Entscheidung haben.

Die Abgrenzung eines Business Case bestimmt, welche Folgen sichtbar werden. Manche scheinbaren Einsparungen können Aufwand, Unsicherheit oder Risiken auf Menschen verlagern, deren Erfahrungen nicht in die Berechnung eingehen. Diese konzeptionelle Darstellung greift die hypothetischen Beispiele des Artikels auf und bildet keine gemessenen Größen ab.

Ein weiteres Risiko verdient allerdings ebenso viel Aufmerksamkeit: Eine Organisation kann auf diese Bedenken mit zusätzlichen Prüfungen, Ausschüssen, Erklärungen und Berichtspflichten reagieren, ohne wesentlich besser mit ihnen umzugehen. In Wenn Governance ihren Zweck vergisst habe ich untersucht, wie Regelungen zur Unterstützung von Verantwortung allmählich stärker ihrer eigenen Erhaltung dienen können als dem Auftrag, für den sie geschaffen wurden (Lazar, 2026b). KI-Governance ist für dieselbe Entwicklung anfällig, wenn das Erstellen von Aufsichtsnachweisen leichter anerkannt und belohnt wird als die Korrektur der Bedingungen, die Aufsicht wirkungslos machen.

Ein nützlicher Governance-Prozess sollte Menschen deshalb helfen, Entscheidungen mit einem klareren Verständnis ihrer Folgen zu treffen und zu überprüfen. Sein Beitrag sollte daran erkennbar sein, was sich verändert: Ein ungeeigneter Einsatz wird eingeschränkt, ein Bedenken erreicht eine handlungsbefugte Person, jemand erhält eine ernsthafte erneute Prüfung seines Anliegens oder eine irreführende Leistungskennzahl wird überarbeitet. Trägt eine zusätzliche Genehmigungsebene wenig zu dieser Fähigkeit bei, verdient ihre Existenz dieselbe Prüfung wie jede andere Behauptung im Namen der Verantwortung.

Dieses Argument bedeutet auch nicht, dass Aufschub grundsätzlich die ethischere Wahl wäre. Einen nützlichen Dienst zu verzögern, kann eigene Folgen haben, insbesondere wenn Menschen weiter von einer bestehenden Lösung abhängen, die langsam, unbeständig oder schwer zugänglich ist. Die Aufgabe besteht darin, die verfügbaren Alternativen ehrlich zu prüfen: die Kosten des Handelns, die Kosten des Wartens und die Verteilung beider. Unsicherheit lässt sich nicht immer beseitigen. Sie lässt sich aber so weit sichtbar machen, dass eine Entscheidung erklärt, hinterfragt und revidiert werden kann.

Am meisten beschäftigt mich die Möglichkeit, dass wir KI-Systeme auffordern, Werte auszudrücken, die wir in den einsetzenden Organisationen nicht in die Praxis umgesetzt haben. Wir können Transparenz verlangen und undurchsichtige Entscheidungen schützen, auf menschlicher Handlungsfähigkeit bestehen und zugleich Gehorsam belohnen oder erklären, dass Menschen wichtig sind, während ihre Bedürfnisse in einer aggregierten Effizienzkennzahl verschwinden. Unter solchen Umständen mag eine Verbesserung der Technik notwendig sein. Die Fragen der Führung blieben jedoch bestehen.

Deshalb sollten Kongruenz, Mutige Verantwortung, Transformationale Demut, Dienst vor Status und Gemeinsame Treuhandschaft als miteinander verbundene Disziplinen verstanden werden. Sie helfen uns zu prüfen, ob unsere Verpflichtungen stimmig bleiben, ob jemand für Folgen einsteht, ob sich Urteile weiterentwickeln können, was Autorität schützt und wessen Interessen in die Entscheidung eingehen. Ihre Bedeutung für KI wird deutlicher, wenn sie die Bedingungen beeinflussen, unter denen ein System entwickelt und eingesetzt wird – auch dann, wenn ihre Einhaltung ein weniger bequemes Ergebnis verlangt.

Vielleicht sollten wir in das nächste Gespräch über verantwortungsvolle KI deshalb die Frage mitnehmen, ob wir eine Entscheidung benennen können, die unsere ethischen Verpflichtungen tatsächlich verändert haben. Und wenn die betroffenen Menschen sehen könnten, wie diese Entscheidung zustande kam, was wir bewahren wollten und welche Kosten wir selbst zu tragen bereit waren: Würden sie darin die Werte erkennen, von denen wir sagen, dass sie uns leiten?

Literaturverzeichnis

• Bainbridge, L. (1983). Ironies of automation. Automatica, 19(6), 775–779. DOI: 10.1016/0005-1098(83)90046-8.

• Edmondson, A. (1999). Psychological safety and learning behavior in work teams. Administrative Science Quarterly, 44(2), 350–383. DOI: 10.2307/2666999.

• Ethics & Leadership Association. (n.d.). The warning no one wanted [Written teaching case]. In Courageous Responsibility: Case Study Analysis. ELA online learning.

• Ethics & Leadership Association. (2026a). The Ethical Leadership Practice Guide (1st ed.). Particularly pp. 7, 54–55, and 79–81.

• Ethics & Leadership Association. (2026b, September 9). What does hidden dependency actually cost an organization? [Post]. LinkedIn.

• Lazar, O. (2026a, March 3). How we show up: The beginning and the end of leadership. Ethics & Leadership Association.

• Lazar, O. (2026b, March 22). When governance forgets its purpose. Ethics & Leadership Association.

• Tabassi, E. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0) (NIST AI 100-1). National Institute of Standards and Technology. Particularly Appendix C, “AI Risk Management and Human-AI Interaction.”