AI macht Gestaltung mächtiger – und Verantwortung unklarer.

«Wer die Bedingungen einer Entscheidung gestaltet, trägt Verantwortung für ihre Wirkung.»

Die Empfehlung ist freiwillig. Eigentlich.

Stell dir ein Team vor, das täglich zahlreiche Kundenanfragen bearbeitet. Manche sind einfach. Andere benötigen mehr Aufmerksamkeit. Einige sind dringend, obwohl sie auf den ersten Blick unspektakulär erscheinen.

Seit einigen Wochen unterstützt eine AI-Anwendung das Team. Sie analysiert eingehende Anfragen, schlägt Prioritäten vor und hilft, die Arbeit zu organisieren. Zu Beginn prüfen die Mitarbeitenden jede Empfehlung. Sie vergleichen Fälle, hinterfragen die Reihenfolge und korrigieren, wenn etwas nicht passt.

Die Anwendung funktioniert gut. Die Bearbeitungszeit sinkt. Das Team gewinnt Zeit. Mit der Zeit verändert sich etwas. Die Empfehlungen werden vertrauter. Die Prüfung wird kürzer. Gleichzeitig steigt die Zahl der Anfragen, die das Team bearbeiten soll.

Dann fällt einer Mitarbeiterin auf, dass bestimmte Anliegen regelmässig nach hinten rutschen. Es sind keine spektakulären Fälle. Aber für die betroffenen Kund:innen können die Verzögerungen erhebliche Folgen haben.

Sie möchte die Reihenfolge ändern. Dafür muss sie eine Begründung erfassen. Wer der AI-Empfehlung folgt, kann direkt weiterarbeiten. Wer abweicht, braucht zusätzliche Zeit.

Vielleicht sind es nur zwei Minuten. Im Einzelfall kaum der Rede wert. Bei vielen Anfragen, engen Zeitvorgaben und einem vollen Arbeitstag entsteht daraus trotzdem ein Unterschied. Die Mitarbeiterin kann weiterhin selbst entscheiden. Niemand hat ihr diese Möglichkeit genommen. Und doch ist eine Entscheidung inzwischen deutlich leichter geworden als die andere.

Die Anwendung empfiehlt weiterhin. Aber der Arbeitsablauf hat längst eine bevorzugte Entscheidung geschaffen.

Wenn technische Empfehlungen Wirklichkeit ordnen.

Mich interessiert an dieser Situation zunächst nicht, ob die AI richtig oder falsch liegt. Vielleicht ist ihre Priorisierung in den meisten Fällen hilfreich. Vielleicht hat sie die Qualität der Bearbeitung sogar verbessert. Die interessante Veränderung liegt woanders.

Am Anfang war die Empfehlung eine zusätzliche Information. Die Mitarbeitenden prüften sie und entschieden anschliessend. Nach einigen Wochen ist sie zum normalen Ausgangspunkt geworden. Wer ihr folgt, arbeitet im vorgesehenen Ablauf. Wer anders entscheidet, muss einen zusätzlichen Schritt machen. Die Organisation hat Bedingungen geschaffen, unter denen Zustimmung weniger Aufwand verursacht als Widerspruch.

Doch die Wirkung beginnt bereits früher. Die Anwendung betrachtet die eingehenden Kundenanfragen nicht voraussetzungslos. Sie verarbeitet Informationen anhand bestimmter Kriterien. Einige Merkmale erhalten mehr Gewicht, andere weniger. Daraus entsteht eine Reihenfolge.

Diese Reihenfolge erscheint den Mitarbeitenden als technische Empfehlung. Aber sie enthält bereits Annahmen darüber, welche Anliegen relevant sind, was als dringlich gilt und welche Folgen besondere Aufmerksamkeit verdienen. Eine Priorisierung bildet die Wirklichkeit deshalb nicht einfach ab. Sie ordnet ihr Bedeutung zu.

Damit entsteht eine Verbindung zum vorherigen Denkraum #37. Dort ging es um die Verantwortung für Inhalte, Sprache und Deutungen. Auch eine AI-Empfehlung enthält eine Deutung. Sie ist in Kriterien, Gewichtungen und technischen Abläufen angelegt.

AI verarbeitet Informationen und übersetzt diese Kriterien in Aufmerksamkeit. Die Organisation entscheidet anschliessend durch ihre Arbeitsabläufe mit, wie verbindlich diese Aufmerksamkeit im Alltag wird. So beeinflusst AI nicht erst Entscheidungen, wenn sie selbstständig handelt.

Der Mensch bleibt verantwortlich. Aber wofür genau?

Kehren wir zur Mitarbeiterin zurück. Sie hat erkannt, dass bestimmte Anliegen regelmässig zu spät bearbeitet werden. Vielleicht hat sie bereits mehrere Empfehlungen korrigiert. Vielleicht hat sie ihre Beobachtung im Team angesprochen. Dann führt eines dieser Anliegen zu einer berechtigten Beschwerde.

Was geschieht jetzt? Vielleicht heisst es: «Die Mitarbeitenden müssen die Empfehlungen kritisch prüfen.» Das klingt vernünftig. Aber wie sah der Arbeitsalltag tatsächlich aus?

Die Mitarbeiterin hatte viele Anfragen zu bearbeiten. Ihre Leistung wurde auch an der Bearbeitungszeit gemessen. Jede Abweichung erforderte eine zusätzliche Begründung. Unter diesen Bedingungen war sorgfältige Prüfung möglich, aber zunehmend aufwendig. Und nun wird Verantwortung vor allem bei der Person gesucht, die am Ende auf die Empfehlung reagiert hat.

Verantwortung wird dort zugeschrieben, wo eine Entscheidung sichtbar wird. Die Bedingungen dieser Entscheidung bleiben leicht ausserhalb der Betrachtung.

Das ist ein Problem, das weit über AI hinausgeht. Wir verlangen eigenständige Entscheidungen und behalten gleichzeitig wichtige Freigaben bei uns. Wir erwarten Sorgfalt und belohnen vor allem Geschwindigkeit. Wir fordern Widerspruch und machen ihn im Alltag aufwendiger als Zustimmung.

AI kann solche Widersprüche verstärken, weil Empfehlungen schneller verfügbar werden und ihre Übernahme leichter standardisiert werden kann. Hier müssen wir genauer unterscheiden. Wer eine einzelne Entscheidung trifft, trägt Verantwortung für sein Handeln. Wer die Bedingungen gestaltet, unter denen diese Entscheidung entsteht, trägt Verantwortung für diese Gestaltung.

Bei der Einführung einer AI-Anwendung sind häufig mehrere Bereiche beteiligt. Die Geschäftsleitung entscheidet über den Einsatz. Ein Projektteam prüft die Anwendung. IT und Fachbereiche kümmern sich um die Umsetzung. Führungskräfte gestalten Abläufe und Leistungserwartungen. Mitarbeitende verwenden die Ergebnisse. Kund:innen erleben die Folgen.

Doch wenn eine unerwünschte Wirkung sichtbar wird, können die Verantwortlichkeiten auseinanderfallen. Das Projektteam hat die Anwendung erfolgreich eingeführt. Die Führung geht davon aus, dass Empfehlungen kritisch geprüft werden. Die Mitarbeitenden können formal abweichen, haben dafür aber wenig Zeit. Jede dieser Aussagen kann nachvollziehbar sein. Trotzdem bleibt das Problem bestehen.

Verteilte Mitwirkung ergibt noch keine tragfähige Verantwortung.

Hier beginnt für mich Gestaltungsverantwortung. Sie verlangt, dass eine Organisation nicht nur festlegt, wer eine Entscheidung trifft, sondern auch, wer die Bedingungen dieser Entscheidung überprüfen und verändern kann. Dazu gehören Informationen, Zeit zur Prüfung, fachliche Urteilskraft und die Möglichkeit, eine Empfehlung zurückzuweisen. Ebenso wichtig ist ein Weg, auf dem erkannte Probleme zu einer wirksamen Korrektur führen können.

Die Mitarbeiterin kann einzelne Empfehlungen ändern. Aber kann sie auch bewirken, dass die Kriterien überprüft werden, wenn sie wiederholt dieselbe problematische Priorisierung beobachtet? Wen spricht sie an? Wer nimmt ihre Beobachtung auf? Und wer darf entscheiden, dass der Ablauf verändert wird?

Wenn eine bessere Entscheidung die Kennzahl verschlechtert.

Stellen wir uns vor, die Mitarbeiterin hat ihre Beobachtung eingebracht. Das Team prüft mehrere Fälle. Die Anwendung priorisiert bestimmte Anliegen tatsächlich zu niedrig. Eine Anpassung wäre möglich. Die Führungskraft versteht das Problem. Sie sieht aber auch eine andere Seite.

Seit der Einführung der Anwendung ist die durchschnittliche Bearbeitungszeit gesunken. Das Team schafft mehr Anfragen. Die Entwicklung wird intern als Erfolg betrachtet. Würde man die betreffenden Anliegen höher priorisieren, müssten Mitarbeitende häufiger komplexe Fälle bearbeiten. Die durchschnittliche Bearbeitungszeit könnte wieder steigen.

Vielleicht bräuchte das Team zusätzliche Kapazitäten. Vielleicht müsste ein vereinbartes Leistungsziel angepasst werden. Plötzlich ist die notwendige Korrektur keine rein technische Frage mehr. Die Führungskraft muss unterschiedliche berechtigte Interessen gegeneinander abwägen.

Schnelle Bearbeitung ist wichtig. Eine angemessene Behandlung dringender Kundenanliegen ebenfalls. Und zusätzliche Ressourcen stehen nicht unbegrenzt zur Verfügung. Doch in dieser Situation geschieht noch etwas.

Zwei unterschiedliche Beschreibungen der Wirklichkeit treffen aufeinander.

Die Kennzahl sagt: Die Anwendung funktioniert. Die Mitarbeiterin beobachtet: Bestimmte Kund:innen tragen die Folgen der bisherigen Priorisierung. Beides kann zutreffen. Aber beide Beobachtungen haben nicht automatisch dasselbe Gewicht.

Die Bearbeitungszeit ist messbar, vergleichbar und bereits Teil der offiziellen Erfolgsbewertung. Die Beobachtung der Mitarbeiterin beginnt dagegen als Erfahrung aus dem Arbeitsalltag. Bevor sie eine Veränderung auslösen kann, muss sie erklärt, geprüft und als relevant anerkannt werden.

Damit entscheidet die Organisation nicht nur über die Anpassung der Anwendung. Sie entscheidet auch darüber, welche Form von Wissen genügend Gewicht erhält, um eine erfolgreiche Kennzahl infrage zu stellen.

Hier treffen Deutungsarchitektur und Decision Architecture unmittelbar aufeinander. Die Führungskraft muss entscheiden, welche Wirkungen sie höher gewichtet. Vielleicht muss sie dafür eine bisher erfolgreiche Kennzahl anders bewerten. Vielleicht muss sie gegenüber der Geschäftsleitung begründen, weshalb eine geringere Bearbeitungsgeschwindigkeit künftig ein besseres Ergebnis bedeuten kann.

Das ist anspruchsvoll. Denn Gestaltungsverantwortung bedeutet nicht, dass jede schwierige Entscheidung eine einfache richtige Antwort hat. Sie bedeutet, die unterschiedlichen Folgen sichtbar zu machen, sie abzuwägen und eine verbindliche Entscheidung zu ermöglichen.

Gestaltungsverantwortung zeigt sich auch dort, wo eine notwendige Korrektur einen bisherigen Erfolg infrage stellt.

Wer widerspricht, könnte etwas erkannt haben.

Die Mitarbeiterin hat wiederholt von den Empfehlungen der Anwendung abgewichen. Wie betrachtet die Organisation diese Abweichungen? Als Störung eines ansonsten funktionierenden Ablaufs? Als Hinweis darauf, dass Mitarbeitende der Anwendung noch nicht ausreichend vertrauen? Oder als mögliche Erkenntnisquelle?

Wenn eine erfahrene Mitarbeiterin einer Empfehlung widerspricht, steht nicht automatisch menschliche Intuition gegen technische Präzision. Vielleicht erkennt sie eine Ausnahme, einen besonderen Kundenkontext oder eine mögliche Folge, die in den Kriterien der Anwendung nicht ausreichend berücksichtigt wird. Vielleicht liegt sie mit ihrer Einschätzung auch falsch. Beides ist möglich.

Gerade deshalb lohnt es sich, Abweichungen genauer zu untersuchen. Welche Informationen haben zur anderen Entscheidung geführt? Welche Folgen wurden berücksichtigt? Und was lässt sich daraus über die bisherige Priorisierung lernen?

Das setzt voraus, dass die Organisation Widerspruch nicht vorschnell als unerwünschte Abweichung behandelt. Sie muss unterscheiden können zwischen unbegründeter Ablehnung, fachlich sinnvoller Korrektur und Hinweisen auf ein wiederkehrendes Problem.

Hier liegt eine weitere Verantwortung der Gestaltung. Wenn Mitarbeitende für jede Abweichung zusätzliche Zeit benötigen, ihre Beobachtungen aber nirgends ausgewertet werden, entsteht ein merkwürdiger Widerspruch. Die Organisation verlangt eine Begründung. Aber sie nutzt das darin enthaltene Wissen möglicherweise nicht.

Wer darf die Gestaltung verändern?

Die Mitarbeiterin hat das Problem erkannt. Das Team hat die Beobachtung geprüft. Die Führungskraft versteht die Folgen. Trotzdem ist noch nicht entschieden, ob die Anwendung verändert wird.

Vielleicht müsste das Projektteam die Kriterien anpassen. Vielleicht müsste der Fachbereich neue Prioritäten festlegen. Vielleicht braucht es einen Entscheid der Geschäftsleitung, weil ein vereinbartes Leistungsziel betroffen ist. Diese Abstimmung kann sinnvoll sein. Nicht jede Verbesserung an einer Stelle ist automatisch eine Verbesserung für das gesamte System.

Aber die Organisation braucht einen Weg, auf dem solche Zielkonflikte verbindlich bearbeitet werden. Hier wird AI für mich zu einer Frage von Decision Architecture.

• Wer darf die Kriterien verändern?
• Wer entscheidet, wenn dadurch eine Kennzahl schlechter wird?
• Wer beurteilt, ob eine beobachtete Folge akzeptabel ist?
• Und wer sorgt dafür, dass eine beschlossene Korrektur tatsächlich umgesetzt und überprüft wird?

Solche Fragen sollten nicht erst auftauchen, wenn ein Problem bereits Schaden verursacht hat. Sie gehören zur Gestaltung der Anwendung und ihrer Einbettung in die Organisation. Denn die Einführung ist nur ein Moment. Die eigentliche Bewährungsprobe beginnt im Alltag.

Eine Organisation kann festlegen, dass Menschen AI-Empfehlungen kritisch prüfen sollen. Wenn sie ihnen dafür weder Zeit noch Handlungsspielraum gibt, bleibt diese Erwartung widersprüchlich. Sie kann Abweichungen dokumentieren lassen. Wenn niemand die Beobachtungen auswertet, bleibt wertvolles Wissen möglicherweise ungenutzt.

Und sie kann Verantwortung eindeutig zuweisen. Wenn niemand die Bedingungen verändern darf, unter denen problematische Wirkungen entstehen, bleibt diese Verantwortung begrenzt.

Gestaltungsverantwortung bleibt bei der Organisation.

Ich glaube, wir sollten bei AI vorsichtig mit zwei einfachen Erklärungen sein. Die erste lautet: «Die AI hat entschieden.» Die zweite: «Am Ende entscheidet immer der Mensch.» Beide können etwas Wichtiges verdecken.

Die erste Erklärung lässt leicht vergessen, dass Menschen den Zweck, die Kriterien und die Einbettung einer Anwendung gestalten. Die zweite kann so klingen, als sei mit einer formalen menschlichen Entscheidung bereits ausreichend Verantwortung sichergestellt.

In Wirklichkeit entsteht Wirkung im Zusammenspiel. Eine technische Empfehlung beeinflusst, was sichtbar wird. Ein Arbeitsablauf beeinflusst, welche Handlung leichtfällt. Eine Leistungskennzahl beeinflusst, was als Erfolg gilt. Eine Führungskraft beeinflusst, ob Widerspruch möglich und erwünscht ist. Und die Entscheidungsarchitektur bestimmt, wer erkannte Probleme verbindlich bearbeiten kann.

Nicht jeder Beteiligte verantwortet dabei alles. Aber die Verantwortung für das Zusammenspiel darf auch nicht zwischen den Beteiligten verschwinden.

Wer AI einsetzt, muss Verantwortung dort wirksam machen, wo Empfehlungen zu Entscheidungen und Entscheidungen zu Folgen werden.

Gestaltungsverantwortung bedeutet nicht, jede einzelne Folge vorhersehen oder kontrollieren zu können. Sie bedeutet, die Bedingungen ernst zu nehmen, unter denen Wirkung entsteht. Und sie verlangt, dass diese Bedingungen überprüfbar und veränderbar bleiben.

Was ich bei B CULTURE darunter verstehe.

Bei der Einführung von AI wird viel darüber gesprochen, was eine Anwendung können muss. Welche Aufgaben übernimmt sie? Wie zuverlässig sind ihre Ergebnisse? Wie lässt sie sich in bestehende Prozesse integrieren? Diese Fragen sind wichtig.

Mich beschäftigt genauso, was eine Organisation können muss, damit diese Anwendung verantwortungsvoll genutzt werden kann.

• Wer darf widersprechen?
• Wer kann eine Entscheidung korrigieren?
• Welche Leistungsziele müssen überprüft werden?
• Und wie gelangen Beobachtungen aus dem Alltag dorthin, wo eine Veränderung beschlossen werden kann?

Bei B CULTURE beschäftige ich mich mit der Frage, wie Organisationen durch ihre Architektur bestimmte Verhaltensweisen und Wirkungen wahrscheinlicher machen. AI verändert diese Architektur dort, wo Anwendungen Informationen gewichten, Entscheidungen vorbereiten oder Arbeitsabläufe prägen.

Deshalb interessiert mich nicht allein die technische Leistungsfähigkeit. Ich möchte verstehen, was sich in der Organisation dadurch verändert. Welche Entscheidungen werden einfacher? Welche Beobachtungen erhalten Aufmerksamkeit? Welche Formen von Widerspruch werden erschwert? Und wer kann eingreifen, wenn die tatsächliche Wirkung nicht mehr dem entspricht, was ursprünglich beabsichtigt war?

Das sind Fragen von Leadership Architecture, Culture Architecture und besonders Decision Architecture. Sie betreffen die Führung, die Kultur und die tatsächliche Entscheidungsfähigkeit einer Organisation. AI kann diese Fähigkeiten stärken. Sie kann aber auch bestehende Unklarheiten beschleunigen.

Ob AI eine Organisation wirklich weiterbringt, entscheidet sich deshalb auch daran, ob diese ihre eigenen Entscheidungsbedingungen weiterentwickeln kann.

Gedanken, die bleiben.

• Eine AI-Empfehlung enthält bereits Kriterien und Bewertungen darüber, was relevant erscheint.
• Aus einer technischen Empfehlung kann durch wiederholte Nutzung eine organisationale Erwartung werden.
• Verantwortung für eine einzelne Entscheidung und Verantwortung für ihre gestalteten Bedingungen sind nicht identisch.
• Verteilte Mitwirkung ergibt noch keine tragfähige Verantwortung.
• Eine erfolgreiche Kennzahl zeigt nicht automatisch alle Folgen einer Anwendung.
• Wer bestimmt, was als Erfolg gilt, beeinflusst auch, welche Probleme Aufmerksamkeit erhalten.
• Widerspruch kann auf fachliches Urteilsvermögen und bislang übersehene Zusammenhänge hinweisen.
• Verantwortung braucht Eingriffs- und Korrekturmöglichkeiten.
• Gestaltungsverantwortung zeigt sich darin, ob eine Organisation die Wirkung ihrer Gestaltung erkennen, beurteilen und verändern kann.

Beobachtungsimpuls.

Nimm eine AI-Anwendung, die in deiner Organisation bereits genutzt wird oder deren Einführung geplant ist. Wähle einen konkreten Arbeitsablauf. Nicht die gesamte AI-Strategie. Eine alltägliche Situation, in der eine Empfehlung entsteht und ein Mensch anschliessend handelt. Schau genauer hin:

• Welche Kriterien bestimmen, was die Anwendung als relevant bewertet?
• Welche Entscheidung ist im Arbeitsablauf am einfachsten?
• Was kostet es einen Menschen, der Empfehlung zu widersprechen?
• Welche Beobachtungen aus dem Alltag könnten die bisherige Erfolgsbewertung infrage stellen?
• Was geschieht mit dokumentierten Abweichungen?
• Und wer darf den Ablauf verändern, wenn sich zeigt, dass seine Wirkung nicht stimmt?

Vielleicht stellst du fest, dass Verantwortung und Handlungsspielraum gut zusammenpassen. Vielleicht wird aber auch sichtbar, dass die Organisation bestimmte Entscheidungen erwartet, ohne ausreichend zu berücksichtigen, unter welchen Bedingungen Menschen sie treffen. Dort beginnt die eigentliche Gestaltungsarbeit.

Eine Frage, die bleibt.

Vielleicht liegt die anspruchsvollste Frage nicht darin, ob wir einer AI-Anwendung vertrauen können. Vielleicht liegt sie darin, ob wir unsere eigene Organisation so gestalten, dass sie mit diesem Vertrauen verantwortungsvoll umgehen kann.

Ausblick.

Die Mitarbeiterin aus unserer Geschichte hat das Muster erkannt. Sie hat beobachtet, welche Kundenanfragen regelmässig nach hinten rutschen. Das Team hat die Fälle verglichen. Die Ursache wird nachvollziehbar. Eine bessere Priorisierung wäre möglich.

Die Führungskraft versteht die Folgen. Trotzdem bleibt der Ablauf vorerst bestehen. Eine Anpassung würde die bisher ausgewiesene Bearbeitungszeit verschlechtern. Ein Leistungsziel müsste überprüft werden. Möglicherweise wären zusätzliche Ressourcen notwendig.

Die Menschen haben dazugelernt. Aber die Organisation entscheidet weiterhin nach ihren bisherigen Kriterien. Damit öffnet sich die nächste Frage:

Was geschieht, wenn Menschen eine notwendige Veränderung erkennen, die Organisation ihre bisherigen Entscheidungen aber nicht anpasst?