Mathias Binswanger: Wieso KI zu mehr Bürokratie führt

Blog

Arbeitsmarkt

Mathias Binswanger: Wieso KI zu mehr Bürokratie führt

Darum geht's in Kürze

Künstliche Intelligenz erobert Staat und Wirtschaft, aber sie macht das Leben nicht einfacher, im Gegenteil: Alles wird komplizierter. Am Ende haben wir wohl weniger Freiheit und mehr Verwaltung.

«Entdecken Sie, wie mehr Digitalisierung als Lösung gegen Bürokratie dienen kann.» Dieses Versprechen war vor kurzem auf der Website von American Express zu lesen. Es ist eine weitverbreitete Vorstellung, dass Digitalisierung zu Bürokratieabbau führt und für mehr Effizienz sorgt. Doch mit der Realität hat das nicht viel zu tun. Digitalisierung und insbesondere der Einsatz von künstlicher Intelligenz (KI) führen nicht zu einem Bürokratieabbau, sondern zu mehr Controlling-Aktivitäten und damit zu mehr Bürokratie.

Die hier angesprochene Controlling-Bürokratie hat die traditionelle Beamtenbürokratie abgelöst. Die Initialzündung dazu brachte in den 1980er Jahren die fast flächendeckende Einführung des New Public Managements (NPM). Durch intensive Performance-Messungen sollten Menschen und Prozesse immer effizienter und auch noch qualitativ besser werden.

Staatliche Organisationen wurden also ähnlich der privaten Wirtschaft einem Daueroptimierungszwang unterworfen. Die damit einhergehende Flut an Datenerhebungen und Indikatoren erhöhte aber die Komplexität der Verwaltung, sie sorgte für Fehlanreize und neue Ineffizienz. Immer mehr Arbeitsstunden von immer mehr Menschen in Bereichen wie dem Bildungs-, dem Gesundheitswesen oder der Wissenschaft werden mit Tätigkeiten verbracht, die direkt nichts mehr mit Bildung, Gesundheit oder Wissenschaft zu tun haben, sondern mit Organisation, Überwachung, Verwaltung, Regulierung, Qualitätsmanagement oder Compliance – also mit Bürokratie.

Naive Digitalisierungseuphorie

Durch die Digitalisierung und KI erfährt diese Controlling-Bürokratie einen weiteren, kräftigen Schub. Die wachsende Menge von in Echtzeit vorliegenden Daten und deren Nutzung zur Steuerung von Menschen und Prozessen mithilfe von KI bieten dem Controlling noch nie da gewesene Entfaltungsmöglichkeiten. Dabei steht wie schon beim NPM der Gedanke der Daueroptimierung im Vordergrund. Es herrscht eine naive Digitalisierungseuphorie, die davon ausgeht, dass Qualität und Effizienz mit dem Grad der Digitalisierung steigen. Je mehr Algorithmen Mensch, Wirtschaft und Gesellschaft selbständig steuern, so der Glaube, umso besser und effizienter funktionieren Staat, Wirtschaft und Gesellschaft. Denn KI-gesteuerte Algorithmen können im Vergleich zu Menschen in viel kürzerer Zeit viel mehr Daten analysieren und darauf aufbauend optimale Entscheide oder Voraussagen treffen.

Der ständige Versuch, mithilfe von digitalen Anwendungen und KI Dinge zu optimieren und dadurch die Effizienz zu steigern, erweist sich allerdings schnell als Illusion. Das liegt schon daran, dass die Verfügbarkeit von Daten schneller zunimmt als die Rechenleistung der Algorithmen. Gemäss dem ETH-Professor Dirk Helbing verdoppelt sich die Rechenleistung alle 18 Monate, die verfügbare Datenmenge aber alle 12 Monate und damit wesentlich schneller. Trotz steigender Verarbeitungsleistung sinkt also der Anteil der Daten, die wir überhaupt verarbeiten können.

Das Problem ist nicht ein Mangel an Daten, sondern die Bewältigung zu vieler Daten, die sich mit hoher Geschwindigkeit bewegen. Dadurch wächst der Bedarf an noch mehr Datenverarbeitung und Optimierung. Selbst der neueste Stand der Digitalisierung reicht nie aus, um Prozesse in dem Ausmass zu steuern und zu kontrollieren, wie man es gerne möchte. Es ist eben nicht so, wie es sich Jack Ma, der Gründer von Alibaba, noch 2017 vorstellte: dass wir im Digitalzeitalter einen Röntgenapparat oder einen Computertomografen für die Weltwirtschaft besitzen, der all ihre Bedürfnisse in Echtzeit stillt. Denn den Prozessen, die man so gerne im Detail durchleuchten möchte, kommt man nie wirklich auf die Spur, da sie sich in immer noch mehr Details auflösen.

«Der ständige Versuch, mithilfe von digitalen Anwendungen und KI Dinge zu optimieren und dadurch die Effizienz zu steigern, erweist sich schnell als Illusion.»

Für jeden möglichen Fehler eine neue Regulierung

Dank der dauernden Datenerfassung und Überwachung wird es auch möglich, kleinste Probleme und kleinstes Fehlverhalten in Beruf oder Privatleben bei immer mehr Menschen zu erfassen, zu dokumentieren und je nachdem zu sanktionieren. Also wird jedem möglichen Fehlverhalten mit neuer Regulierung und Überwachung begegnet.

Beispielsweise werden die Prozesse und Vorgänge in Krankenhäusern oder Arztpraxen im Zuge der Digitalisierung immer genauer überwacht und kontrolliert. Krankenhäuser reagieren darauf mit weiteren Vorschriften, die zum Beispiel festlegen, dass Medikamente in bestimmten Fällen an alle Patienten präventiv vergeben werden müssen, obwohl dies vielfach gar nicht notwendig wäre. Aber man möchte unbedingt den Fall vermeiden, bei dem man einer Ärztin oder einem Arzt eine Unterlassung vorwerfen könnte. Eine solche Unterlassung führt schnell zu langwierigen und teuren Gerichtsverfahren und zieht für den Arzt möglicherweise berufliche Konsequenzen nach sich. Also werden noch detailliertere Vorschriften erlassen, um das zu vermeiden.

Letztlich sind es also zwei Aspekte, welche das Wachstum der Bürokratie durch KI bewirken:

1. Die Intensivierung der Datenerhebung und der Auswertung von Daten durch KI-basierte Algorithmen führt zu einer immer detaillierten Überwachung, Kontrolle und einer daraus abgeleiteten «Optimierung» von Prozessen und Menschen, bei denen die Menge der Daten aber schneller zunimmt als deren Auswertbarkeit.

2. Die immer grössere Datenflut und deren Nutzung mithilfe von KI kreieren neue Komplexität und Herausforderungen, welche weitere bürokratische Massnahmen wie Richtlinien, Regulierungen, Gesetze, Verträge, Gutachten oder Expertisen notwendig machen. Probleme werden auf höhere Ebenen der Bürokratie verlagert.

Anders als in der Produktion führt die Digitalisierung in der Bürokratie somit nicht zur Einsparung von Arbeit, sondern zur Schaffung von weiterer Arbeit. In modernen Grossunternehmen treffen wir nicht mehr auf Arbeiter, sondern auf neue Controlling-Bürokraten. Das sind meist Tätigkeiten, die man traditionell als «unproduktiv» bezeichnet hätte, die aber gut bezahlt sind. Denn Löhne werden nicht bezahlt, weil eine Tätigkeit als produktiv gilt, sondern weil es eine entsprechende Nachfrage nach dieser Tätigkeit gibt. Und diese Nachfrage besteht heute für Jobs wie Datenschutzbeauftragte, Online Reputation Manager, IT-Sicherheitsexperten, Digital Business Manager oder Compliance-Beauftragte. Solche Jobs sind an das Wachstum der Controlling-Bürokratie gekoppelt und nehmen immer mehr überhand.

Der Fortschritt ist immer schneller

Allerdings rennt die Bürokratie mit ihren Massnahmen dem rasanten Fortschritt im Bereich KI stets hinterher. Je mehr KI eingesetzt wird, umso mehr stellt sich beispielsweise die Frage der Haftung und der Verantwortung für Entscheide und Handlungen, die von Algorithmen ausgelöst wurden. Das traditionelle Rechtssystem ist nicht auf selbständig agierende und entscheidende Systeme ausgerichtet, sondern geht davon aus, dass Menschen die Verantwortung für Entscheide und für Handlungen tragen. Doch diese Annahme wird bei autonom agierenden KI-Systemen zunehmend zur Fiktion. Die juristische Bewältigung der neuen Situation erfordert neue Gesetze, Regeln, Verträge und umfangreiche Abklärungen und führt zu unzähligen juristischen Verfahren.

Eine andere grosse Herausforderung ist der Datenschutz, der mit grossangelegten Regulierungen wie der heute in der EU geltenden Datenschutz-Grundverordnung garantiert werden soll. In der Realität bringt diese Verordnung aber weniger Datenschutz als vielmehr Datenschutzbürokratie. Internetnutzer müssen ständig Einwilligungen für Datennutzungen geben, wenn sie eine Website besuchen oder eine App verwenden. Das empfinden viele Nutzer als lästige Pflicht, während gleichzeitig die Unsicherheit bleibt, ob die Daten tatsächlich geschützt sind.

Und ein weiterer Bürokratieschub kommt noch dieses Jahr auf uns zu. Das in der EU bald in Kraft tretende Gesetz über künstliche Intelligenz (AI-Act) wird bereits vor der Einführung als neues Bürokratiemonster bezeichnet. Das wird dann auch zu einem weiteren Wachstum der Compliance-Abteilungen in vielen Unternehmen führen.