Wenn künstliche Intelligenz das Unternehmen steuert – wo bleiben dann die Menschen?

Mit künstlicher Intelligenz lassen sich Unternehmensentscheidungen automatisieren. Heute klappt dies vor allem bei Routineaufgaben. Doch in Zukunft könnten Robo-Manager auch bei der Produktentwicklung, Personalfragen oder strategischen Entscheidungen mitreden. Auf absehbare Sicht werden KI-Systeme das Management nicht ersetzen. Aber Manager, die künstliche Intelligenz als Entscheidungshilfe nutzen, werden jene überleben, die das nicht tun. Zur Kernkompetenz von Menschen im Management wird künftig gehören, intelligent über den Grad maschineller Assistenz zu entscheiden.

von Thomas Ramge

Algorithmische Kunst agiert an der Nahtstelle zweier Sphären menschlicher Erkenntnis: einerseits Logik, die Probleme im Voraus definiert und in linearer Abfolge löst, und andererseits ästhetische Praxis, in der die Probleme erst definiert werden können, nachdem sie gelöst wurden. Menschliche Intelligenz beherrscht beide Modi. Darauf verweisen Christiaan Endemans abstrakte, schwebende Formen. Sie speisen sich aus multiplen Quellen (Fotografien, Farbspektren) und realisieren sich in Momentaufnahmen einer unendlichen Permutation farbiger Schichten.

David Ferrucci ist kein bekannter Name, den Ruhm seiner Arbeit heimste ein Computersystem ein: IBM Watson. Das machte 2011 weltweit Schlagzeilen, als es die amtierenden Champions im amerikanischen Kult-Quiz Jeopardy! schlug. Der Computerwissenschaftler Ferrucci war der menschliche Architekt des künstlich intelligenten Systems (KI), das so gut mit menschlicher Sprache umgehen kann. Heute ist Watson eine der erfolgreichsten Plattformen, mit denen Unternehmen und Organisationen Wissensarbeit automatisieren – und sein Erschaffer ein Hoffnungsträger des weltgrößten Hedgefonds Bridgewater Associates. Bis 2022 sollen dort drei Viertel aller Management-Entscheidungen – von Beförderungen bis hin zu unternehmensstrategischen Fragen – von künstlicher Intelligenz getroffen werden. Und Ferrucci soll dafür sorgen, dass es tatsächlich geschieht.

Jeder Ablauf im Unternehmen, jeder Entscheidungsfindungsprozess, ist umfassend datafiziert. Seit Jahren loggt das Unternehmen alle Meetings mit, um später auch herauszufinden, wer welchen Beitrag zu welcher Entscheidung geleistet hat. Die Mitarbeiter bewerten sich in einer App permanent gegenseitig. Alle Daten fließen in Ferruccis lernendes System ein, das auf den Namen PriOS hört. Es soll den Menschen nicht vollständig ersetzen, aber zu evidenzbasierten, rationalen Entscheidungen führen, die weniger kognitiven Verzerrungen unterliegen.

Erste Experimente, vollautomatische Unternehmen zu entwickeln, in denen Decentralized Autonomous Organization, kurz DAO, die menschliche Intelligenz vollständig ersetzt, gibt es in der rasch wachsenden Gründerszene rund um die Blockchain-Technologie. Unternehmensziele, Geschäftsmodell und Abläufe sind in Code gefasst. Eine unsichtbare Software-Hand steuert die Geschicke der Firma vom Einkauf über Lagerhaltung und Pricing bis zum Kundenmanagement mit statistischer Analyse, algorithmischen Entscheidungsroutinen und sogenannten Smart Contracts. Dabei ist DAO nicht so fern von der Umsetzbarkeit entfernt, wie es auf den ersten Blick scheinen mag. Ein annähernd vollautomatischer Onlineshop mit spezialisiertem Warenangebot und einer robotisierten Auslieferung der Pakete ist mehr Realität als Science-Fiction, ein App-Store funktioniert schon heute weitgehend vollautomatisch. Dezentrale, autonome Organisationen wären nur konsequent.


Mit künstlicher Intelligenz lassen sich Unternehmensentscheidungen automatisieren. Heute klappt dies vor allem bei Routineaufgaben. Doch in Zukunft könnten Robo-Manager auch bei der Produktentwicklung, Personalfragen oder strategischen Entscheidungen mitreden. Auf absehbare Sicht werden KI-Systeme das Management nicht ersetzen. Aber Manager, die künstliche Intelligenz als Entscheidungshilfe nutzen, werden jene überleben, die das nicht tun. Zur Kernkompetenz von Menschen im Management wird künftig gehören, intelligent über den Grad maschineller Assistenz zu entscheiden.


Es gibt gute Gründe, ein menschenleeres, vollautomatisches Unternehmen für eine ökonomische Dystopie zu halten. Sie ließe sich mit der sozialen Dimension einer nachhaltigen Wirtschaft nicht vereinbaren. Und doch erlebt künstliche Intelligenz zurzeit so etwas wie einen Kitty-Hawk-Moment. Jahrhundertelang versuchten die Menschen, das Fliegen zu erlernen. Erst 1903 gelang den Gebrüdern Wright der Durchbruch. Zwei Jahrzehnte später gab es eine boomende Flugzeugindustrie. Mit künstlicher Intelligenz könnte es ähnlich laufen, allerdings mit deutlich größerer Veränderungswirkung. KI ist eine Querschnittstechnologie, die alle Branchen durchdringen wird. Sie wird Entscheidungsfindung bei Gesundheitsdienstleistern genauso verändern wie bei Händlern, Energieversorgern, Logistikern, der Landwirtschaft und allen produzierenden Unternehmen. Die Automobilindustrie ist doppelt betroffen, da KI zudem das Produkt grundlegend transformiert.

Wer möchte, dass künstliche Intelligenz die Welt im Allgemeinen und die Unternehmenswelt im Besonderen zum Besseren und nicht zum Schlechteren verändert, muss sich eine Reihe von Fragen stellen. Was bedeutet algorithmisierte Entscheidungsfindung in Unternehmen aus wirtschaftlicher, ökologischer und sozialer Sicht? Ein systematischer Blick zeigt: In jeder der drei Nachhaltigkeitsdimensionen eröffnen aus Daten lernende Systeme ihnen große Chancen.

Im Kern läuft der Einsatz von KI aus wirtschaftlicher Perspektive immer auf ein Ziel hinaus: die Verbesserung der Wettbewerbsposition. Und da auch KI-Systeme im Allgemeinen über Nacht keine wirtschaftlichen Wunder bewirken, führen innovative Unternehmen sie mit langfristig gedachter Entwicklungsperspektive ein. Sie sollen in langer Frist das Unternehmen effizienter organisieren, die Qualität heben und dem Management bei besseren Entscheidungen assistieren. Kurzum: Die wirtschaftliche Großchance beim Einsatz von künstlicher Intelligenz in Unternehmen liegt darin, die Wettbewerbsfähigkeit systematisch zu erhöhen. Umgekehrt formuliert heißt das, ein Verzicht auf KI zur Verbesserung von Entscheidungen auf jeder Ebene wäre ökonomisch das Gegenteil von nachhaltig.

Auch in ökologischer Hinsicht werden Unternehmen – und damit der Planet – mit klugem Einsatz von künstlicher Intelligenz viel erreichen können. Mit KI-Disponenten können Logistikunternehmen die Leerfahrten ihrer LKW von heute um rund 30 Prozent drastisch reduzieren. Dank besserer Prognosen werden Energieanbieter die Nachfrage ihrer Kunden besser absehen und damit die Energieproduktion zum Vorteil der Umwelt effizienter steuern können. Das Gleiche gilt für die Produktionsplanung in Herstellungsprozessen, wo KI zugleich Überkapazitäten und Ausschuss reduzieren wird. Abstrakt gesprochen wird KI dabei helfen, Ineffizienzen in Wertschöpfungsprozessen zu erkennen und zu verringern. Im Ergebnis bedeutet dies die Möglichkeit, mit begrenzten Ressourcen besser zu wirtschaften und damit die Balance zwischen ökonomischer und ökologischer Nachhaltigkeit zu stärken.

Dabei wird künstliche Intelligenz auch immer stärker auf einem Feld helfen, das bis dato als exklusive Domäne menschlich wahrgenommen wird, nämlich bei der Innovation: Der Mensch gibt konstruktive Ziele vor, und der Computer sucht und testet in rasender Geschwindigkeit Lösungen, auf die noch kein Mensch gekommen ist. Wenn der Mensch ökologische Zielvorgaben bei der Konstruktion macht, wird die intelligente Design-Maschine Entwürfe entsprechend auf grüne Materialien, Energieersparnis, Recyclingfähigkeit etc. optimieren.

Die Wahrscheinlichkeit ist hoch, dass künstliche Intelligenz bei Wirtschaftlichkeit und Umwelt deutlich mehr Licht wirft als Schatten. Doch die Befürchtungen bleiben. Sie gelten den sozialen Folgekosten einer raschen Ausbreitung. Aus Daten lernende Systeme entlasten Menschen von lästigen Routinen und schaffen Freiraum für die Aufgaben, die wirklich wichtig sind und die Arbeit erfüllen: Kreativität, Interaktion, Verantwortung, Innovation. KI wird zum Werkzeug, das Menschen befähigt, besser zu arbeiten. Dieser Optimismus ist realistisch, allerdings stellt sich die Frage: Wie gelingt es einer neuen Technologie, mittel- und langfristig mehr gute Arbeit zu schaffen, als sie kurzfristig durch Automatisierung zerstört? Die direkte Anschlussfrage lautet: Wer trägt die sozialen Kosten, die durch eine technologische Revolution der Beschäftigung entstehen? Die Sozialpartner werden sich bei der Lösung von sozialen Problemen durch Technologie ebenso wenig aus der Verantwortung stehlen können wie der Staat. Doch alles ist kein Grund, kulturpessimistisch in eine KI-assistierte Zukunft zu blicken. Denn die gute Nachricht lautet: Digitale Transformation bleibt auch dann eine menschliche Gestaltungsaufgabe, wenn aus Daten lernende Maschinen der Digitalisierung den Turbo zuschalten.

Es liegt in der Hand des Menschen, ob intelligente Maschinen zum Assistenten in einer digitalen sozialen Marktwirtschaft werden, bei dem kreative und verantwortungsbewusste Unternehmen ihre Identität weiter aus nachhaltiger Wertschöpfung ziehen. Intelligente Maschinen können mehr gute Arbeit schaffen, den Planeten grüner machen und unter dem Strich auch mehr Wohlstand erzeugen. Intelligente Manager werden künstliche Intelligenz nutzen, um ihr Unternehmen nachhaltig zu führen. Und sie werden dabei stets kritisch hinterfragen, wo KI-Systeme tatsächlich zu besseren Entscheidungen im Sinne führen – und wo die Anbieter der Systeme das nur behaupten.


Es liegt in der Hand des Menschen, ob intelligente Maschinen zum Assistenten in einer digitalen sozialen Marktwirtschaft werden, bei dem kreative und verantwortungsbewusste Unternehmen ihre Identität weiter aus nachhaltiger Wertschöpfung ziehen.


Die übergeordnete Frage hierbei lautet: Wer programmiert die lernenden Systeme mit welchen Zielen? Entwickler und Anbieter von KI-Systemen suggerieren gerne, algorithmisierte Entscheidungen seien objektiver als menschliche. Das Zauberwort lautet „evidenzbasiert“, die argumentative Logik dahinter ist: Daten Lügen nicht und der Algorithmus ist im Unterschied zum Menschen vorurteilsfrei und unbestechlich. Dabei ist algorithmisierte Entscheidungsfindung niemals neutral und – genau wie der Mensch – anfällig für Fehler.

Algorithmen interpretieren ein von Menschen gemachtes Deutungsmodell. Diesem Deutungsmodell sind Ziel- und Wertvorstellungen ihrer Entwickler im Wortsinn einprogrammiert, selbst wenn diese tatsächlich um Objektivität und Neutralität bemüht sein sollten. Bei aus Daten lernenden Systemen – besonders mit sogenannten Deep-Learning-Verfahren in immer leistungsfähigeren künstlichen neuronalen Netzen – ist bereits die Auswahl der Trainingsdaten eine subjektive oder zufällige Entscheidung. Mit Deep Learning trainierte Systeme neigen zu Vorurteilen und zwar zu jenen, die sich implizit aus Trainingsdaten ergeben.

Kritiker von algorithmischer Entscheidungsfindung fordern seit einigen Jahren, Unternehmen müssten ihre Algorithmen offenlegen. Ein Transparenz-Gebot stößt schnell an juristische, wirtschaftliche und auch technische Grenzen.

Die Lernvorgänge in künstlichen neuronalen Netzwerken sind das Ergebnis von Millionen und Abermillionen Verknüpfungen, von denen jede das Ergebnis ein klein wenig beeinflusst. Die Entscheidungsfindung ist daher so kompliziert, dass die Maschine dem Menschen nicht erklären oder zeigen kann, zu welchem Ergebnis sie gekommen ist. Algorithmen verändern sich zudem fortlaufend selbstständig. Transparenz ist schwer zu schaffen, weil das System keine klaren, überschaubaren, für den Menschen verständlichen Kriterien abwägt, sondern Muster in einer Komplexität erkennt, die das menschliche Gehirn überfordern.

Zwei Lösungsansätze werden hierfür diskutiert. Der eine lautet: Algorithmen, die über Menschen entscheiden, müssen der Kontrolle einer unabhängigen Instanz unterworfen sein. Sie soll Einblick in die maschinellen Entscheidungsfindungsprozesse bekommen und sicherstellen, dass diese statistisch solide ablaufen und im Ergebnis fair sind. Die Prüfer dürfen ihr Wissen dann freilich nicht an die Konkurrenz weitertragen. Der andere: Künstliche neuronale Netze erklären, wie (andere) künstliche neuronale Netze zu ihren Entscheidungen finden. Mit anderen Worten: Ein Software-Werkzeug erklärt dem Menschen – zum Beispiel Algorithmen-Prüfern – wie ein extrem komplexes Software-System arbeitet. Die Kombination aus beiden Lösungsansätzen könnte helfen, Maschinen tatsächlich zu dem zu machen, was sie aus Sicht von ethisch verantwortlichen Entwicklern sein sollen: ein Hilfsmittel, um menschliche Entscheidungen zu verbessern.

Die Antwort des Menschen auf Entscheidungen in einer maschinellen Blackbox kann nur die Rückbesinnung auf den Ausgangspunkt der Aufklärung sein: Wir müssen immer kritisch hinterfragen. Mit welchem Zweck wurden die Systeme entwickelt, mit welchen Daten wurden sie trainiert, und welche Interessen verfolgen jene Menschen oder Organisationen, die sie einsetzen?


Wir müssen immer kritisch hinterfragen. Mit welchem Zweck wurden die Systeme entwickelt, mit welchen Daten wurden sie trainiert, und welche Interessen verfolgen jene Menschen oder Organisationen, die sie einsetzen?


Wir müssen verstehen, wann maschinelle Assistenz uns nützt – und in welchen Kontexten sie uns in unserem Denken behindert. Die Automatisierung von Entscheidungen bietet große Chancen für den Einzelnen, Organisationen und für Gemeinschaften, die wir Gesellschaften nennen. Doch je besser Maschinen Entscheidungen treffen können, desto intensiver müssen wir Menschen uns darüber Gedanken machen, welche Entscheidungen wir – als private Nutzer, Unternehmen und als Gesellschaft – an künstliche Intelligenz delegieren wollen. Der Fortschritt der künstlichen Intelligenz stellt den Menschen vor eine neue intellektuelle Aufgabe. Er darf nicht maschinengläubig werden. Die Lösung ist alt und anstrengend. Wir müssen selbst denken. Und uns entscheiden.

Thomas Ramge ist der Technologie-Korrespondent von brand eins und schreibt für The Economist. Er unterstützt zudem das deutsch-amerikanische Analytics-Unternehmen QuantCo als Chief Explaining Officer. Ramge hat zwölf Sachbücher und einen Roman veröffentlicht. Demnächst erscheint von ihm bei Reclam: „Mensch und Maschine. Wie Künstliche Intelligenz und Roboter unser Leben verändern.“

Christiaan Endeman ist ein 23-jähriger südniederländischer Grafikdesigner mit Fokus auf 3D-Kunst und Motion Graphics. Frisch diplomiert investiert er jede freie Minute in sein Unternehmen TheManDesigns, das er bereits während seines Studiums gründete. Mit einer kreativen Vision und Leidenschaft für seine Arbeit peilt er mit jedem Projekt neue Höhen an und hinterlässt mit seinen Werken einen bleibenden Eindruck.