Mensch-KI-Teaming: Mensch und Künstliche Intelligenz in der Arbeitswelt von morgen

Perspektive 1 (defizitorientiert)

Die defizitorientierte Betrachtung geht davon aus, dass der Mensch Schwächen aufgrund begrenzter Informationsverarbeitungskapazität und -geschwindigkeit, Erschöpfungs- und Ermüdungserscheinung bis hin zu Aufmerksamkeitsdefiziten hat, was die Leistungsfähigkeit in Produktion und Fertigung beeinträchtigt. Die implizite Annahme ist, dass eine KI den Menschen darin unterstützen kann, die eigenen menschlichen „Schwächen“ abzufedern. KI-Systeme sollen gemäß dieser Perspektive dazu dienen, die Fertigungsabläufe oder Fehlersuche robuster und weniger fehleranfällig zu machen. Da die KI dabei häufig für Tätigkeiten eingesetzt wird, die vorher von Beschäftigten ausgeführt wurden, könnte für den Menschen der Eindruck entstehen, dass diesem nur noch der Hammer bliebe, um sich gegen die KI zu behaupten.

Perspektive 2 (datenzuverlässigkeitsorientiert)

Gemäß dieser Perspektive hat vor allem die KI in ihrem gegenwärtigen Entwicklungsniveau Schwächen, weil die verwendete Datenbasis fehlerbehaftet sein kann und die KI nicht zuverlässig und diskriminierungsfrei funktioniert. Zudem muss sie in der Lage sein, sich gegenüber dem Menschen zu erklären, damit der Mensch Schlussfolgerungen oder Entscheidungen nachvollziehen und korrigieren kann. Die „explainability“ soll zusätzlich dazu führen, dass der Mensch in die KI vertraut. Die implizite Annahme ist hier, dass die KI zwar grundsätzlich ein hohes Potenzial hat, aber gegenwärtig der menschlichen Entscheidungsfähigkeit noch unterlegen ist.

Perspektive 3 (schutzorientiert)

Die KI übernimmt die Aufgaben, die im Sinne einer korrektiven, präventiven und prospektiven differentiellen und dynamischen Aufgabengestaltung dazu führen, dass für die durch den Menschen ausgeführten Tätigkeiten mehr Kriterien einer humanen Arbeitsgestaltung erfüllt werden [11]. Der Mensch übernimmt Tätigkeiten, die langfristig schädigungslos ausgeführt werden können und wird dabei korrektiv zum Beispiel mit einem intelligenten Roboter unterstützt. Der Mensch übernimmt weiterhin die Tätigkeiten, die langfristig Qualifikation, Arbeitsleistung und Gesundheit erhalten oder sogar fördern und er wird bei diesen prospektiv, z. B. mithilfe intelligenter Assistenzsysteme, von der KI unterstützt. Die KI hilft dabei, auf interindividuelle Präferenzen, Motivationen und physiologische Zustände variabel reagieren zu können (prospektiv dynamisch und differentiell, z. B. mithilfe eines intelligenten Flow-Unterstützungssystems). Die KI wird gemäß des Wertemaßstabs für humane und menschengerechte Arbeit eingesetzt.

So wurden bereits technische Konzepte für die KI-basierte Unterstützung von Flow Erleben entwickelt [12]. Denn in den letzten Jahren sind die Erwartungen der Beschäftigten hinsichtlich der ästhetischen, affektiven und motivationalen Aspekte der Arbeit deutlich gestiegen [13, 14, 15]. Erste Feldstudien zeigten bereits, dass sich Funktionalität, User Experience und hohe Motivation nicht mehr ausschließen [4, 16, 17]. Es wird dementsprechend notwendig, menschliche Bedürfnisse in der Arbeit noch ganzheitlicher zu betrachten, indem nicht nur die kognitiven Prozesse einer zu erfüllenden Aufgabe in die menschzentrierte Gestaltung einbezogen werden, sondern auch Anforderungen an langfristige Motivation und Affekt. So können nachhaltig interessante und herausfordernde Arbeitsplätze geschaffen werden. Für die KI-Entwicklung ergeben sich mit Blick auf Szenarien von Mensch-KI-Teaming Potenziale, Assistenzsysteme zu entwickeln, die positive affektive und motivationale Zustände – wie beispielsweise Flow – unterstützen. Flow beschreibt die angenehme Erfahrung, sich voll und ganz mit einer Aufgabe zu beschäftigen [12, 18, 19]. Im Flow-Zustand wird alle Aufmerksamkeit auf eine Aufgabe gerichtet, während gleichzeitig die Aufmerksamkeit von irrelevanten Reizen abgeschirmt wird, was zu einem Erlebnis mühelosen Handelns führt. Das entwickelte Konzept von Peifer et al. [12] beruht auf der Idee, Flow mithilfe von physiologischen Daten (z. B. Arousal, EEG, Herzrate, Augenbewegungen, Pupillengröße, Hautleitfähigkeit) in Echtzeit zu messen. Auf Basis maschinellen Lernens erkennt der Flow-Assistent, wann ein/e Beschäftigte/r im Flow Zustand arbeitet. Das intelligente System kann daraufhin die Aufgabenschwierigkeit einer Tätigkeit jeweils so anpasst, dass ein individueller Flow-Zustand für die Beschäftigten erreicht werden kann.

Perspektive 4 (potenzialorientiert) Im Sinne einer hybriden Intelligenz arbeiten Mensch und KI kollaborativ und interdependent in gegenseitiger Abhängigkeit in Bezug auf die Aufgaben und das Ergebnis zusammen, lernen voneinander und verstärken ihre Vorteile [20, 21]. Arbeitssysteme mit hybrider Intelligenz ermöglichen es, dass Menschen und KI in Bezug auf die kreativen kombinatorischen oder algorithmischen Problemlö-seherangehensweisen voneinander über Rückkoppelungsschleifen lernen, sich gegenseitig herausfordern und sich gegenseitig als Informationsquelle nutzen. Im Sinne des oben bereits beschriebenen systemischen KI-Problemlöseassistenten, schätzen Mensch und KI die Unterschiedlichkeit der anderen Partei wert.

Insbesondere die vierte Perspektive verdeutlicht, dass KI zu besseren Arbeitsbedingungen beitragen könnte: Nach dieser Perspektive substituiert die KI nicht den Menschen, sondern KI und Mensch arbeiten interdependent – ähnlich wie ein Team – zusammen [20, 22]. KI kann dabei zur Steigerung der Effizienz, Genauigkeit und Qualität einer Arbeitsausführung dienen, da in Situationen mit mehrdeutiger Informationslage hohe Anforderungen an die Genauigkeit und Fehlervermeidung in Entscheidungsprozessen gestellt werden [23, 24, 25]. Der Mensch bringt sein explizites und implizites Domänenwissen ein, beispielsweise zur konkreten Materialbeschaffenheit oder bezüglich zu beachtender Umgebungseinflüsse [23, 24, 25]. Dementsprechend ergeben sich neue Potenziale für die Geschäftsfeldentwicklung in der Industrie [26] oder Qualitätssicherung [27, 28]. Hier zeigen sich Vorteile der verteilten Intelligenz [21] zwischen maschinellen und menschlichen Aufmerksamkeitsprozessen, um zu elaborierten Lösungen zu gelangen [29]. Die Herausforderung in der Forschung besteht darin, Antworten auf die Frage zu finden, wie Arbeitsplätze ausgestaltet werden können, um von verteilter und hybrider Intelligenz zu profitieren [29].

Stimulating

Das Mensch-KI-Arbeitssystem sollte so gestaltet werden, dass es die kognitiven, methodischen, sozialen und Problemlöse-Fähigkeiten und Fertigkeiten des Menschen langfristig stimuliert und entwickelt. Das KI-System sollte zusammen mit dem Menschen Probleme lösen und diesen beim Problemlösen mit einbeziehen. Mit Bezug zum systemisch denkenden Problemlöseassistenten wird Stimulation ermöglicht, wenn Mensch und KI sich im Hinblick auf ein Teaming beim Hypothesentesten gegenseitig unterstützen, Vorschläge unterbreiten sowie die Lösungsgüte aus unterschiedlichen Bewertungsmaßstäben gegenseitig in Frage stellen und kritisieren. Eine KI als Black Box erfüllt dieses Kriterium nicht.

Mastery

Das Mensch-KI-Arbeitssystem muss dem Menschen eine relevante Rolle zuweisen und ihm immer wieder die Möglichkeit einräumen, Teiltätigkeiten als vollständig zu erleben. Im Sinne eines Mensch-KI-Teamings des Problemlöseassistenten wäre denkbar, dass die Teiltätigkeiten von Mensch und KI zusammengenommen die Vollständigkeit (Setzen von Zielen, Handlungsvorbereitung, Auswahl der Mittel, Prozessfeedback und Resultate Feedback) erzeugen und die Vollständigkeit nur im Team erreicht werden kann. Mensch und KI können sich gegenseitig Feedback geben, ihre Lösungen bewerten und diesbezügliche Kriterien vorschlagen. Sie können sich gegenseitig (höflich) korrigieren und so im gegenseitigen Verständnis weiterentwickeln. Eine „Out-of-the-Loop“-Lösung, in der die KI alles alleine macht und die eigene Lösung abschließend präsentiert, erfüllt dieses Kriterium nicht.

Agency

Mensch-KI-Arbeitssysteme mit hoher Agency sind so gestaltet, dass der arbeitende Mensch aktiv auf die Arbeits- und Tätigkeitsausführung Einfluss nehmen kann. Die Einflussnahme kann sich dabei auf die konkreten Arbeitsmethoden oder auf die Art, der von den Mensch-KI-Arbeitssystemen zu treffenden Entscheidungen beziehen. Einflussnahme kann sich beim Mensch-KI-Teaming an die „Mixed-initiative“-Ansätze aus der Mensch-Computer-Interakt ion-Forschung anlehnen [44]. Ein gut gestaltetes Mensch-KI-Arbeitssystem ermöglicht es dem Menschen und dem KI-System, initiativ zu werden und im Prozess Vorschläge für das weitere Vorgehen zu besprechen. Mixed-initiative Interaktionsformen sind eine flexible Interaktionsstrategie, in der Mensch und KI orientiert an den jeweiligen Stärken zu der Aufgabe beitragen können. Die Rollen von Mensch und KI sind nicht im Voraus festgelegt, sondern werden während der Problemlösung flexibel und situativ ausgehandelt. Eine im Vorhinein fixe und nicht veränderbare Aufteilung der Aufgaben und Prozesse in der Mensch-KI-Zusammenarbeit erfüllt dieses Kriterium nicht.

Relational

Die Gestaltung des Mensch-KI-Arbeitssystems muss auch die Bedürfnisse nach befriedigenden Arbeitsbeziehungen berücksichtigen. Dazu gehört der Austausch mit den Vorgesetzten und Kolleg:innen. Schon etablierte Konzepte, wie z. B. der aufgabenorientierte Informationsaustausch oder Qualitätszirkelansätze, können hier integriert werden. In diesem Rahmen können sich die Instandhalter:innen, die mit dem Problemlöseassistenten arbeiten, über die Güte der Lösungen austauschen und zusammen mit den KI-Entwickler:innen Optimierungsansätze erarbeiten. Aber auch die Interaktion zwischen Mensch und KI kann unterschiedlich „sozial“ gestaltet werden. Aus der Forschung zur Mensch-Technik Interaktion ist der Anthropomorphismus [45] bekannt. Anthropomorphismus beschreibt die Tendenz, reales oder imaginäre Verhalten nichtmenschlicher Agenten (z. B. einer KI) mit menschenähnlichen Eigenschaften („jetzt ist er störrisch“), Motivationen („jetzt will er nicht“), Absichten („warum tut er das?“) oder Emotionen („jetzt ist er sauer“) zu erklären. Glikson und Woolley [46] sprechen hier von „emotional trust“ in der Zusammenarbeit mit einem KI-System. Es könnte dabei für Forschung und Praxis von Interesse sein, zu prüfen, inwieweit die ohnehin durch Menschen stattfindende Anthropomorphisierung genutzt werden kann, um eine Mensch-KI-Arbeitsbeziehung befriedigend zu gestalten [47]. Eine menschzentrierte KI-Arbeitsgestaltung sollte dabei im Auge behalten, wie sich soziale Beziehungen und die Beziehungspflege qualitativ und quantitativ verändern.

Tolerable

Das Mensch-KI-Arbeitssystem muss so gestaltet sein, dass es für den Menschen schädigungslos ausführbar bleibt – auch über lange Zeiträume (Jahre). Auch wenn diese Kriterien aus einer Zeit mit einem deutlich höheren Anteil an manuellen und körperlichen Tätigkeiten stammen, gilt auch bei kognitiven Tätigkeiten das Prinzip der Ausführbarkeit, Erträglichkeit und Zumutbarkeit. Im Zusammenspiel von Mensch und KI kann sich das zum Beispiel auf die Zeitspanne beziehen, innerhalb der vom Mensch-KI-Team eine Lösung erwartet wird. Andere Beispiele sind die Informationsverarbeitungsmenge (mental workload) oder psychische Belastungen durch eine KI, die den Menschen bei der Arbeit degradieren könnten. Eine KI, die bevormundend autoritär auftritt oder aber in kritischen Situationen aufgibt und dem Menschen unerwartet zumutet riesige Informationsmengen selber zu verarbeiten, erfüllt dieses Kriterium nicht.

Insbesondere bei dem Kriterium „Tolerable“ wird deutlich, dass die SMART-Kriterien nicht unabhängig voneinander betrachtet werden können. Ob die Zusammenarbeit von Mensch und KI erträglich ist, hängt auch von den Ausprägungen der anderen Kriterien ab.

Interventionsschritt 1

Erarbeitung und Implementierung einer unternehmenseigenen Grundsatzstrategie („Policy“), in der menschzentrierte Arbeitsgestaltung einen zentralen Stellenwert bei allen fertigungsbezogenen und technischen Entscheidungen erhält

Diese Grundsatzstrategie beinhaltet, dass bei Entscheidungen zur Nutzung von KI-Systemen die Auswirkungen auf die Arbeitstätigkeiten (im Hinblick auf die SMART-Kriterien) antizipierend hinsichtlich Chancen und unerwünschter Konsequenzen durchdacht werden (vergleichbar mit einer Technologiefolgenabschätzung).

Interventionsschritt 2

Proaktive Gestaltung der Arbeitsrollen bei der Einführung eines Mensch-KI-Arbeitssystems

Soll zum Beispiel ein systemisch denkender Problemlöseassistent eingeführt werden, dann sollte im Rahmen der proaktiven Gestaltung noch vor der Einführung überlegt werden, wie die Zusammenarbeit von Mensch und KI gestaltet werden kann (z. B. KI schlägt Hypothesen vor, aber Mensch hat die Möglichkeit diese abzu lehnen, anstatt dass KI den Lösungsansatz bestimmt). Ziel sollte dabei die Einnahme von Perspektive 4 sein, bei der die KI in der Zusammenarbeit mit den Menschen das jeweilige Potenzial von Mensch und KI im Sinne einer hybriden Intelligenz auf ein neues Level hebt.

Interventionsschritt 3

Beachtung und Anwendung von menschzentrierter Entwicklung von Mensch-KI-Arbeitssystemen

Wenn Mensch und KI zusammenarbeiten sollen, muss es Möglichkeiten der Kommunikation und Interaktion geben. Am Beispiel des systemisch denkenden Problemlöseassistenten können dies – wie oben erläutert – Formen der Mixed-Initiative sowie Kooperations- und Koordinationsformane bis hin zu Umgangsformen sein, die man aus der menschlichen Zusammenarbeit kennt (z. B. gegenseitiges Einverständnis oder Rückversicherungen einholen).

Interventionsschritt 4

Strategische Personalentwicklung und Training von digitalen Kompetenzen

Der Mensch sollte Wissen zu KI-Systemen und Fertigkeiten im Umgang mit KI-Systemen und Agilität erwerben. Es sollten Kompetenzen zur menschzentrierten Arbeitsgestaltung und der Wirkungen von schlecht bzw. gut gestalteten Arbeitssystemen trainiert werden. Sowohl Mensch als auch KI müssen in geschützten Lern- und Simulationsumgebungen Erfahrungen im Hinblick darauf sammeln, wie eine Zusammenarbeit gelingen kann und wieviel man übereinander wissen muss, welche Entscheidungsregeln der jeweils andere nutzt und welche Logik dahintersteckt.

Aus arbeitspsychologischer Sicht muss der zunehmende Einsatz von KI-Systemen in der Arbeitswelt und den Fabriken von morgen also nicht bedeuten, dass Menschen künftig mit dem Hammer zur Arbeit erscheinen. Die „potenzialorientierte“ menschzentrierte KI-Gestaltung kann durch organisationale Gestaltungsschritte erreicht werden, die die Potenziale und Risiken bereits bei der Implementierung von KI-Systemen antizipierend mitdenken. Dabei sollten Auswirkungen von KI-Lösungen auf die Arbeitsgestaltung betrachtet werden. Die Kriterien SMART-er Arbeitsgestaltung können helfen, Mensch-KI-Teaming so zu gestalten, dass Menschen nicht nur bereit sind mit den Maschinen gemeinsam ins Rennen zu gehen, sondern dass sie dieses Rennen auch antreten wollen. Ein Zitat von Elon Musk lautet “AI will be the best or worst thing ever for humanity”. Dieses schwarzweiß gezeichnete Szenario muss keine Schicksalsentscheidung sein. Unternehmen haben es in der Hand die Arbeitswelt der Zukunft jetzt proaktiv zu gestalten. Mit der Entwicklung von Strategien für hybride Intelligenz und Mensch-KI-Teaming kann heute der Grundstein für eine menschzentrierte Arbeitswelt gelegt werden, welche Wertschöpfung für Individuum und Organisation bedeutet.