Im Imitationsspiel. Über die Kommunikation mit Maschinen und das Streben nach Artificial General Intelligence

3.1 Die Grenzen des Sozialen

Thomas Luckmann hat das Thema der „Grenzen des Sozialen“ (Luckmann 1980) in die Soziologie eingeführt, um die kulturell variierenden Definitionen dessen zu diskutieren, wer als soziales Gegenüber gilt. Diese Grenzen verschieben sich historisch und sind in unterschiedlichen Gesellschaften verschieden definiert. Zum Beispiel sehen animistische Kulturen viele Tiere und Pflanzen als beseelte Wesen, die als Teil der sozialen Gemeinschaft betrachtet werden (Descola 2022). Es lassen sich historisch variable „Grenzregime“ (Lindemann 2009; vgl. auch Luckmann 1980) diagnostizieren, welche die aktuelle Sonderstellung des Menschen als kontingentes und für die europäische Moderne spezifisches Phänomen erscheinen lassen. Gesa Lindemann zufolge ist es für diese Gesellschaft konstitutiv, nur lebende Menschen als ihre Mitglieder zu begreifen und ihre normative Ordnung auf Basis grundlegender Menschenrechte zu entwerfen (Lindemann 2018). Sie sei „die erste Gesellschaft, die aus Menschen besteht“ (Lindemann 2018: 306). Im Anschluss an differenzierungstheoretische Überlegungen von Simmel, Durkheim und Luhmann betrachtet Lindemann die Hervorbringung des Menschen (in seiner heutigen Bedeutung) als institutionellen Stabilisierungsmechanismus intern hochdifferenzierter Gesellschaften.

Die europäische Moderne realisiert die besonders relevanten Abgrenzungen des Menschen, so Lindemann, in Form eines „anthropologischen Quadrats“, das den Menschen „durch eine vierfache Abgrenzung bestimmt: die beiden Grenzen am Lebensanfang und am Lebensende sowie die Grenze zum Tier und zur Maschine“ (Lindemann 2018: 28). Andere Unterscheidungen, etwa die zwischen Menschen und Engeln, verlieren hingegen an Relevanz. (Lindemann 2018: 133 f.). Doch wird diese Form der Grenzziehung des Humanen „nicht als eine allgemeine Voraussetzung jeder Vergesellschaftung verstanden, sondern als eine […] gesellschaftliche Institution, die auch wieder vergehen kann“ (Lindemann 2018: 56).

Lindemann argumentiert, dass der Mensch mit dem wachsenden Einfluss der Naturwissenschaften auf das moderne Weltbild zunehmend als materielles Wesen verstanden wurde, das nicht nur als besonders hochentwickeltes Tier, sondern auch „im Prinzip als eine Maschine zu begreifen ist. […] Diese Entwicklung führte dazu, dass im Rahmen der modernen Begrenzung des Menschlichen die Mensch-Maschine-Differenz zentral wurde“ (Lindemann 2018: 96) – und zwar nicht deswegen, weil Maschinen dem Menschen so fern wären, sondern weil sie ihm nah genug sind, dass Verwechslungen, Vermischungen oder Verwandlungen nicht auszuschließen sind. Gerade diese (kulturell erzeugte) Nähe zur Maschine sorge dafür, dass die Mensch-Maschine-Differenz anfällig dafür ist, „diskursiv dramatisiert“ (Lindemann 2018: 122) zu werden, insbesondere dann, wenn in Aussicht gestellt wird, dass (1) der Mensch zur Maschine zu werden droht, (2) der Mensch durch die Maschine ersetzt wird, oder (3) die Maschine menschlich wird. Die mögliche Entdifferenzierung von Mensch und Maschine wird zum Faszinosum und Problem der europäischen Moderne.

3.2 Distinktionszonen des Humanen

Auch für Stefan Hirschauer gehört die Mensch/Maschine-Differenz zu den relevanten „Distinktionszonen des Humanen“ (Hirschauer i.E.). Er reiht ihre Erforschung in das Programm der Humandifferenzierung ein, also der Untersuchung derjenigen Unterscheidungen, die das gesellschaftliche Personal betreffen (Hirschauer 2021). Der Fokus der Humandifferenzierungsforschung lag bislang vor allem auf den Binnendifferenzierungen des Humanen – etwa in Frauen und Männer, schwarze und weiße, alte und junge Menschen (Hirschauer 2021). Die Unterscheidung von Menschen und Maschinen gehört hingegen zur „Außendifferenzierung der Menschen“ (Hirschauer 2021: 157, Hervorhebung im Original) also den „Unterscheidungen des Menschen von Nicht-Menschen“ (Hirschauer 2021: 171).

Hirschauer folgt grundsätzlich Lindemanns These einer Profilierung der Außengrenzen des Humanen, betont aber, dass diese Grenzen differenzierter zu betrachten seien. Lindemann fokussiere sich stark auf die Besonderheiten der europäischen Moderne und stütze sich auf wissenschaftliche und rechtliche Diskurse, die tendenziell klare, aber vereinfachte Grenzen ziehen. Sie tendiere somit dazu, intellektualistische Selbstbeschreibungen von Gesellschaften – mit Luhmann (1980) gesprochen: ihre „semantische Tradition“ – mit der Gesellschaftsstruktur zu verwechseln. Eine solche Fokussierung vernachlässige alltagsweltliche und massenmediale Diskurse, die oft fließendere Übergänge aufweisen, sowie konkrete Praktiken, mit denen Menschen materiell ent/differenziert werden (Hirschauer i.E.). Hirschauer und Nübling weisen darauf hin, dass nicht nur gelehrte Diskurse zur Differenzierung von Entitäten beitragen, sondern diese Differenzierung sich in vielfältigen Sinnschichten des Kulturellen vollzieht. Entitäten werden etwa auch durch materielle Strukturen (wie Zäune) auseinandergehalten, durch Zurichtungen des Körpers voneinander dissimiliert oder durch Kleidung voneinander unterscheidbar gemacht (Hirschauer & Nübling 2021; vgl. auch Hirschauer 2021). Differenzierung und Entdifferenzierung können auf verschiedenen Sinnschichten in gegenläufige Richtungen und/oder unterschiedlichen Geschwindigkeiten verlaufen.

Ob Menschen oder andere Entitäten als soziale Gegenüber anerkannt werden, wodurch sich Menschen von Nicht-Menschen unterscheiden und wie schließlich ‚der Mensch‘ (im Singular) als Kategorie bestimmt und begrenzt wird, kann als kulturell kontingent betrachtet werden. Der Mensch kann etwa als Homo Sapiens von seinen evolutionären Vorläufern differenziert werden, ebenso aber von Geistern und Monstrositäten, Über- und Untermenschen, Tieren und Maschinen. Zwischen vermeintlich eindeutigen Kategorien wie Mensch und Maschine lassen sich Hirschauer zufolge Hybridfiguren ausmachen, deren ontologischer Status strittig ist. Künstliche Intelligenzen betrachtet Hirschauer als ebensolche Hybridfiguren zwischen Menschen und Artefakten (Hirschauer i.E.).

KI ist eine Kategorie, die Maschinen mit einer Eigenschaft ausstattet, die wir üblicherweise Menschen (und einigen Tieren) zuschreiben, nämlich Intelligenz. Inwiefern KI aber dabei dem Menschen gegenüber verähnlicht oder verandert wird, variiert je nach der veranschlagten Begrifflichkeit. Weit weg von der Kategorie des Menschen erscheinen sowohl Systeme, denen lediglich Werkzeugcharakter (weak/narrow AI) zugeschrieben wird, als auch solche, die als gottähnliche Superintelligenzen imaginiert werden. Innerhalb des KI-Spektrums lassen sich ferner verschiedene Grade an Über- und Unterordnung registrieren. ‚Schwache‘ KI-Systeme rücken typischerweise in die Positionen von Helfer:innen, Assistent:innen und Diener:innen (Schmidt-Jüngst & Dickel 2021). Neuen generativen Systemen wie ChatGPT werden hingegen mitunter auch professionelle Rollen wie die der Autor:in oder der Copilot:in zugeschrieben. Zudem fällt auf, dass die Nähe oder Ferne zum Menschen typischerweise anhand von Fähigkeit und Leistung festgemacht wird, wodurch implizit die Kategorie Mensch ebenfalls als Fähigkeits- und Leistungskategorie erscheint. Das Bild des Menschen, an dem eine AGI gemessen wird, ist das einer autonomen erwachsenen Person, die ihre überdurchschnittliche geistige Leistungsfähigkeit in ökonomisch wertvolle Arbeit umzumünzen vermag (Morris et al. 2024).

Insgesamt scheinen aktuelle KI-Entwicklungen ein Indikator dafür zu sein, dass die Mensch/Maschine-Unterscheidung zumindest partiell fragil werden könnte. Die Benennung eines Artefakts als KI markiert zum einen den Beginn einer Differenzierung des Artefakts von anderen Artefakten und zum anderen eine Entdifferenzierung von Mensch und Maschine. Doch wie weit reicht diese Entdifferenzierung? Dass KI – ebenso wie andere Grenzfiguren – Thema von Kommunikation werden kann, steht außer Frage. KI ist Leitmotiv der Technologiepolitik, Werbeslogan und Geschäftsmodell von Unternehmen, Gegenstand von Forschung und Forschungsförderung, Thema von populären Filmen und Serien, Problem rechtlicher Entscheidungs- und Verantwortungszuschreibung. Doch inwiefern wird sie auch als soziales Gegenüber behandelt? Um diese Frage trennscharf stellen zu können, kann die Betrachtung des kommunikativen Einbezugs von KI aufschlussreich sein (vgl. Muhle 2018).

3.3 Die Beteiligung von Maschinen an Kommunikation

Bei Lindemann (2018: 27) ist der Mensch im modernen Sinne eine kontingente „normative Institution“, aus der Perspektive der Humandifferenzierung ist er eine kontingente kulturelle Kategorie. Für die an Niklas Luhmann anschließenden Fassung der Systemtheorie ist der Mensch ein kontingenter Zurechnungspunkt der Kommunikation. Kommunikation wird bei Luhmann (1984: 191–200) als dreigliedriger Selektionsprozess verstanden: Information (was wurde gesagt) und Mitteilung (wie wurde es gesagt) werden durch Verstehen aufeinander bezogen und unterschieden. Keine dieser Selektionen ist als innerpsychischer Prozess zu betrachten, vielmehr bildet Kommunikation eine eigenständige Ordnung, die prozessual (und immer ex post) bestimmt, was von wem mitgeteilt wurde und ob ein Ereignis überhaupt als Kommunikation verstanden werden kann. Eine Entität wird zur Teilnehmer:in an Kommunikation, sofern ihr Mitteilungen zugerechnet werden. Autonomie und Handlungsfähigkeit von Entitäten werden systemtheoretisch nicht als deren Eigenschaften verstanden, sondern als Zurechnungen, die kommunikativ sichtbar, vorausgesetzt oder problematisiert werden können. Dieses Verständnis von Kommunikation ist posthumanistisch angelegt. Zwar geht Luhmann davon aus, dass Kommunikation in der modernen Gesellschaft typischerweise Menschen (und Organisationen) zugerechnet wird, dies ist aber grundsätzlich kontingent. Ob auch Maschinen als Teilnehmer an Kommunikation infrage kommen, ist damit letztlich eine empirische Frage (Muhle 2018: 155–161).

Bereits vor Aufkommen von ChatGPT argumentierten systemtheoretische Autor:innen wie Dirk Baecker (2011), Elena Esposito (1993, 2017) und Florian Muhle (2018) dafür, die mögliche Teilnahme von maschinellen Entitäten in Kommunikationsprozessen zu untersuchen. Und auch wenn Baecker 2017 noch Zweifel an der Kommunikationsfähigkeit von Maschinen formulierte – „Maschinen kommunizieren nicht, noch nicht“ (Baecker 2017: 13), sah er „in der rasant zunehmenden Beteiligung ‚intelligenter’ Maschinen an Kommunikation, […] die eigentliche ‚Katastrophe’, die den Wandel von der modernen Buchdruckgesellschaft zu einer nächsten Gesellschaft […] auslöst“ (Baecker 2017: 17, Hervorhebung SD). Und auch wenn sich Armin Nassehi skeptisch gegenüber dieser Disruptionsthese zeigt, räumt er ein, dass neuere algorithmische Systeme das Potential haben „selbst zurechnungsfähig zu sein“ (Nassehi 2019: 245) da sie als intransparente Black Boxes eher dem Menschen ähneln würden als klassischer trivialer Technik. Künstliche Intelligenzen würden damit „Zurechnungspunkte in der Autopoiesis der Gesellschaft“ (Nassehi 2019: 257). Mit der Ankunft der KI hätte sich schließlich tatsächlich bewahrheitet, was Latour schon seit langem behauptet hätte, nämlich, „dass nicht-menschliche Aktanten gleichsam auf Augenhöhe agieren“ (Nassehi 2019: 258).

In jüngerer Zeit plädiert Esposito daher dafür, „von einer neuartigen Form der ‚künstlichen Kommunikation‘“ zu sprechen. (Esposito 2024: 31; vgl. bereits Esposito 2017), in der algorithmische Systeme als Zurechnungspunkte von Kommunikation fungieren.^[6] Auch wenn es weiterhin „entscheidende qualitative Unterschied[e]“ zwischen natürlicher und künstlicher Intelligenz gäbe (Nassehi 2019: 260) und Menschen für die Fortsetzung gesellschaftlicher Autopoiesis weiterhin als unverzichtbar erschienen (Esposito 2024: 88 f.), ist die Exklusivität von Menschen als gesellschaftlichen Zurechnungspunkten für mehrere systemtheoretische Autor:innen damit infrage gestellt.

Während der Einbezug von Maschinen in Kommunikationsprozesse also bereits vor mehreren Jahren als soziologische Fremdbeschreibung verhandelt wurde, wird dieser Einbezug nun zunehmend Teil gesellschaftlicher Selbstbeschreibung. Generative KI ist heute auch und gerade als „kommunikative KI“ erfahrbar (Hepp et al. 2022). Während vergangene KI-Anwendungen vornehmlich im infrastrukturellen Hintergrund von Gesellschaften operierten, hat sich mit den aktuellen Anwendungen nicht nur ein informationstheoretischer, sondern auch ein kommunikationstheoretischer Paradigmenwechsel vollzogen.

3.4 Zwischenbilanz: Entdifferenzierung und Inklusion?

Der Beitrag schließt an die angeführten drei Stränge differenzierungstheoretischer Überlegungen zur Mensch/Maschine-Differenz an. Er teilt mit Luckmann und Lindemann das gesellschaftstheoretische Interesse an den Grenzregimen der sozialen Welt. Er greift das von Hirschauer entworfene Programm der Humandifferenzierung auf, das dafür plädiert, den Auf- und Abbau von Differenzen granularer zu beschreiben, als dies binäre Kategorisierungen nahelegen. Und er folgt der sozialtheoretischen Intuition der Systemtheorie, dass eine Erweiterung kommunikativer Teilnehmerschaft sowohl grundsätzlich möglich als auch gesellschaftlich folgenreich ist.

Sofern die Diagnose stichhaltig ist, dass KI auf einen Differenzabbau zwischen Menschen und Maschinen hindeutet, die anhand ihrer kommunikativen Inklusion ablesbar wird, stellt sich die Frage nach den konkreten sozio-materiellen Bedingungen, die dafür verantwortlich sind, dass maschinelle Aktivitäten überhaupt als Kommunikation erscheinen können. Wie werden aus Artefakten ‚intelligente‘ Gegenüber gemacht, die in ein soziales Näheverhältnis zum Menschen gerückt werden?

Die soziologischen Antworten dazu oszillieren zwischen techno- und soziozentrischen Deutungen. So wird seit den frühen 2010er Jahren auf der einen Seite eine deutliche Beschleunigung im Forschungs- und Technologiefeld KI diagnostiziert, die durch die fortschreitende Entwicklung technischer Methoden, die massive Verfügbarkeit von Daten durch das Internet, die rapide Zunahme und Verbilligung der Rechnerleistung sowie die breite Digitalisierung der Gesellschaft angetrieben wird (Hirsch-Kreinsen & Krokowski 2023). Auf der anderen Seite wird die Bedeutung technologischer Narrative betont, die die gesellschaftliche Akzeptanz dieser neuen maschinellen Mitspieler:innen zu steigern versuchen (Bareis & Katzenbach 2022). Die Verhärtung der Kategorie KI (Suchman 2023) kann damit auch als rhetorische Strategie gelesen werden (Morozov 2023). Doch die partielle Entdifferenzierung von Mensch und Maschine im Fall von KI vollzieht sich nicht allein in der Sinnschicht der materiellen Infrastruktur oder der Sinnschicht der Sprache (Hirschauer & Nübling 2021). Sowohl die technischen Durchbrüche als auch die kulturellen Dynamiken von Hype and Hope spielen gewiss eine wichtige Rolle. Doch argumentiere ich, dass bei beiden Lesarten ein entscheidendes Puzzleteil fehlt. Dieses ist die Mediatisierung des Mensch-Technik-Verhältnisses, also der Art und Weise, wie Technik Menschen gegenübertritt. Diese ermöglicht es – so die im Folgenden entwickelte These – dass KI aktuell in der gesellschaftlichen Breite ein zunehmender Realitätsstatus zugeschrieben wird und eine AGI als plausibles Ziel technowissenschaftlicher Entwicklung erscheinen kann.

4.1 Der Turing-Test

Um die Rolle medialer Vermittlung für KI zu rekonstruieren, geht der Beitrag zu einer Gründungszene des modernen KI-Diskurses zurück, nämlich dem Turing-Test. Dieser gilt als „the most well-known attempt to operationalize an AGI-like concept” (Morris et al. 2024: 2). Der Ursprung des Tests liegt im 1950 veröffentlichten Aufsatz „Computing Machinery and Intelligence“ (1950) von Alan Turing, dem einflussreichen Pionier der Computerwissenschaften. Turings Ansatz steht in paradigmatischer Weise für eine doppelte Problemverschiebung: Die Frage nach der Denkfähigkeit der Maschinen wird durch ihn von einem technischen und philosophischen Problem in ein soziales Problem, genauer: ein kommunikatives Problem, verwandelt. Die Rekonstruktion dieser Problemverschiebung erlaubt es, zu verstehen, warum der Turing-Test bis heute als Prüfstein Künstlicher Intelligenz verhandelt wird (Collins 2021).

Turings Text beginnt mit der klassischen Frage, ob Maschinen denken können. Er verweist jedoch bereits im ersten Absatz darauf, dass es fruchtlos sei, die Frage in dieser Form empirisch klären zu wollen. Er argumentiert, dass es gewinnbringender sei, sich dem Thema indirekt zu nähern und die unentscheidbare Frage maschinellen Denkens in eine entscheidbare Problemstellung zu überführen (Turing 1950: 433). Diese nimmt bei ihm die Form eines Gedankenexperiments an, das Turing als das imitation game bezeichnet. In der von Turing zuvorderst präsentierten Variante wird das imitation game von drei Personen gespielt: einem Mann (A), einer Frau (B) und einer Person (C), die sowohl Frau als auch Mann sein kann. Die Aufgabe von C ist es, herauszufinden, wer der beiden anderen Mitspieler:innen der Mann und wer die Frau ist.

Entscheidend für den gesamten Versuchsaufbau ist, dass C die beiden anderen Mitspieler:innen weder sehen noch hören kann. Damit stehen C wichtige Marker, an denen Geschlechtszugehörigkeit in unserer Gesellschaft im Rahmen einer Interaktion unter Anwesenden festgemacht werden kann, nicht zur Verfügung. C sieht weder den Körperbau von A und B, noch hört sie deren Stimmen. C darf mit A und B lediglich schriftlich kommunizieren. Dabei sind laut Turing verschiedene Medien denkbar. So wäre etwa der Einsatz eines Boten möglich, der zwischen den drei Akteuren hin- und herläuft und die schriftlichen Mitteilungen überbringt. Ideal erscheint Turing aber ein Modus der schriftlichen Kommunikation, die über einen Fernschreiber realisiert wird. C darf seinen Mitspieler:innen beliebige Fragen stellen. Die am Spiel beteiligte Frau B gewinnt das Spiel dann, wenn C seine Aufgabe der korrekten Geschlechtsidentifikation bewältigt. Das Spielziel von A besteht aber darin C zu täuschen. A gewinnt also, wenn C ihn für die Frau hält. Dadurch wird der Umgang mit der Geschlechtskategorie für alle drei Spielerrollen zu einer je unterschiedlich konturierten hermeneutischen Herausforderung, die darauf hinausläuft, dass alle Beteiligten verstehen müssen, was es bedeutet, ein Mann oder eine Frau zu sein, wie man Männer und Frauen erkennt und wie sich Männer und Frauen schriftlich ausdrücken.

Für Turing selbst ist diese erste Variante des Spiels der Auftakt, um sein eigentliches Thema vorzubereiten. „We now ask the question, ‘What will happen when a machine takes the part of A in this game?’ Will the interrogator decide wrongly as often when the game is played like this as he does when the game is played between a man and a woman? These questions replace our original, ‘Can machines think?’“ (Turing 1950: 434). In dieser zweiten Variante des Spiels ist die Maschine herausgefordert, ebenso überzeugend zu lügen wie der Mann in der ursprünglichen Version. Wenn man nun beide Spielvarianten wiederholt durchführen und ihre Resultate vergleichen würde und dabei Mann und Maschine die Position von A gleich gut ausführen könnten, hätte man es Turing zufolge mit einer Art von Maschine zu tun, der man ihre Denkfähigkeit ebenso schwer absprechen könnte wie einem Menschen.

Schon bald nach der Publikation von Turings Artikel wurde eine dritte Variante des Spiels etabliert, die sich tiefer im gesellschaftlichen Bewusstsein verankern sollte als die von Turing ursprünglich erdachten Versionen. In dieser ist es die explizite Aufgabe von C, zu bestimmen, wer seiner Mitspieler:innen ein Mensch (A) und wer ein Maschine (B) ist. Hier besteht das Ziel von Maschine (und Mensch!) darin, C davon zu überzeugen, ein Mensch zu sein. Je besser es der Maschine A gelingt, Humanität vorzutäuschen, desto besser wird ihr Abschneiden im Test bewertet. Die Geschlechtskategorie ist hier verschwunden. An die Stelle der binären Unterscheidung Mann/Frau tritt die binäre Unterscheidung Mensch/Maschine. Es ist eben diese Variante des imitation game, die bis heute als Standardinterpretation des sogenannten Turing-Test bekannt ist und die in den darauffolgenden Jahren zu einer Inspirationsquelle für die Erforschung, Entwicklung und Reflexion Künstlicher Intelligenz wurde (French 2000: 116).

Das Gedankenexperiment vom John Searle zum chinesischen Zimmer zielte darauf ab, den Turing Test zu widerlegen. Dabei wird ein geschlossener Raum mit einem Menschen ohne Chinesisch-Kenntnisse vorgestellt, der mithilfe einer Anleitung in seiner Muttersprache sinnvolle Antworten auf chinesische Schriftzeichen gibt. Beobachter:innen außerhalb des Raums schließen fälschlicherweise, dass dieser Mensch Chinesisch verstehen würde. Das Experiment soll verdeutlichen, dass ein Computer mit Zeichen umgehen kann, ohne im mindesten ihre Bedeutung zu verstehen (Searle 1980: 417 ff.). Doch geht dieser Einwand am eigentlichen Witz von Turings Überlegung vorbei. Turing will das Problem denkender Maschinen nämlich genauso wenig philosophisch klären, wie er es für empirisch lösbar hält: „The original question, ‘Can machines think?’ I believe to be too meaningless to deserve discussion. Nevertheless I believe that at the end of the century the use of words and general educated opinion will have altered so much that one will be able to speak of machines thinking without expecting to be contradicted” (Turing 1950: 442). Es geht ihm also um einen prognostizierten kulturellen Deutungswandel („use of words“, „general educated opinion“), der mit einer Transformation von Erwartungsstrukturen einhergehen würde.

Behandelt man die Frage „Can machines think?“ wie Searle als philosophisches Problem, dann geht es um die Klärung dessen, was man plausibel unter Denken, Intelligenz oder Bewusstsein verstehen kann. Was macht diese Phänomene aus? Finden wir sie nur in Menschen oder auch in Tieren oder Maschinen? Neben diesen ontologischen Problemen tritt die epistemologische Frage, ob und wie man diese Phänomene eigentlich beobachten kann. Gibt es eine Möglichkeit zu prüfen, ob das, was in Computern vorgeht, mit dem vergleichbar ist, was in Menschen vorgeht? Das imitation game weicht solchen Fragen aus. Turing bringt damit ein Paradigma zum Ausdruck, das bei den Pionieren der Künstlichen Intelligenz zur Mitte des letzten Jahrhunderts zunehmend einflussreich wurde. Statt nämlich die Realisierbarkeit ‚denkender Maschinen‘ allein als technisches oder philosophisches Problem zu betrachten, wurde sie zunehmend auch und gerade als Problem der Anerkennung und Zuschreibung von Intelligenz durch die Nutzer:innen behandelt. Die Entwicklung von KI war damit nicht mehr allein eine Frage des Designs von Schaltkreisen und Programmiertechniken, sondern auch eine Frage des Designs der Interaktionsbedingungen von Mensch und Maschine. Der Turing-Test ist damit eine Antwort auf die Frage, wie Interaktionen so gestaltet werden können, dass Maschinen eine Chance haben, als intelligente Gegenüber wahrgenommen und behandelt zu werden (Natale 2021: 71).

Das imitation game lässt sich diesbezüglich weniger als Blaupause für maschinelle Denkfähigkeit lesen, sondern als kommunikations- und medientheoretisches Lehrstück. Es führt vor, wie die Konstruktion einer spezifischen Weise des Miteinander-in-Kontakt-Tretens, Mensch und Maschine entdifferenzieren kann. Die gesamte Anordnung des Tests funktioniert nur unter mediatisierten Sonderbedingungen (hier: von Intransparenz und Schriftlichkeit). Der Versuchsaufbau verschiebt das Spielfeld des Sozialen zugunsten der Maschine. Er erleichtert ihr ein passing as human indem er C sowohl den Körper von B als auch die Hard- und Software von A vorenthält. Die zentrale Intervention in das Mensch-Maschine-Verhältnis, die in den verschiedenen Varianten des imitation game vorgenommen wird, ist daher nicht die Entscheidung der Testperson über die Identität ihrer Interaktionspartner:innen, sondern die Einrichtung einer mediatisierten Situation, die den Körper von A unsichtbar macht und die Form der Interaktion auf das Medium der Schrift begrenzt (Hayles 1999: 14).

4.2 Chatbots

Ursprünglich war das imitation game lediglich ein Gedankenexperiment. Doch die Form der Mediatisierung, die mit diesem Gedankenexperiment imaginiert wurde, schuf ein Paradigma für das Design einer Kommunikation mit maschinellen Gegenübern, die menschenähnlich wirken sollten. Im Jahr 1966 entwickelte Joseph Weizenbaum mit ELIZA ein frühes Computerprogramm zur Verarbeitung natürlicher Sprache, das ein Gespräch mit einem Menschen simulieren sollte. Eine der berühmtesten Implementierungen von ELIZA war das Skript „DOCTOR“, das die Rolle eines/r Psychotherapeut:in übernahm. Das Skript vermittelte die Illusion des Verstehens, indem es die Aussagen der Benutzer:innen in Fragen umwandelte und sie zu weiteren Ausführungen ermutigte. ELIZA demonstriert, wie selbst einfache Rechenprozesse Antworten hervorbringen können, die den Nutzer:innen dialogisch und sinnvoll erscheinen. Dieses frühe Beispiel eines Chatbots verdeutlicht das Potenzial und die Grenzen früher Formen der maschinellen Kommunikation. ELIZAs Fähigkeit, an einer Konversation in natürlicher Sprache teilzunehmen, war wichtiger als die interne Komplexität des Programms (Suchman 2007: 47 f.).

Was in Turings Gedankenexperiment ein Fernschreiber war, ist hier ein Bildschirm und eine Tastatur. Das maschinelle Gegenüber wird dem Menschen gegenüber verähnlicht (und vice versa), da beide als Produzent:innen von Text fungieren, der auf einem Bildschirm erscheint. ELIZA spiegelt Weizenbaums Überzeugung wider, dass KI nur dann erfolgreich gemacht werden könne, wenn sie die natürliche menschliche Sprache beherrsche, verstehe und reproduziere. Die umgekehrte Verähnlichungsstrategie – Menschen dazu zu bringen, Maschinensprache zu beherrschen – würde die Nutzung von KI hingegen auf engste Kreise von Expert:innen begrenzen (Weizenbaum 1976: 183). Obgleich hier (im Kontrast zu Turings Gedankenexperiment) die maschinelle Identität des Gegenübers gar nicht verschleiert wurde, überzeugte ELIZA als Dialogmaschine durch eine recht simple Funktionalität.

ELIZA stand Pate bei der Entwicklung von Chatbots, die sprachliche Äußerungen von Nutzer:innen verarbeiten können und selbst Zeichen produzieren, die von den Nutzer:innen als sinnhafte Texte verstanden werden können. Die Basiskonstellation solcher Systeme sieht vor, dass Nutzer:innen qua Textverarbeitung am Bildschirm mit einem augenscheinlich konversationsfähigen Gegenüber interagierten. Doch trotz innovativer Konzepte zum „Computer as a Communication Device“ (Licklider & Taylor 1968) waren die Fortschritte im Bereich konversationsfähiger Maschinen über Jahrzehnte hinweg begrenzt. Zum Ende des 20. Jahrhunderts wurde die Bedeutung des Computers als kommunikatives Werkzeug zwar zunehmend reflektiert. Dies führte jedoch immer noch nicht dazu „daß in dem individuellen Gebrauch des Computers die Maschine […] als Kommunikationspartner betrachtet werden muß“ (Esposito 1993: 338). Auch im Jahr 2007 stellte Lucy Suchman noch fest: „[T]here is (still) no evidence for the achievement of conversation between humans and machines in the strong sense that we know it to go on between humans. […] I would argue, we have yet to realize the creation of an interactive machine” (Suchman 2007: 23). Unzulängliche sprachliche Kompetenzen von Chatbots führten immer wieder zu Erwartungsenttäuschungen auf Seiten der Nutzer:innen. Bis hin zu modernen Assistenzsystemen wie Amazons Alexa lässt sich diese Kluft aus Erwartung und Enttäuschung beobachten (Reeves et al. 2018).

Die zugeschriebenen Kommunikationsfähigkeiten von Maschinen steigerten sich erheblich mit der Veröffentlichung von ChatGPT. Mit der zeitgenössischen generativen KI wird die Erzeugung von Texten und Bildern in der gesellschaftlichen Breite als etwas beobachtbar, das Maschinen fast so gut, ebenso gut oder gar besser können als Menschen. Die Bedeutung von ChatGPT und ähnlichen Systemen (wie Claude oder Gemini) kann daher kaum überschätzt werden. Diese einfache Zugänglichkeit und Interaktion haben die Integration von KI in verschiedene soziale Kontexte befördert. Die weit verbreitete Verfügbarkeit der neuesten Generation von Chatbots ermöglicht es den Nutzer:innen, mit Maschinen auf eine dialogische Weise zu interagieren. Generative KI-Systeme werden auch zunehmend in Kunst und Unterhaltung, Journalismus und Öffentlichkeitsarbeit, Forschung und Lehre eingesetzt. Die kommunikativen Fähigkeiten von Menschen und Maschinen werden vergleichbar, die Substituierbarkeit menschlicher Kommunikationsbeiträge wird sichtbar, kulturelle Praktiken werden herausgefordert (Pavlik 2023; Chu & Liu 2023; Borchardt et al. 2024; Elyoseph et al. 2023). Wenn generative KI zudem auch in Chatbots (wie Replika) integriert wird, die sich Menschen als Beziehungspartner:innen anbieten, kann der Austausch von Textnachrichten als etwas beschrieben werden, das der KI als emotionale Kompetenz zugeschrieben wird, die sie mit Menschen vergleichbar macht (Possati 2023; Depounti et al. 2023). Angesichts solcher Entwicklungen hat Elena Esposito darauf hingewiesen, dass Systeme wie ChatGPT in der Tat als Zurechnungspunkte von Kommunikation im Luhmannschen Sinne fungieren können (Esposito 2024).

4.3 Kommunikativierung am Interface

Esposito folgt damit Turings Intuition, dass die Eingemeindung der Maschinen in den Kreis der intelligenten Wesen im Alltag weder aufgrund technischen Detailwissens noch aufgrund philosophischer Argumente entschieden wird. Turings Vermutung war vielmehr, dass die Entdifferenzierung von Mensch und Maschine gesellschaftlich wirksam wird, wenn Maschinen (unter spezifischen medialen Bedingungen) Zeichen produzieren können, die von menschlichen Zeichen nicht mehr unterscheidbar sind. Dass diese Entdifferenzierung (erst) heute zunehmend möglich erscheint, ist zweifellos auf die Fortschritte der Deep Learning-Algorithmen zurückzuführen. Wie aber bereits im Turing-Test kommt es darüber hinaus auf die Einrichtung einer mediatisierten Kontaktzone an, durch die sich Mensch und Maschine auf spezifische Wise begegnen. Die Gestaltung eines Interface, das menschliche Kommunikation „nachahmt und den Output nicht mehr in abstrakter Form als Lochkarte oder als Band kaum lesbarer Zeichenskripte editiert“ (Rammert 2023: 44) wird neben der Programmierung von Systemen und deren diskursiver Plausibilisierung zu einem wichtigen Faktor, um KI in der gesellschaftlichen Realität zu verankern.

Dies lässt sich am Erfolg von ChatGPT zeigen. Seit dessen Einführung ist KI kein abstraktes Konzept oder ein futuristischer Traum mehr, der nur in Wissenschaft und Science-Fiction diskutiert wird. ChatGPT sieht auf verschiedenen Plattformen (z. B. Web-Interface, Desktop-Anwendung, mobile App) recht ähnlich aus: Das User Interface umfasst in der Regel ein Texteingabefeld, in das die Nutzer:innen Fragen oder Befehle eingeben können, sowie einen Antwortbereich, in dem der Gesprächsverlauf angezeigt wird, der die Eingaben der Nutzer:innen und die Antworten von ChatGPT nacheinander darstellt. Neuerdings bietet ChatGPT auch sprachbasierte Interaktionen an. Um mit ChatGPT kompetent umgehen zu können, müssen User nicht verstehen, wie Deep Learning-Algorithmen funktionieren. Vielmehr kommt es darauf an, die Art des Schreibens und Sprechens mit ChatGPT zu erlernen, also das Formulieren von Prompts (Input) und die Nutzung der generierten Texte oder Bilder (Output). Die Operationen in der Black Box der Large Language Models können verborgen bleiben. „When a machine runs efficiently, […] one need focus only on its inputs and outputs and not on its internal complexity. Thus, paradoxically, the more science and technology succeed, the more opaque and obscure they become” (Latour 1999: 304). Diese Form des Kommunizierens kann sich auf kulturelle Skripte stützen, die jahrzehntelang gesellschaftlich eingeübt wurden. Das Schreiben mit einem unsichtbaren Gegenüber haben Menschen durch Chat, SMS und Instant Messanging erlernt, das Sprechen mit einem unsichtbaren Gegenüber durch das Telefon.

In der Gestaltung von kommunikativer KI radikalisiert sich eine bestimmte Gestaltungsform der Mensch-Maschine-Beziehung, die mit der Popularisierung der Computertechnik immer wirkmächtiger wurde, nämlich die Einrichtung von User Interfaces als Kontaktzonen zur Technik (im Deutschen auch als Benutzerschnittstellen oder Benutzeroberflächen bezeichnet). User Interfaces eröffnen selektive Wege des Miteinander-in-Kontakttretens, etwa durch Laute, Vibrationen, Wischgesten, Fingerabdrücke oder Texteingaben. Nutzer:innen bedienen Keyboards, schieben Mäuse über den Schreibtisch, betrachten den Mauszeiger auf einem Bildschirm und erleben den Rechner als Ansammlung grafischer Symbole, die ihnen etwa als Ordner oder App-Icons gegenübertreten. Sie prägen die Vorstellung der Nutzer:innen, was ein Computer(programm) ist und wie man mit ihm interagieren kann (Wirth 2025: 79–85). User Interfaces transformieren nicht nur die mediale Sphäre im engeren Sinne. Vielmehr lässt sich eine Rekonfiguration von Mensch-Technik-Verhältnissen durch das Paradigma des Interface in nahezu allen gesellschaftlichen Bereichen feststellen. Der Gebrauch von Technik verwandelt sich in eine Bedienung von User Interfaces (Hookway 2014: 1).

In der Gestaltung solcher Interfaces wird nicht allein ein bestimmtes Artefakt entworfen. Vielmehr werden „Interaktionsarchitekturen“ (Mayer et al. 2020: 296) errichtet, die durch ihre Affordanzen Formen des erwarteten Gebrauchs von Computersystemen anbieten, nahelegen und vorstrukturieren (Distelmeyer 2021: 55). Ein tieferes Verständnis der durch das Interface verborgenen Teile der Hardware und Software von Computern ist für Nutzer:innen damit nicht mehr notwendig. Das Interface tritt aus Perspektive der Nutzer:innen an die Stelle der nicht mehr intelligiblen Technologie. Bereits in den 1980er Jahren wies Frieder Nake (2019 [1984]) darauf hin, dass Interfaces die Mensch-Technik-Beziehung tendenziell als Kommunikationsverhältnis inszenieren. Aus riesigen Geräten, die früher von Spezialist:innen zur Lösung mathematischer Aufgaben verwendet wurden, entwickelten sich durch die Verbindung von Tastatur und Bildschirm sowie der Integration von Textverarbeitungssoftware kommunikative Werkzeuge (Heilmann 2012). So wurden sukzessive Artefakte geschaffen, die sich als Quellen und Adressaten für Kommunikation behandeln lassen. Diese antworten auf (von Menschen produzierte) Zeichen in einer Weise mit Zeichen, die von Menschen nicht völlig durchschaubar ist und produzieren Zeichen, die sie nicht ohne weiteres von menschlich produzierten Zeichen unterscheiden können. Diese Zeichenhaftigkeit der Technik setzt eine langwelligere Konjunktur fort, die sich mit Hubert Knoblauch als Kommunikativierung bezeichnen lässt.^[7]

„[Kommunikativierung] zeichnet sich zum einen durch die Umstellung der Technik auf Zeichen aus. Sie macht Technik kategorisch zu einer Kommunikationstechnik und jeden Umgang mit ihr zu einem zeichenhaften kommunikativen Handeln. Die Grundlage dafür bildet die Digitalisierung und die damit verbundene Kopplung von Zeichen und Dingen. Die Kommunikativierung zeichnet sich zum anderen durch die Interaktivierung der digitalisierten Technologie aus“ (Knoblauch 2017: 343).

Diese Kommunikativierung sorgt dafür, dass die Maschine dem Menschen materiell fremd bleiben kann, zu ihm aber in ein soziales Näheverhältnis gerückt wird. Ein Interface wie ChatGPT ist also nicht nur ein Kanal für KI. Es sorgt vielmehr dafür, dass ein algorithmisches System überhaupt für Nutzer:innen als KI erscheinen kann – nämlich als Gegenüber, das ‚intelligente‘ Antworten gibt. Menschen können weiterhin nicht unmittelbar mit einem Algorithmus sprechen (ebenso wenig, wie wir unmittelbar einen Kontakt zur Gedankenwelt eines Menschen aufnehmen können). Doch fungieren Interfaces wie ChatGPT nun als „social displays“ (Müller 2023). Sie sind funktionale Äquivalente für sprechende Münder und schreibende Hände.

Ein zentrales Moment der zeitgenössischen Entdifferenzierung von Mensch und Maschine im Fall kommunikativer KI besteht darin, dass die operativen Prozesse der Maschine vor Menschen verborgen werden, während die User Interfaces (wie Websites, Apps oder Sprachausgaben) die Resultate algorithmischer Operationen so darstellen, dass sie analog zu einer menschlichen Mitteilung (einem geschriebenen Text, einem gemalten Bild oder einer Stimme) erscheinen. Ob das, was in der Black Box geschieht, dem menschlichen Denken dann ähnlich oder unähnlich ist, kann somit im Alltag ausgeblendet und zurück an wissenschaftliche und literarische Diskurse delegiert werden. Es zeigt sich hier eine Gegenläufigkeit von Dynamiken der Differenzierung und Entdifferenzierung auf unterschiedlichen Sinnschichten (Hirschauer &. Nübling 2021). Zugespitzt formuliert: die innertechnischen Prozesse können radikal entähnlicht werden, wenn Ähnlichkeit auf der Ebene zeichenhafter Kommunikation in einem mediatisierten Setting hergestellt wird (Suchman 2007: 206 ff.). Die Deutung einer Technologie als KI entscheidet sich im Alltagsgebrauch nicht im Algorithmus, sondern am Interface, das Algorithmus und User vermittelt.