ChatGPT [Sammelrezension] Wolfram, Stephen: What Is ChatGPT Doing ... and Why Does It Work? Wolfram Media, 2023. – ISBN‎ 978-1-57955-081-3. 112 Seiten, $ 14,95 [Open Access unter https://writings.stephenwolfram.com]. Rieck, Christian: Schummeln mit ChatGPT. Texte verfassen mit künstlicher Intelli-genz für Schule, Uni und Beruf. München: Yes, 2023. – ISBN‎ 978-3-96905-247-1. 192 Seiten, € 16,00.

Wolfram 2023: Technische Einführung in ChatGPT – anschaulich, lehrreich, am Ende provokant

Wer sich mit ChatGPT beschäftigt, kennt womöglich die paradoxe Erfahrung, dass dessen Fähigkeit, zusammenhängende Texte zu produzieren, immer unbegreiflicher wird, je mehr man über seine Funktionsweise erfährt. Falls Sie diese Erfahrung teilen und sich Aha-Momente herbeisehnen, sollten Sie zur brillanten Einführung des englischen Physikers und Computerpioniers Stephen Wolfram greifen. Neben der Taschenbuch- und Ebook-Ausgabe gibt es den englischsprachigen Volltext kostenfrei auf Wolframs Internetseite.

Das große Verdienst dieser technischen Einführung besteht darin, vor den Details nicht haltzumachen, sondern, im Gegenteil, die Funktionsweise des Chatbots von Grund auf zu erklären, beginnend bei statistischen Verteilungen und dem Arbeitsprinzip künstlicher Neuronen. Dies geschieht anschaulich und unterhaltsam, mit überraschenden, im Gedächtnis haftenden Formulierungen und mit ungeschönter Offenheit gegenüber dem, was unerklärlich bleiben muss. „This is where a bit of voodoo begins to creep in“^[1], bekennt Wolfram beispielsweise, wenn er konstatiert, dass nicht die wahrscheinlichste Satzfortsetzung die beste ist, sondern ein gewisser Wert darunter. Dass das Ergebnis dann interessanter und weniger vorhersehbar ist, lässt sich nachvollziehen, doch warum das Ideal bei einer Temperatur (temperature) von 0,8 (auf einer Skala von 0 bis 2) liegt? Dies bleibt ein Erfahrungswert.

Die komplexen informationstechnischen Inhalte seines Buchs geht Wolfram auf eine Weise an, die auch Laien bei der Stange hält. Wer von den erfolgreichen Programmen, Onlinediensten und Programmiersprachen aus dem Hause Wolfram nichts ahnt, kann dennoch folgen. Jedes neue Thema wird höchst sanft anhand eines eingängigen Beispiels eingeführt. So zählt Wolfram z. B. die Buchstaben in den englischen Wikipedia-Artikeln über Katzen und Hunde, um zu illustrieren, wie Verteilungen entstehen: In beiden Korpora sind die Häufigkeiten der Buchstaben ähnlich, aber nicht gleich. Der Buchstabe O kommt auf der Hunde-Seite naturgemäß häufiger vor, da das Wort dog dort vielfach wiederholt wird. Der Schritt zur Vergrößerung der Korpora und damit zur statistischen Angleichung der Häufigkeiten liegt auf der Hand. Wolfram verhilft seinen Lesern in sokratischer Geburtshilfemanier dazu, Ideen selbst zu entwickeln, und erhöht so das Lesevergnügen und den Lerneffekt gleichermaßen.

Schritt für Schritt wird vorgeführt, welche Ergebnisse sich erzielen lassen, wenn die Wahrscheinlichkeitsberechnungen auf immer höhere Einheiten ausgedehnt werden: Über die Abfolgen einzelner Buchstaben zu immer größeren Buchstabengruppen, zu Wörtern, zu Wortgruppen. Die Textbeispiele zeigen: Das Ergebnis, die so generierte Ausgabe, wandelt sich eindrucksvoll von Buchstabenansammlungen über Nonsens-Sätze hin zu sinnvoll wirkendem Text.

Weitet ein Large Language Model (LLM) also einfach die Größe des statistischen Berechnungsrahmens immer weiter aus, bis hin zu Argumentstrukturen und Textinhalten? Nein, so einfach ist es nicht. Wolfram nennt den Grund, der überraschenderweise ein mathematischer ist: Selbst wenn ein LLM jeden jemals niedergeschriebenen Text zur Auswertung inkorporiert hätte, so reichte dieses Material doch nicht annähernd an die Vergleichsgrößen heran, die nötig wären, Worthäufigkeiten von ganzen Textteilen mit über zwanzig Wörtern zu berechnen, da deren Kombinationsmöglichkeiten astronomisch sind. Was LLMs daher tun, ist die Wahrscheinlichkeiten in diesen Größenbereichen nicht zu berechnen, sondern sie ­– zu schätzen. Hier scheint bereits auf, woher die vielen Fehlinformationen und Widersinnigkeiten stammen, mit denen uns das wachsende Heer an schnatternden KIs von allen Seiten bedenkt. Solch explizite Kritik an generativer KI findet man bei Wolfram allerdings kaum. Er beschränkt sich auf eine neutrale Darstellung der technischen Funktionen.

Die Freude am eigenen Nachvollzug der komplexen Mechanismen ist beim Lesen groß. Ganz offenbar besitzt das Informatikgenie auch auf dem Feld der Didaktik herausragende Fähigkeiten. Jeder Satz dieses Buches ist durchdacht, unterhaltsam und dennoch knapp und präzise (und damit dankenswerterweise das Gegenteil der Textausgaben von ChatGPT). Ein Lehrstück für jeden, der selbst Erklärtexte und Lehrmaterialien verfasst!

So illustriert Wolfram etwa die Modell- und Prognosenbildung anhand von Galileos Schwerkraftversuchen am – sofort vor dem inneren Auge schief aufragenden – Turm von Pisa. Wolfram zeichnet nach, wie ein Erklärungsmodell fortwährend optimiert wird, um es an die Messwerte anzupassen. Dazu werden die Parameter nachjustiert, oder, in Wolframs Metaphorik, die Schalter immer wieder ein Stück weit in diese oder jene Richtung gedreht. Im Falle ChatGPTs waren im Februar 2023, zum Zeitpunkt der Veröffentlichung von Wolframs Text, 175 Milliarden Schalter zu justieren. Man beginnt zu verstehen, was das Large in LLM bedeutet.

Neuronale Netzwerke gibt es bereits seit den 1940er-Jahren. Der aktuelle Durchbruch verdankt sich neuen Bauweisen und mehr noch den Trainingserfolgen. Verschiedene KIs bauen aufeinander auf, was den gigantischen Trainingsprozess überhaupt erst möglich macht. Fähigkeiten, die KIs bereits antrainiert wurden, werden in neue Systeme inkorporiert, Wolfram spricht von „Huckepack nehmen“ (to piggyback).

Am Beispiel der visuellen Objekterkennung erläutert Wolfram, wie ein Neuronales Netz lernt, Hunde und Katzen zu unterscheiden – eine Trainingsaufgabe, die verblüffend schwierig ist, da wir selbst überfragt sind, wie wir diese Unterscheidung eigentlich treffen. So wenig, wie wir in unseren eigenen Erkenntnisprozess hineinschauen können, verstehen wir, anhand welcher Merkmale ein Neuronales Netz unsere Haustiere schlussendlich auseinanderzuhalten lernt. Wir kennen die Arbeitsweise der künstlichen Neuronen, aber überschauen nicht die Gesamtheit der Einzelprozesse. Und dies liegt nicht nur an deren Zahl, sondern an der grundsätzlichen Irreduzibilität (irreducibility) des Vorgangs. Wir können ihn nicht in eine Formel fassen, weder bei unserem Gehirn, noch bei dessen Nachahmung, dem Neuronalen Netz. Jedes einzelne künstliche Neuron ist notwendig für den Gesamtprozess, der sich daher nicht reduzieren oder berechnen lässt.

Das ChatGPT zugrunde liegende Sprachmodell besitzt eine Transfor„mer-Architektur, die mit der Fokussierung (attention) auf bestimmte Aspekte arbeitet. Dies ermöglicht eine funktionierende Grammatik im Satz und einen Rückblick auf den bereits erzeugten Text oder Chatverlauf. Durch die neue Architektur verbesserte sich die Chatfunktion fundamental. Die Fortsetzung von Sätzen, Textpassagen und Gesprächen ist mit den heutigen Modellen in bis dahin ungeahnter Form möglich.

Trainiert wurde das System durch die Eingabe riesiger Textmengen, in denen es auf eigene Faust nach Regelmäßigkeiten in Sprache und Inhalt suchte und sich diese zu eigen machte (unsupervised learning). Die Einbettungsvektoren jedes Token, also dessen semantische Nachbarschaft und Austauschbarkeit in den Trainingstexten, werden, ausgedrückt als Zahlenfolgen, in den künstlichen Neuronen gespeichert. Sie bestimmen in Form von Gewichtungswerten die Neukombination der Token bei der Generierung von Text.

Syntax und Grammatik, die ChatGPT gerade auch im Deutschen beherrscht wie keine KI vor ihm, erlernte das System nicht per Regelkatalog, sondern implizit aus dem Trainingsmaterial. Die Gesetze der Logik und Argumentation, sofern sie der Sprache innewohnen, wurden dabei miterfasst. Wolfram unterscheidet syntaktische Grammatik und semantische Grammatik, beides Systeme, die sich durch Vektorbeziehungen in linguistischen Nachbarschaftsräumen ausdrücken lassen. Erstere erzeugt korrekte Sätze, letztere plausible Sätze, die mit unserem Weltwissen (bzw. der Weltdarstellung in den Trainingstexten) übereinstimmen.

Wiederholt weist Wolfram darauf hin, dass die Entwickler und Trainer der KI auf technischer und mathematischer Ebene nicht verstehen (können), was genau beim Maschinenlernen geschieht. Sie kreieren ein Modul, das eine Ausgabe zeitigt, die ungefähr richtig ist (roughly right), und arbeiten dann per Trial and Error an der Feinjustierung. Was in der schwarzen Kiste passiert, weiß niemand und kann prinzipiell niemand wissen.

Der Trainingsprozess ist also eine geheimnisvolle Angelegenheit. Er ist nicht theorieunterfüttert, ist keine Wissenschaft (science), sondern geschieht durch Ausprobieren und die Weitergabe probater Lehrmethoden. Wolfram spricht daher von einer Kunde (lore) oder Kunst (art). Die eigentliche Funktionsweise der bewährten Methoden und Bauweisen bleibt oft unverstanden. So arbeiten Neuronale Netze z. B. besser, wenn sie eine schlanke Stelle haben (a squeeze in the middle), an der die Informationsprozesse ein neuronales Nadelöhr hindurchlaufen müssen. Kontraintuitiv wird es, wenn wir akzeptieren sollen, dass Neuronale Netze besser mit komplexen Problemen klarkommen als mit einfachen. Der Grund besteht darin, dass eine Vielzahl an Variablen weniger Sackgassen eröffnet (in Wolframs Metaphorik: die in einen Bergsee führen, anstatt auf die Talsohle der Verlustfunktion, die die Abweichung vom erwünschten Gewichtungswert darstellt).

Wie reflektiert die Verwendung von Sprache in Wolframs Lehrtext (in weiten Teilen) ist, zeigt sich an der häufigen Verwendung von Anführungszeichen. Sein exakter Sprachgebrauch ist wohltuend, denkt man an die gedankenlose Gleichsetzung von Mensch und Maschine in vielen Stellungnahmen zu generativer KI. Ein LLM weiß nichts, denkt und schreibt nichts, höchstens „weiß“ es etwas (oder eben nicht) und generiert daraus einen Text (oder halluziniert). Wolfram ist darin beispielhaft sorgfältig.

Die beim Lesen erhofften Aha-Effekte werden allerdings seltener, je weiter der Text von den informationstechnischen Grundlagen aufsteigt. Das liegt in der Natur der Sache, aufgrund ihrer Komplexität, aber auch aufgrund der prinzipiellen Unverstandenheit und Unverstehbarkeit der Vorgänge: „We’re opening up the brain of ChatGPT [...] and discovering, yes, it’s complicated in there, and we don’t understand it – even though in the end it’s producing recognizable human language.“ Ist es beruhigend, dass auch Computergenies nicht wirklich wissen, wie das Ganze konkret funktioniert, oder sollte uns gerade das beunruhigen?

Obgleich Wolfram über weite Strecken angenehm präzise ist, was die Vergleiche von menschlichem Hirn und Neuronalem Netzwerk betrifft, wird er gegen Ende des Buches dann doch noch unvorsichtig. Er lässt sich hinreißen von seiner Vision, die Gesetze von Sprache und Denken, die der Chatbot implizit anzuwenden scheint, in naher Zukunft aufzuspüren: „We can expect there to be major new laws of language – and effectively laws of thought—out there to discover.“ Die Gesetze des Denkens im Bauch eines Statistikpapageis zur Satzvervollständigung? Wolfram versteigt sich sogar zu der Behauptung, Aristoteles habe die syllogistische Logik durch eine mechanistische Auswertung von Beispielen aus der Rhetorik entwickelt (und nicht etwa durch analytisches Nachdenken).

Diese Kehrtwende enttäuscht. Obwohl Wolfram im gesamten Buch immer wieder darauf hingewiesen hat, dass maschinelles Generieren von Texten ein ganz anderer Prozess sei als das menschliche Niederschreiben von Gedanken, lässt er sich schließlich selbst von der Nachahmungsqualität des Papageiengeplappers verführen und verwechselt Menschen mit Automaten. Aus der Tatsache, dass die Textausgaben so überzeugend wirken, folgert Wolfram nun im Umkehrschluss, dass die menschliche Sprache und die zugrundeliegenden Gedanken einfacher und gesetzesartiger seien, als wir bisher annähmen. Nicht die Maschine sei so komplex wie wir, wir seien so simpel wie die Maschine! „Oh nein, nun auch noch Sie, verehrter Herr Professor!“, seufzt man beim Lesen der letzten Kapitel.

Die Schlussfolgerungen am Ende des Buches überzeugen nicht und widersprechen dem bis dahin Gesagten. Wolfram fällt zu guter Letzt selbst in die Grube, vor der er bis dahin so sorgfältig warnt. Seine verständliche und anschauliche Darstellung der Funktionsweise von ChatGPT, die nicht zu bemänteln versucht, dass sie vieles nicht erklären kann, ist dennoch äußerst lehrreich. Eine Leseempfehlung mit kleinen Abstrichen und einer Warnung vor zu weitreichenden Schlussgedanken.

Rieck 2023: Professor empfiehlt Schummeln

Die Auffassung, dass Studierende schon längst und durch die Bank ihre Schreibaufgaben mittels ChatGPT erledigten, wird allenthalben augenzwinkernd vorgetragen, gerade auch von Lehrenden. Studierende, die mit dieser Unterstellung konfrontiert werden, reagieren erstaunt: Haben sie da etwas nicht mitbekommen? Ist es überholt, die Sprache seines Fachs zu erlernen, Thesen aufzustellen und Belege zu suchen? Sollten sie besser heute als morgen auf den Zug aufspringen, um mit den Mitbewerbern gleichzuziehen? Und: Ist Betrug bei Prüfungsleistungen ein Thema, dass bei den Verantwortlichen vor allem Schmunzeln und Heiterkeit auslöst?

Angesichts der studentischen Unsicherheit hinsichtlich des neu verfügbaren Hilfsmittels sind Bücher wie Schummeln mit ChatGPT des YouTube-Welterklärers und Frankfurter Wirtschaftsprofessors Christian Rieck besonders folgenschwer in ihrer leichtfüßigen, aufsässigen Attitüde. Rieck geht im Selbstversuch an die Frage heran, wie sich die neue Technologie für das eigene Schreiben nutzen lasse. Seine laut Vorwort hoppla-hopp an einem einzigen Wochenende verfasste Gebrauchsanleitung, deren Kapitel hübsch abwechslungsreich, stark strukturiert, extrakurz gehalten und mit Humor gespickt sind, könnte Spaß machen, wüsste man nicht, dass der Autor sein Geld damit verdient (oder verdienen sollte), jungen Menschen zum Ausbau ihrer Kompetenzen zu verhelfen. Stattdessen geht der Tenor seines Buchs dahin, ernsthaftes Lernen und Arbeiten als verzichtbar und spaßgefährdend hinzustellen. An Applaus ist Rieck gewöhnt.

Aus wissenschaftlicher Sicht kann das schmale Buch, das über keinerlei Literatur- oder Stichwortregister verfügt, höchstens als Selbstversuch und Erfahrungsbericht durchgehen. Belegt sind nur wenige der darin erhobenen Behauptungen, abgesehen von einigen Leseempfehlungen per Hyperlink. Manche Aussagen sind schlichtweg falsch, etwa die, dass sich ChatGPT anhand der Nutzereingaben weiterentwickeln würde (vgl. 188). Entgegen dieser Behauptung sind Training und Nutzung eines neuronalen Netzes zwei getrennte Phasen, worin es sich übrigens fundamental von unserem Gehirn unterscheidet. Die OpenAI-Entwickler analysieren bestimmte Chatverläufe in Hinblick auf Regelverletzungen und Funktionsfehler (vgl. dazu Luansing 2023) und verwenden sie gegebenenfalls für das Finetuning des nächsten Modells, doch ist dies kein Automatismus: „A limited number of authorized OpenAI personnel [...] may access user content [...] to improve model performance” (Open AI 2023).

Erklärtermaßen stammt ein erheblicher Teil des Buchinhalts aus der Feder des Chatbots selbst, was sich in Redundanzen und inhaltsarmen Abschweifungen niederschlägt. „Wir garantieren Ihnen“, schreiben Rieck und sein Chatbot, „dass ab jetzt fast alle Texte so entstehen werden“ (18). Wird sich Lesen dann noch lohnen? Rieck weist selbst darauf hin, dass der zunehmende Anteil KI-generierter Internetinhalte „nichts-sagendes Pseudo-Wissen erzeugt“ (177) und das Wissen der Menschheit „verwässert“ (ebd.). Dies hält ihn jedoch nicht davon ab, seine Anwendernotizen zu einem Buch auszuweiten, indem er Brocken des leeren Geredes, das ChatGPT auf Knopfdruck produziert, in den Text einbindet, ohne dies kenntlich zu machen. Ein Beispiel: „Durch das Schreiben mit einer Tastatur kann man schnell unter Beschwerden wie Verspannungen und Schmerzen im Handgelenk und Finger [sic!] leiden. Durch die Verwendung von Tools wie ChatGPT können Sie jedoch Ihre Schreibarbeit reduzieren und damit Ihre körperliche Gesundheit schützen“ (18), so die Eigenwerbung des Chatbots, nun in Buchform erhältlich.

Wenn Rieck über „die ethischen Aspekte“ (17) der neuen Technik schreibt, so sollen sich andere darum kümmern. Er teilt seinen Lesern mit, die Ethik lieber „Ihrem Chef, Ihrem Lehrer oder Ihrer Lehrerin oder Ihrer Professorin [zu überlassen], die Sie zwangsexmatrikuliert, wenn Sie sich beim Schummeln erwischen lassen“ (17). Damit ist das Problem für ihn aus der Welt. Ungeachtet seiner eigenen komfortablen Position in unserem Bildungssystem, macht er fröhlich mit bei der Lehrerschelte und sägt am generellen Sinn von Lernaufgaben. Das hauptsächliche Streben und Trachten von Lehrenden liegt in seiner Wahrnehmung offenbar darin, Lernende des Betrugs zu überführen. Dass Ethik nicht nur in Bezug auf Ehrlichkeit und Unehrlichkeit eine Rolle spielt, sondern auch in Hinblick auf didaktische Verantwortung und Verantwortungslosigkeit, dies ist für Rieck ein naturgemäß ferner Gedanke.

Lehrende wie Rieck, die ihren zeitgemäßen Auftrag darin sehen, Lernende zur Benutzung von KI-Systemen zu ermuntern, ignorieren den Entwicklungsstand ihrer Schutzbefohlenen und damit ihre eigentliche Aufgabe. Wer eine generative KI zum Verfassen und Bearbeiten seiner Texte nutzen will, muss deren Output beurteilen können, und zwar sowohl inhaltlich als auch sprachlich. Von nichts anderem handelt ja die Bedienungsanleitung für ChatGPT, die Rieck mit seinem Buch geben will. Er selbst, Jahrgang 1963, hat seine schulische und universitäre Ausbildung in einer Zeit durchlaufen, in der noch nicht einmal das Internet existierte, geschweige denn digitale Schreibassistenzen. Seitdem durfte er in seinem Beruf Tag für Tag lesen und schreiben, jahrzehntelang. Dass er mit dieser Biografie die Kompetenz besitzt, mit einer stark kontrollbedürftigen Schreibassistenz wie ChatGPT zusammenzuarbeiten, wird niemand bezweifeln.

Doch bekanntlich schließt man zu leicht von sich auf andere. So ist Rieck ungeachtet seiner Lehrerfahrung blind für die Tatsache, dass die heutigen Studierenden (und erst recht die zukünftigen Studierenden) seine fachliche und sprachliche Beurteilungskompetenz nicht teilen, da sie in Schule, Studium und Freizeit immer weniger lesen und schreiben. Schon jetzt sind Studierende damit überfordert, die wahre Qualität der wohlformulierten und plausibel klingenden Ausgaben der KI zu erkennen und kritisch zu hinterfragen (vgl. Bucher/Klein 2023). Ihnen fehlen Maßstab und Erfahrungsgrundlage, sprich Textsortenkenntnis und Schreiberfahrung. Wie hilflos werden erst die Generationen sein, die schon im Schulunterricht nicht mehr selber schreiben und, statt zu lesen, Kernaussagen per KI extrahieren? Im wachsenden Kompetenzdefizit der kommenden Generationen liegt das gesellschaftliche, demokratiebedrohende Problem, das der Missbrauch generativer KI im Bildungssektor evoziert und das der mediengewandte Autor in seiner selbstgefälligen Technikaffirmation nicht erkennt.

Neben der pädagogischen Selbstvergessenheit gibt es weitere Punkte, die zur Kritik herausfordern. Einer betrifft den Eliza-Effekt, ein alarmierendes psychologisches Phänomen. Damit wird, zurückgehend auf die Erfahrungen, die Joseph Weizenbaum in den 1960er-Jahren mit seinem Psychotherapie-Chatbot Eliza machte, die menschliche Neigung bezeichnet, einer Maschine, die halbwegs passende Antworten gibt, Persönlichkeit zuzuschreiben. Wer schon einmal mit ChatGPT gechattet hat, weiß, wie leicht man diesem Irrglauben anheimfällt. ChatGPT bringt frei erfundene Fehlbehauptungen und unstrittige Fakten jeweils im gleichen Brustton der Überzeugung vor, übt sich in höflicher Konversation über persönliche Vorlieben und beantwortet Fragen meinungsstark mit Ja und Nein. Es wirkt, als äußere eine Person ihre echten, nicht immer richtigen, aber doch ehrlich gemeinten Ansichten.

Der Eliza-Effekt ist bei ChatGPT also vorprogrammiert. Und was macht Rieck? Zwar skizziert er durchaus die Funktionsweise des Chatbots, der anhand statistischer Häufigkeitsdaten Wortteile aneinanderreiht, und weist auf die vielfältigen Fehlleistungen des Systems hin. Doch gibt er gleichzeitig seiner „Ko-Autorin“ (19) den Namen KIara (KI-ara) und spricht über sie in warmen, anteilnehmenden Worten. KIaras Rechenschwäche und ihre gefährliche Eigenart, zu fabulieren, Falschinformationen zu geben und Zitate und Quellen zu fingieren, stellt Rieck wie die Defizite einer ansonsten liebenswerten und hilfsbereiten Person dar, der man ihre allzumenschlichen Schwierigkeiten mit dem logischen Denken leicht verzeiht. Mit seiner scherzhaften und dennoch bedeutungsschweren Personifikation der KI als „Ko-Autorin KIara“ (ebd.) leistet Rieck dem Eliza-Effekt also Vorschub, anstatt vor ihm zu warnen.

Er geht sogar so weit, den ChatBot über Gefühle schwatzen zu lassen, und dies als Eintrag „aus KIaras Tagebuch“ (110) oder als tiefsinnige Betrachtung KIaras „in einem Moment, in dem sie sich unbeobachtet fühlte“ (189), zu etikettieren. Dies ist auf den ersten Blick witzig und charmant. Auf den zweiten Blick wird deutlich, dass der Autor selbst zum Opfer seiner Unbedachtheit wird: Er erkennt den Unterschied zwischen Mensch und Maschine selbst nicht mehr. So will er „generativ“ mit „kognitiv“ gleichsetzen (vgl. 176), schwärmt von der hohen Intelligenzleistung und dem Wissen der Menschheit, das das System beinhalte (vgl. 177), und versteigt sich zu der Behauptung, auch menschliche Intelligenz gründe sich auf „Zufall einerseits und auf Trainingsdaten andererseits“ (175). Dabei übersieht er, dass menschliches Wissen in Form eines explizierbaren Sets von Überzeugungen und Ansichten vorliegt und nicht implizit in einer Blackbox mit statistischen Daten zur Satzvervollständigung. Auch wenn das Ergebnis, die Äußerung eines Menschen oder der Output der Maschine, ähnlich, ja gleichlautend sein können, und auch wenn das Neuronale Netz dem menschlichen Gehirn nachempfunden ist, ist der darin ablaufende Vorgang – nachdenken, abwägen, verwerfen, überprüfen, bewerten usw. versus generieren – doch ein gänzlich anderer. Die KI weiß nichts und denkt nichts. Sie reagiert auf Zeicheneingaben mit Zeichenausgaben auf Basis statistischer Daten. Diesen fundamentalen Unterschied verwischt die Stilisierung des stumpfen Automaten zur liebenswert-logikschwachen Ko-Autorin.

Die konkreten Praxistipps zur Verwendung generativer KI, die Rieck zusammenstellt, sind zwar nicht systematisiert, aber stellenweise aufschlussreich, insbesondere seine Hinweise zum kooperativen Überarbeiten und Aufwerten des eigenen Textes. Gleiches gilt für seine Überlegungen zur Übertragung von Schreibaufgaben an die KI, sofern diese stark standardisiert oder rein formal vorgeschrieben sind und Texte hervorbringen, die ohnehin nicht gelesen werden. Sein unverblümtes Beispiel aus dem Lehrbetrieb ist die KI-generierte schriftliche Begründung von Noten, die deren Anfechtung vorbeuge, wie floskelhaft sie auch sein möge (58). Ist diese Beobachtung eines Lehrenden zynisch und pflichtvergessen oder einfach nur offen und ehrlich? Man schwankt.

Die launige, provokante, mutwillige Herangehensweise des telegenen Professors an die Fundamente unserer Bildung und Ausbildung macht seine Beiträge bei Studierenden und Öffentlichkeit populär. Als Leser seines Buches ist man hin- und hergerissen: Viele Einfälle sind durchaus witzig und einige Chatprotokolle und Bedienungshinweise erhellend und gut zugespitzt. Doch was ist z. B. mit der Idee, die vielen kurzen Kapitel des Buches mit Mottos und Zitaten zu schmücken, die Personen der Zeitgeschichte zugeordnet und dennoch (von der KI) frei erfunden sind – ist diese Idee frech und frisch oder doch eher anmaßend und respektlos?

Dazu spricht der Autor im Verlauf des Buches Klartext: Da Zitate ohnehin nur der Abwechslung und der Zurschaustellung „der eigenen Gelehrsamkeit“ (141) dienten, gehe es „um die Wirkung des Zitats auf den Leser und weniger um die Echtheit der Quelle“. Sie dreist einer „gewichtigen Persönlichkeit“ (ebd.) in den Mund zu legen, wirke „tiefschürfender“ (ebd.). In der Folge gibt Rieck eine Anleitung, wie man mittels ChatGPT Zitate und Quellen erfindet. Das Lächeln über die holprigen Bonmots und hölzernen Weisheitszitate, unter denen Namen wie Mahatma Gandhi, Plato oder Karl Marx prangen, fällt einem spätestens bei dieser Blender-Selbstoffenbarung aus dem Gesicht.

In akademischen Texten sieht der Hochschulprofessor trotz seiner wirtschaftswissenschaftlichen Ausbildung die Bezugnahme auf Quellen als reine Lehrerschikane und spricht in Anbiederung an sein Publikum von den „ach so wichtigen Zitaten“ (190), die man schnell durch eine Kombination verschiedener Such- und Formatierungstools zusammenklicken könne, um den sinnleeren Anforderungen Genüge zu tun.

Wie sieht der innovative Hochschullehrer die Zukunft von Schule, Studium und Prüfungsverfahren generell? Statt Recherchekompetenz und sprachliches Handwerkszeug zu vermitteln, sollen Bildungseinrichtungen offenbar lieber von Anfang an zur Nutzung generativer KI anleiten. Riecks Äußerungen sind gleichermaßen populistisch wie didaktikfern. Er beklagt, dass schriftliche Prüfungsleistungen einheitlich gemäß einem Kriterienkatalog bewertet würden, der u. a. Sprachbeherrschung, Argumentation, Textaufbau und Fachsprachlichkeit berücksichtige: „Die einheitlichen Anforderungen an die Schüler führen dazu, dass Schüler gezwungen sind, sich auf bestimmte Themen und Formulierungen zu konzentrieren, anstatt ihre eigene Kreativität und Perspektive einzubringen“ (167 f). Dass Standardformen erst einmal kennengelernt und eingeübt werden müssen, bevor sie individuell angepasst oder durchbrochen werden können, übersieht der Hochschullehrer geflissentlich. Rieck möchte Lernende stattdessen „zu Individualität ermuntern und Aufgaben stellen, die alle Hilfsmittel zulassen, die es gibt. Denn deren Anwendung sollte man schon in der Schule lernen. [...] Dann könnte die Schule oder die Uni sogar auf einmal Spaß machen“ (169). – Man hört förmlich den Beifall all derer, die schon immer mit ihrer Deutschnote haderten.

Überhaupt spricht der Wirtschaftswissenschaftler geisteswissenschaftlichen, textbasierten, diskursiven Ansätzen jeglichen Lernwert ab. „Zehn Bücher [...] zu einer Seminararbeit zusammenzufassen“ (191), gilt ihm als beispielhaft sinnlose Aufgabe. Stattdessen plädiert er dafür, Fragestellungen „zahlenorientiert und methodisch“ (ebd.) anzugehen. Leider, so muss man konstatieren, hat die Religion der exakten Zahlen und Methoden, die ganzen Fakultäten mit einem Federstrich den Daseinszweck abspricht, in dieser Publikation so gar keinen Niederschlag gefunden.

Handwerklich ist das Buch wenig durchkomponiert, ein hemdsärmeliges Sammelsurium von Einfällen zum Thema, kaum oder gar nicht zu einem Ganzen verknüpft und häufig auf Brainstorming-Niveau stehen geblieben. Manche Kapitel bleiben in ihrer Bedeutung für das Ganze rätselhaft, etwa „Täusche den Leser, bevor du ihn mit der Wahrheit konfrontierst“ (76). Unter dieser Überschrift werden (von der KI) Beispiele aus amerikanischen Büchern und Filmen aufgezählt, die zwar allesamt eine überraschende Wendung nehmen, aber keinerlei Bezug zum Schreiben mit KI aufweisen.

Das Buch macht keinen Hehl daraus, mit heißer Nadel gestrickt zu sein. Warum, fragt man sich, war die Sache denn so eilig, dass nichts recherchiert, gestrafft, genauer durchdacht und geordnet werden konnte? Wo es sich doch bei generativer KI um eine Technik handelt, die uns, wie der Autor nicht müde wird zu betonen, von jetzt an für alle Zeiten begleiten wird? Die Antwort darauf kennt wohl nur der auf allen Kanälen sendende Finanzexperte selbst.

Um auf die schwankende Haltung beim Lesen zurückzukommen: Ist dieses Buch nun unterhaltsam, frech und kurzweilig oder aber leichtfertig, ärgerlich und verantwortungslos? Am Ende der Lektüre ist klar, dass letzteres Urteil überwiegt, trotz netter kleiner Bonbons zwischendurch. Das unheilvolle Negativpotenzial für den Kompetenzaufbau der Lernenden, das die neue Technologie mit sich führt, ist einfach zu ernst, um Scherze darüber zu machen. Wobei unklar bleibt, ob es sich bei vielen der unbedachten Äußerungen überhaupt um Scherze handelt.