Ethische Herausforderungen der Sprachtechnologie im Zeitalter Künstlicher Intelligenz
-
Dirk Hovy
Zusammenfassung
Künstliche Intelligenz (KI), und insbesondere moderne Sprachtechnologien wie ChatGPT, sind in kurzer Zeit von einem akademischen Nischenthema zu einem festen Bestandteil unseres Alltags geworden. Ja, sie werden geradezu vermenschlicht. Diese Entwicklung wirft eine Reihe ethischer Fragen und Herausforderungen im Umgang mit dieser Technologie auf, die bislang in der Informatik kaum beachtet wurden: was bedeutet es, diese Technologien als menschenähnliche gesellschaftliche Teilnehmer zu betrachten? Aufbauend auf praktischen Beispielen und aktuellen Forschungsergebnissen werde ich in diesem Beitrag zentrale Problemfelder beleuchten: Bias (Drall), Dual-Use-Problematiken, Repräsentativität von Trainingsdaten, und die Grenzen des „Verstehens“ maschineller Systeme. Abschließend diskutiere ich, wie unter diesen Voraussetzungen eine faire, transparente und reflektierte Entwicklung von Sprachtechnologie und Integration in den Alltag gelingen kann – und zu welchem Grad wir dies wollen. Ziel dieses Beitrags ist es, zentrale ethische Herausforderungen der Sprachtechnologie verständlich zu machen und zur Reflexion über deren gesellschaftliche Auswirkungen einzuladen.
Abstract
Artificial intelligence (AI), and in particular modern language technologies such as ChatGPT, have quickly evolved from a niche academic topic to an integral part of our everyday lives. Indeed, they are becoming increasingly humanized. This development raises a number of ethical questions and challenges in dealing with this technology that have so far been largely ignored in computer science: what does it mean to view these technologies as human-like social participants? Building on practical examples and current research findings, I will highlight key problem areas in this article: bias, dual-use issues, representativeness of training data, and the limits of “understanding” machine systems. Finally, I will discuss how, under these conditions, the fair, transparent, and reflective development of language technology and its integration into everyday life can succeed—and to what extent we want this to happen. The aim of this article is to explain the central ethical challenges of language technology and to invite reflection on its social implications.
Anmerkung
Dieser Beitrag basiert auf dem Transkript des im Rahmen der Ringvorlesung “Digitale Religion(en) – Digitale Theologie(n)” am 28. Mai 2024 an der Universität Zürich gehaltenen Vortrags “5 ethische Herausforderungen in Sprachtechnologie, und wie wir sie adressieren können” und wurde für die Einreichung als Manuskript überarbeitet.
Danksagung
Mein Dank gilt den zahlreichen Kolleg*innen aus Linguistik, Informatik und Sozialwissenschaften für den interdisziplinären Austausch, sowie meine Studierenden und Ko-Autoren. Besonderer Dank an das Publikum der Ringvorlesung Zürich für die kritischen Nachfragen und Anregungen. Dieser Artikel ist dem Andenken an Martin Volk gewidmet, dessen Einladung zur Vortragsreihe den Anstoß zu diesem Artikel gab.
© 2025 Walter de Gruyter GmbH, Berlin/Boston
Articles in the same Issue
- Titelseiten
- Editorial
- Beiträge
- Ethische Herausforderungen der Sprachtechnologie im Zeitalter Künstlicher Intelligenz
- Prompt Dir Deine Meinung. Anforderungen an KI-Kompetenzen von Lehrkräften in der Demokratiebildung
- “Specialists without Spirit”: GenAI Professors, Epistemic Networks, and Religious Education
- Warum man sich in KI (nicht) verlieben kann: Sprache, Beziehung, Emotionalität und Fiktionalität als Herausforderungen religiöser Bildung im Umgang mit sprachgenerierender KI
- Auf dem Weg zur ‚AI literacy‘ im Religionsunterricht: Versuch einer religionsdidaktischen Konzeptualisierung
- Im Dialog mit dem digitalen Anderen – ChatGPT und religiöse Chatbots als Lerntool und -gegenstand im Religionsunterricht
- Digital Discipleship in Three Layers: A Theological Framework for AI Integration in the Church
- Rezensionen
- Bernd Schröder, Religionspädagogische Ökumenik. Weltweites polyzentrisch-plurales Christentum als Bildungsreligion (Praktische Theologie in Geschichte und Gegenwart 40). Tübingen (Mohr Siebeck) 2023, 251 S., 2. verb. u. erw. Aufl. 2025, 267 S., Euro 89, –.<fnote> Die Rezension wurde an der ersten Auflage erarbeitet. Wie der Vf. im kurzen Vorwort schreibt, beschränkte sich die Überarbeitung für die zweite Auflage auf „Korrekturen, Aktualisierungen und Ergänzungen“, die also keine inhaltlichen Veränderungen bedeuten. Darüber hinaus kam ein neues Kapitel zu Nigeria hinzu (135–147).</fnote>
- Christian Wiese, Joachim Valentin, Doron Kiesel (Hg.), Jüdisch-christlicher Dialog. Ein Kompendium. Freiburg im Breisgau: Herder, 2024, 720 Seiten, 48,00 €.
- Felicitas Held, Britta Lauenstein, Stefan van der Hoek (Hg.), Handbuch gemeindepädagogische Praxisforschung, Kohlhammer Verlag, Stuttgart 2024. 299 S. 39,00 € (print); 34,99 € (digital)
Articles in the same Issue
- Titelseiten
- Editorial
- Beiträge
- Ethische Herausforderungen der Sprachtechnologie im Zeitalter Künstlicher Intelligenz
- Prompt Dir Deine Meinung. Anforderungen an KI-Kompetenzen von Lehrkräften in der Demokratiebildung
- “Specialists without Spirit”: GenAI Professors, Epistemic Networks, and Religious Education
- Warum man sich in KI (nicht) verlieben kann: Sprache, Beziehung, Emotionalität und Fiktionalität als Herausforderungen religiöser Bildung im Umgang mit sprachgenerierender KI
- Auf dem Weg zur ‚AI literacy‘ im Religionsunterricht: Versuch einer religionsdidaktischen Konzeptualisierung
- Im Dialog mit dem digitalen Anderen – ChatGPT und religiöse Chatbots als Lerntool und -gegenstand im Religionsunterricht
- Digital Discipleship in Three Layers: A Theological Framework for AI Integration in the Church
- Rezensionen
- Bernd Schröder, Religionspädagogische Ökumenik. Weltweites polyzentrisch-plurales Christentum als Bildungsreligion (Praktische Theologie in Geschichte und Gegenwart 40). Tübingen (Mohr Siebeck) 2023, 251 S., 2. verb. u. erw. Aufl. 2025, 267 S., Euro 89, –.<fnote> Die Rezension wurde an der ersten Auflage erarbeitet. Wie der Vf. im kurzen Vorwort schreibt, beschränkte sich die Überarbeitung für die zweite Auflage auf „Korrekturen, Aktualisierungen und Ergänzungen“, die also keine inhaltlichen Veränderungen bedeuten. Darüber hinaus kam ein neues Kapitel zu Nigeria hinzu (135–147).</fnote>
- Christian Wiese, Joachim Valentin, Doron Kiesel (Hg.), Jüdisch-christlicher Dialog. Ein Kompendium. Freiburg im Breisgau: Herder, 2024, 720 Seiten, 48,00 €.
- Felicitas Held, Britta Lauenstein, Stefan van der Hoek (Hg.), Handbuch gemeindepädagogische Praxisforschung, Kohlhammer Verlag, Stuttgart 2024. 299 S. 39,00 € (print); 34,99 € (digital)
