Menschen, Maschinen und Macht

3.1 Daten

Im Zentrum dieses Themenfelds stehen die Erhebung, Verarbeitung und Nutzung von Daten. Thematisiert werden unterschiedliche Datentypen, Fragen der Datenqualität und Datensouveränität sowie Risiken bei der Datenspeicherung oder Reidentifizierung. Diskutiert werden die ethischen, rechtlichen, ökonomischen und politischen Implikationen datenbasierter Systeme. Ein besonderer Fokus liegt auf personenbezogenen Daten sowie dem Schutz von Privatheit und informationeller Selbstbestimmung.

3.2 Algorithmen

Algorithmen verarbeiten Daten automatisiert und treffen auf dieser Grundlage Entscheidungen – etwa im Kreditwesen, bei der Personalwahl oder in der Strafverfolgung. Dabei greifen sie auf große, teils unstrukturierte Datenmengen zurück, deren Qualität, Vollständigkeit und Herkunft entscheidend, aber häufig undurchsichtig ist. Verzerrungen können sowohl aus unausgewogenen Trainingsdaten als auch aus problematischen Zielvariablen entstehen und frühere gesellschaftliche Ungleichheiten fortschreiben. Technische, soziale und sozio-technische Bias zu erkennen und zu minimieren, ist eine zentrale Herausforderung, um Diskriminierung bei der Entwicklung und Anwendung von Algorithmen zu vermeiden. Zusätzlich gewinnen Erklärbarkeit, Nachvollziehbarkeit und Transparenz an Bedeutung – nicht nur zur Kontrolle automatisierter Systeme, sondern auch zur Wahrung von Rechenschaftspflichten und den Grundrechten der Betroffenen.

3.3 Künstliche Intelligenz

Künstliche Intelligenz erweitert die algorithmischen Verfahren um selbstlernende und autonome Entscheidungsprozesse. Technologisch sind hier insbesondere Ungewissheit, Intransparenz (Black-Box-Problematik) und die Abwägung zwischen menschlicher Kontrolle und Autonomie (Human in/on/out of the Loop) zu nennen. Sicherheitsrisiken, Missbrauchspotenziale und die ökologischen Folgen des Ressourcenverbrauchs stellen weitere Herausforderungen dar. Gleichzeitig führt die wachsende Komplexität zu diffusen Verantwortungsstrukturen, was die Zuordnung von Verantwortung und Rechenschaft erschwert.

3.4 Gesellschaftliche Auswirkungen digitaler Transformationsprozesse

Gesellschaftliche Auswirkungen zeigen sich insbesondere im Strukturwandel der Öffentlichkeit, der eine grundlegende Veränderung der Kommunikations- und Informationsräume beschreibt, in denen sich Meinungsbildung und gesellschaftlicher Diskurs vollziehen. Dieser Wandel geht mit veränderten Kommunikations- und Rezeptionsweisen einher, die durch personalisierte Inhalte, Microtargeting und algorithmische Steuerung geprägt sind und die Verbreitung von Desinformation begünstigen können.

KI-gestützte Systeme verstärken diese Prozesse, indem sie neue Formen der Überwachung etablieren und autoritären sowie technokratischen Machtkonstellationen Vorschub leisten (z. B. Überwachungskapitalismus; Sozialkreditsystem in China). Diese Entwicklungen führen zu globalen Machtverschiebungen und stellen bestehende demokratische Ordnungen vor erhebliche Herausforderungen.

Die zunehmende Automatisierung von Arbeits- und Entscheidungsprozessen durch KI-Systeme führt auch zu Kompetenzverschiebungen. Dabei besteht das Risiko eines schleichenden Kompetenzverlusts (Deskilling), da menschliche Akteurinnen und Akteure zunehmend zentrale Aufgaben an automatisierte Systeme delegieren. Dies kann bestehende soziale Ungleichheiten verstärken, insbesondere wenn Zugänge zu Bildung, Technologie oder Qualifizierung ungleich verteilt sind (Digital Divide). Darüber hinaus wirken KI-gestützte Systeme nicht nur auf kognitive Prozesse, sondern beeinflussen Emotionen: Sie steuern Verhalten, verändern soziale Interaktionen und fördern so die Entstehung emotionaler Abhängigkeiten. Die Frage nach Vertrauen in Algorithmen und KI ist zentral.

Insgesamt zeigen diese Felder, wie eng technologische Entwicklungen, gesellschaftliche Dynamiken und ethische Fragestellungen miteinander verwoben sind. Da es nicht möglich ist, alle Fragen umfassend im Kurs zu bearbeiten, setzen die Teilnehmenden im Kurs selbstbestimmt Schwerpunkte und bringen aktuelle Themen ein, häufig solche, die sie persönlich beschäftigen. So wurde im letzten Kurs der Frage nachgegangen, warum eine Studentin einen schlechten Schufa-Score hat, obwohl sie ihre Rechnungen bezahlt, keine Schulden und noch nie einen Kredit aufgenommen hat.

4.1 Bereichsethiken

An die Angewandte Ethik stellen sich im Argumentationsmodus der Ethik zentrale Anforderungen: Sie muss nicht nur ihren Gegenstand klar benennen, sondern auch das Verhältnis zwischen verschiedenen Bereichsethiken klären – inklusive ihrer thematischen Überschneidungen und Abgrenzungen. Darüber hinaus soll sie zur Weiterentwicklung normativer Ethik beitragen.^[5]

Vor dem Hintergrund funktionaler Differenzierung der Gesellschaft spezifizieren sich seit den 1960er-Jahren Bereichsethiken aus, was laut Ropohl zu einem „Sektoralismus“ führt, der „die Einheit der Praktischen Philosophie zerstört“ und der „Komplexität menschlicher Praxis“ nicht mehr gerecht wird.^[6] Nach Bendel sind Datenethik oder Algorithmenethik auch keine konsolidierten Bereichsethiken, sondern eher ein thematisches Arbeitsfeld innerhalb der Informationsethik.^[7] Auch Floridi und Taddeo weisen auf dieses Desiderat hin, indem sie feststellen, dass ein möglicher Übergang von Informationsethik zu Datenethik „probably more semantic than conceptual“ sei.^[8]

Ropohl plädiert für eine Rückführung der fragmentierten Bereichsethiken in eine transdisziplinär ausgerichtete Praktische Philosophie nach dem Paradigma einer „Synthetischen Philosophie“. Dies würde bedeuten, dass Angewandte Ethik die verschiedenen Perspektiven der Bereiche systematisch zusammenführt, um Orientierung in komplexen Zusammenhängen zu ermöglichen.^[9] Ein Konzept gibt es dafür bisher nicht.

Für die Lehre besteht die Herausforderung daher darin, die Vielzahl spezialisierter Bereichsethiken mit ihren unterschiedlichen Zugängen aufeinander abzustimmen. Da diese Perspektiven kaum systematisch in der Lehre erfasst werden können, ist der Rückbezug auf Normative Ethiken essenziell, um Orientierung zu ermöglichen und ethische Urteilsfähigkeit anhand normativer Prinzipien und Verfahren zu stärken.

4.2 Berufsethiken

Zur Angewandten Ethik zählen auch Berufsethiken, die sich mit den zentralen Werten von Berufsgruppen und Tätigkeitsfeldern befassen. Sie transferieren die Theorie des guten Lebens auf berufliche Tätigkeiten und streben die individuelle Selbstbindung an Werte an. Ziel ist es, identitätsstiftend in ein Berufs- bzw. Themenfeld hineinzuwirken und Orientierung für ethische Entscheidungen zu geben.^[10]Im Berufsfeld Bibliothek und Information kommen berufsethische Standards in Ethikkodizes wie etwa dem IFLA-„Code of Ethics for Librarians and other Information Workers“^[11], den „Core Values of Librarianship“^[12] der American Library Association (ALA) oder den „Ethische[n] Grundsätzen von Bibliothek & Information Deutschland (BID)“^[13] zum Ausdruck. Adressiert werden hier vor allem ethische Implikationen im Umgang mit (personenbezogenen) Daten. Eine explizite Werthaltung zum Umgang mit algorithmischen Systemen und KI zeichnet sich darin bisher nicht ab.^[14]

Leitlinien zu ethischen Anforderungen an Daten, Algorithmen und Künstliche Intelligenz werden regelmäßig von wissenschaftlichen und politischen Akteurinnen und Akteuren sowie von Verbänden veröffentlicht. Dazu zählen unter anderem der Deutsche Ethikrat, die Europäische Kommission (EU),^[15] Verbände und Fachgesellschaften, wie die Gesellschaft für Informatik (GI).^[16] Diese Dokumente konkretisieren ethische Prinzipien und sollen dazu beitragen, digitale Technologien verantwortungsbewusst zu gestalten.

In ethischen Leitlinien ist der Bezug zu den Menschenrechten elementar. Zu den zentralen Werten im Hinblick auf Daten, Algorithmen und KI gehören in westlichen Traditionen der Schutz der Menschenwürde, Freiheit, der Gleichbehandlungsgrundsatz, die Sicherstellung von Transparenz und Nachvollziehbarkeit sowie der Schutz von Privatheit und informationeller Selbstbestimmung. Auch Wahrheit ist eine moralische Kategorie, die vor allem in ihren Gegenwerten Manipulation und Desinformation bestimmt wird. Hinzu kommt die klare Zuweisung von Verantwortung und von Rechenschaftspflichten, die Gewährleistung von Sicherheit und Robustheit technischer Systeme und schließlich die generelle Ausrichtung auf Gemeinwohl in der Dualität zu kommerziellen Interessen.

Ein grundlegendes Problem dieser Ansätze besteht darin, dass diese Werte zwar auf normativer Ebene benannt werden und darin eine gewisse Orientierung schaffen, bislang jedoch weitgehend ungeklärt ist, wie sich etwa Fairness oder Autonomie technisch so operationalisieren lassen, dass sie in der konkreten Gestaltung und Anwendung realisiert werden. Um ein konkretes Beispiel zu nennen: Zwar gibt es mannigfaltig theoretische Konzepte, wie ein menschenzentriertes Design von KI-Anwendungen fundiert sein sollte, praktische Anwendungen, wie die zugrundeliegenden Werte von Freiheit, Gleichheit und Gemeinwohl konkret umgesetzt werden, gibt es hingegen kaum.

Vor diesem Hintergrund der Unschärfen Angewandter Ethik orientiert sich die Ethiklehre an der Normativen Ethik: Im Mittelpunkt steht die Auseinandersetzung mit ethischen Prinzipien und deren systematischer Anwendung auf konkrete Entscheidungssituationen. Ethische Standards und Leitlinien werden dabei stets miteinbezogen, aber auch kritisch hinterfragt.

5.1 Das Gute – Handlungsfolgen

Teleologische Ethiken bewerten Handlungen anhand ihrer Folgen, wobei das Gute als oberste Maxime gilt. In der Teleologie zeigt sich das Gute am Zweck. Eine Variante der Teleologie ist der Utilitarismus, der das Gute im Nutzen verortet.^[18] Zu den Hauptvertretern der Teleologie zählen Aristoteles, der das Handeln am Ziel des „guten Lebens“ ausrichtete, sowie Jeremy Bentham und John Stuart Mill, die als Begründer des Utilitarismus das größtmögliche Glück für die größtmögliche Zahl als oberstes Prinzip formulierten. Da die Teleologie die moralische Bewertung an den Folgen einer Handlung festmacht, werden diese Ethiken als konsequentialistisch bezeichnet.^[19]

Warum ist das für die Ethiklehre relevant? Gerade in der Technikfolgenabschätzung und in ethischen Debatten rund um Daten, Algorithmen und KI ist dieser konsequentialistische Ansatz zentral. Neue technologische Entwicklungen werden vor allem danach beurteilt, wie sie zum Guten beitragen und welchen Schaden sie verursachen können (Stichwort Technikfolgenabschätzung). Autonomes Fahren, KI-gestützte Diagnoseverfahren in der Medizin oder algorithmisch gesteuerte soziale Medien werden auch danach bewertet, inwiefern sie einen Zweck erfüllen und einen Nutzen stiften – etwa durch erhöhte Sicherheit, bessere medizinische Diagnoseverfahren oder verbesserten Informationszugang. Ebenso relevant ist aber auch, die Risiken und gesellschaftliche Auswirkungen abzuschätzen, die damit verbunden sind.

5.2 Das Richtige – Moralische Werte

Deontologische Ethiken orientieren sich an moralischen Werten, unabhängig von den Folgen. Ihre Maxime ist das Erforderliche bzw. das Richtige. Im Gegensatz zur Teleologie steht die Motivation des Handelnden im Fokus. Die Deontologie ist ein „Sammelbecken höchst disparater Theorien“,^[20] deren gemeinsame Grundlage jedoch in universell anerkannten moralischen Werten liegt, wie sie beispielsweise in den Menschenrechten zum Ausdruck kommt. Hauptvertreter der Deontologie ist die Moraltheorie Immanuel Kants, der die Würde des Menschen und den Kategorischen Imperativ ins Zentrum stellte. Daneben zählen auch John Rawls mit seiner Theorie der Gerechtigkeit, die Diskursethik von Karl-Otto Apel und Jürgen Habermas sowie der Capability Approach von Amartya Sen und Martha C. Nussbaum zur Deontologie.^[21]

Warum ist das für die Ethik-Lehre relevant? Studierende sollen Grundrechte wie Freiheit, Gleichheit oder Meinungs- und Informationsfreiheit so verinnerlichen, dass diese Werte eine sichere Orientierung bieten, wenn sie ethische Begründungen erarbeiten.

Abb. 1:

Maximen Normativer Ethik (Quelle: Frauke Schade)

Abb. 2:

Reflexionsrahmen Normativer Ethik (Quelle: Frauke Schade)

Logisch ist, dass sich aus den verschiedenen Maximen unterschiedliche Handlungsoptionen ableiten lassen. Genau dieser ethische Dissens spannt dann den Reflexionsrahmen auf, um zu logisch begründbaren Einzelfallentscheidungen zu kommen (s. Abbildung 2).

5.3 Verantwortung

Etymologisch bedeutet Verantwortung, dass es immer jemanden und/oder etwas geben muss, der oder das antwortet.^[22] Gerade bei der Auseinandersetzung mit ethischen Fragen digitaler Transformation ist das relevant.

Die Verantwortungsethik gehört ebenfalls in die Normative Ethik, wird jedoch als Ethik 2. Linie bezeichnet, weil sie auf den Prinzipien von Deontologie und Teleologie beruht und als struktur- und kontextualistisches Reflexionsprinzip besonders gut geeignet ist, komplexe Handlungszusammenhänge und deren Folgen in den Blick zu nehmen.^[23]

Verantwortung ist zunächst ein personales Konzept. Die Übernahme von Verantwortung ist voraussetzungsreich: Erstens muss die verantwortliche Person über die notwendige Handlungsfreiheit verfügen. Das heißt, sie muss befähigt sein, selbstbestimmte Entscheidungen innerhalb der gegebenen Rahmenbedingungen zu treffen und dabei in der Lage sein, begründete Abwägungen zwischen Handlungsalternativen vorzunehmen. Zweitens ist die Möglichkeit der Kontrolle und die Einflussnahme auf Handlungen und Handlungsfolgen relevant (guidance control). Drittens bedarf es einer Handlungsabsicht, die auch das Abwägen von beabsichtigten sowie unbeabsichtigten Folgen umfasst. Viertens ist neben Handlungs- auch Kontextwissen notwendig, um den Gesamtzusammenhang einschätzen zu können. Schließlich ist Normenbewusstsein unverzichtbar, das heißt Kenntnisse über geltende Gesetze, ethische Prinzipien und soziale Normen. Nur bei Erfüllung dieser Voraussetzungen kann Verantwortung im ethischen Sinne wirksam übernommen und getragen werden.^[24] Im Verantwortungsdiskurs ist dabei äußerst strittig, ob Verantwortung in höherstufigen Handlungsprozessen, z. B. in Institutionen oder soziotechnischen Systemen, überhaupt zugeschrieben werden kann.^[25] Die sogenannte Multiakteursverantwortung reflektiert dazu einen Verantwortungstyp, bei dem Verantwortung arbeitsteilig zwischen verschiedenen Akteuren und Akteurinnen verteilt und bestenfalls durch Rechenschaftsstrukturen dokumentiert wird, in denen spezifische Rollen und Handlungsspielräume definiert werden.^[26]

Bleiben Verantwortungsbereiche jedoch unklar, entstehen Verantwortungslücken; wird Verantwortung abgewehrt entsteht Verantwortungsdiffusion. Während Verantwortungslücken strukturelle Unklarheiten bei der Zuschreibung moralischer und/oder rechtlicher Verantwortung bezeichnen, beschreibt Verantwortungsdiffusion das Phänomen sinkender individueller Verantwortungsbereitschaft innerhalb von kollektiven Prozessen.^[27]

Der Deutsche Ethikrat verweist darauf, dass solche Unschärfen der Verantwortungszuschreibung insbesondere in soziotechnischen Systemen auftreten, in denen Mensch und Technologie eng verzahnt sind. Um dem vorzubeugen, fordert der Rat definierte Verantwortungsstrukturen, die sowohl individuelle als auch institutionelle Zuständigkeiten abbilden. Zugleich wird betont, dass Verantwortung grundsätzlich beim Menschen verbleibt, da KI-Systemen zentrale Voraussetzungen wie Autonomie, Intentionalität und normatives Urteilsvermögen fehlen.^[28]

Dieses menschenzentrierte Verständnis von Verantwortung wird durch die zunehmende Autonomie und Komplexität von KI-Systemen herausgefordert. Namenhafte Wissenschaftler und Wissenschaftlerinnen warnen in dem viel beachteten Science-Paper „Managing extreme AI risks amid rapid progress“, dass KI zeitnah in der Lage sein könnte, eigenständig Verantwortungsentscheidungen mit weitreichenden Folgen zu treffen:

Abb. 3:

Reflexionsaufgabe Mensch Maschine und Verantwortung

Without sufficient caution, we may irreversibly lose control of autonomous AI systems, rendering human intervention ineffective. Large-scale cybercrime, social manipulation, and other harms could escalate rapidly. This unchecked AI advancement could culminate in a large-scale loss of life and the biosphere, and the marginalization or extinction of humanity.^[29]

Bengio et al. plädieren daher für eine Erweiterung klassischer Verantwortungskonzepte durch technische, institutionelle und regulatorische Mechanismen, etwa verpflichtende Sicherheitsnachweise, externe Audits oder adaptive Governance-Strukturen.^[30]

Vor diesem Hintergrund bietet die Analyse der ikonischen Szene aus dem Science-Fiction-Klassiker „2001 – Odyssee im Weltraum“ Studierenden einen Zugang, um zentrale Voraussetzungen von Verantwortung im Kontext von Mensch-Maschine-Interaktionen zu reflektieren. In der Dystopie thematisiert Stanley Kubrick bereits 1968 das Verhältnis von Mensch und Maschine und lotet Grenzen von Verantwortung aus. In der Szene verweigert der Bordcomputer HAL dem Astronauten Dave den Wiedereintritt zum Raumschiff mit den Worten: „I’m sorry, Dave. I’m afraid I can’t do that.“ – ein Schlüsselmoment, der aufzeigt, was passiert, wenn KI beginnt, autonom und emotional zu handeln und der Mensch die Kontrolle verliert (s. Abbildung 3).

Zur Auseinandersetzung mit Quellen steht den Studierenden der ChatBot „Mia Mindful“ zur Verfügung. Der grundlegende Prompt wurde von der Bildungswissenschaftlerin Katharina Opper konzipiert und von der Autorin für die Ethiklehre adaptiert und weiterentwickelt. Zudem sind dem Chatbot Texte der Lehrveranstaltung sowie weitere Fachliteratur hinterlegt. Der ChatBot ist an der Methode des Sokratischen Gesprächs orientiert, die durch gezieltes Fragen und Hinterfragen zu eigenständigem Nachdenken und tieferem Textverständnis anregt.^[31] Der ChatBot wird vor dem Hintergrund eingesetzt, dass es für Studierende schwieriger wird, sich konzentriert mit Texten auseinanderzusetzen. Er ist eine Reaktion auf das zunehmende Risiko eines Kompetenzverlustes (Deskilling) durch generative Sprachmodelle und auf kürzere Aufmerksamkeitsspannen in einem überladenen Informationsumfeld.

Da KI aktuell omnipräsent in den Medien ist, werden zudem Dokumentationen, Reportagen, Diskussionsrunden sowie Podcasts in die Lehre miteinbezogen. Dazu gehören einschlägige Beiträge aus Formaten wie „Sternstunde Philosophie“^[32] des Schweizer Fernsehens (SRF), „Essay und Diskurs“^[33] von Deutschlandfunk (DLF) oder „Aus Politik und Zeitgeschichte“^[34] der Bundeszentrale für politische Bildung (bpb). Die Arte-Dokumentation „Algorithmen – Die unberechenbare Gefahr“^[35] war ein roter Faden in diesem Jahr, an dem sich immer wieder hitzige Debatten entzünden ließen, z. B. was unter ausgewogenen Trainingsdaten zu verstehen ist.

6.1 Verantwortungsanalysen

Verantwortung ist ein Relationsbegriff, der zunächst inhaltsleer ist. Verantwortung wird erst durch seine Relationen konkret zugeschrieben. Diese können anhand von sechs Fragen erörtert werden:^[40]

• WER? Fragt nach den Verantwortungsträger:innen: Individuen, Kollektive, Kooperationen, Systeme usw.

• WOFÜR? Fragt nach dem Verantwortungsobjekt: Gegenstände, Handlungen, Ereignisse usw.

• WEM GEGENÜBER? Fragt nach den Verantwortungsadressat:innen: Lebenwesen, Personen, Gruppen usw.

• WARUM? Fragt nach den Kriterien zur Bewertung von Verantwortung: Maximen, Normen, Werte, Gesetze, Regeln usw.

• WOVOR? Fragt nach der Verantwortungsinstanz: Sich selbst gegenüber, Gericht, Öffentlichkeit, Ethikkommission usw.

• WANN? Fragt nach dem Zeitpunkt: Ex-Post-Verantwortung, Ex-Ante-Verantwortung

Durch die Bestimmung der Relationen können Verantwortungsanalysen durchgeführt werden, die dabei unterstützen, komplexe Handlungs- und Entscheidungssituationen zu reflektieren. Eine typische Fallanalyse wird am Beispiel des KI-Frühwarnsystems TREWS durchgeführt (s. Abbildung 4).

Die Studierenden übernehmen in der Fallanalyse verschiedene Rollen und diskutieren aus diesen Perspektiven. Dabei wird schnell deutlich, wie die Verantwortung von einer Seite zur anderen geschoben wird. So kann unmittelbar erlebt werden, wie Verantwortungsdiffusion entsteht und wie schwierig es ist, in solchen Situationen klare Zuständigkeiten festzulegen.

Abb. 4:

Fallanalyse KI-Frühwarnsystem TREWS

Verantwortungsanalysen können auf drei Ebenen ansetzen: der individuellen, der institutionellen und der Ebene der Rahmenordnung, die in der Regel eng miteinander verwoben sind. So lässt sich systematisch klären, wer in welchem Bereich und auf welcher Ebene Verantwortung trägt – und wo möglicherweise Lücken oder Unklarheiten bestehen. Auf individueller Ebene geht es darum, was einzelne Akteure und Akteurinnen wissen, entscheiden und verantworten können. Auf institutioneller Ebene tragen Organisationen, Unternehmen oder Behörden Verantwortung – etwa durch klare Zuständigkeiten und Abläufe. Auf der Ebene der Rahmenordnung steht die Frage im Mittelpunkt, ob die gesetzlichen, technischen und gesellschaftlichen Rahmenbedingungen verantwortliches Handeln überhaupt ermöglichen.

6.2 Prioritätenregeln

Die Prioritätenregeln beruhen auf den Arbeiten von Patricia Werhane, Hans Lenk und Ludger Heidbrink.^[41] Sie wurden von der Autorin dieses Beitrages überarbeitet und u. a. auf den sechsstelligen Relationsbegriff angepasst, der sich in der Lehre als sinnvoll erwiesen hat. Die Regeln sind ein gutes Instrument, ethische Entscheidungen kontextsensitiv zu bearbeiten und konkrete Lösungen zu entwickeln:

1. Kategorisch moralische Werte (Menschenrechte) vor anderen Werten.

2. Kategorische Verantwortung (basierend auf Menschenrechten) hat Vorrang vor Aufgaben- und Rollenverantwortung.

3. Bei kollidierenden Werten Suche nach Kompromissen zwischen gleichwertigen Werten oder gleicher Berücksichtigung betroffener Personen.

4. Abwägung des geringsten Schadens für Betroffene.

5. Fairness der Lastenverteilung bei Kompromisslösungen.

6. Zeitlich direkte moralische Verantwortung hat in der Regel Vorrang vor indirekter Fernverantwortung (bei gleichen Lasten).

7. Öffentliches Wohl geht individuellen, nicht moralischen Interessen voran.

An den Prioritätenregeln lässt sich deutlich darstellen, dass es sich bei Verantwortung um eine Ethik 2. Linie handelt. Während die ersten drei Regeln wertbasierte Entscheidungen zum Ausdruck bringen (Deontologie), sind die Regeln vier bis sieben auf den Kontext und auf die Handlungsfolgen ausgerichtet (Teleologie).

Auch, die Prioritätenregeln werden in Fallanalysen eingesetzt und ihre Anwendung eingeübt (s. Abbildung 5). In der Fallstudie zu FastHire AI setzen sich die Studierenden mit den Chancen und Risiken eines KI-gestützten Bewerbungssystems auseinander. Sie lernen, Vorteile wie Effizienz und Objektivierung abzuwägen gegen mögliche ethische Probleme, etwa Diskriminierung, Intransparenz oder Eingriffe in die Privatsphäre. Mit den Prioritätenregeln prüfen die Studierenden, ob durch das System Grundrechte gefährdet werden, wie Schaden minimiert und Fairness gewährleistet werden kann. So erarbeiten sie eine Entscheidung und machen eine wichtige Lernerfahrung: Ethische Entscheidungen sind häufig ein Kompromiss – hier zwischen ökonomischer und ethischer Rationalität.