Home Mensch-Algorithmus-Hybride als (Quasi-)Organisationen? Zu Verantwortung und Verantwortlichkeit von digitalen Kollektivakteuren
Article
Licensed
Unlicensed Requires Authentication

Mensch-Algorithmus-Hybride als (Quasi-)Organisationen? Zu Verantwortung und Verantwortlichkeit von digitalen Kollektivakteuren

  • Anna Beckers and Gunther Teubner EMAIL logo
Published/Copyright: December 9, 2022
Become an author with De Gruyter Brill
Author Information Explore this Subject
Soziale Systeme
From the journal Soziale Systeme Volume 26 Issue 1-2

Zusammenfassung

Modelle individueller Verantwortlichkeit für die Handlungen von Algorithmen versagen dann, wenn eine Mensch-Algorithmus-Assoziation selbst als Handlungseinheit in den Blick gerät. In manchen Situationen sind menschliche und algorithmische Handlungen derart eng miteinander verwoben, dass keine lineare Verbindung zwischen den emergenten Kollektiven und den komplexen Interaktionen der individuellen Handlungseinheiten mehr besteht. In solchen kollektiven Entscheidungssequenzen lässt sich auch keine individuelle Verantwortlichkeit mehr zurechnen. Deshalb bedarf es einer neuen Perspektive auf Mensch-Algorithmus-Assoziationen, die ihre emergenten Eigenschaften und ihren organisationalen Charakter erfasst, um angemessene Modelle kollektiver Verantwortlichkeit zu entwickeln. Der Artikel sucht Antworten auf die folgenden Fragen: Wie kann die Begegnung zwischen Mensch und Algorithmus innerhalb einer solchen sozio-technischen Konfiguration theoretisch angemessen erfasst werden? Lässt sich die Konfiguration als hybrides Kollektiv verstehen? Können der Konfiguration selbst als personifiziertem Kollektivakteur Handlungen zugerechnet werden? Welche Verantwortlichkeitsformen dürften für Mensch-Algorithmus-Assoziationen institutionalisiert werden – zentralisierte oder distribuierte Kollektivverantwortlichkeiten?

Abstract

Models of individualized responsibility for algorithms’ actions fail once one needs to focus on the human-algorithm-association itself as the unit of action. In some situations, human action and machine action are so closely intertwined that there is no linear connection between the emergent collectives and the complex interactions of the individuals from which they arise. In joint decision-making, the individual responsibility of humans or algorithms cannot be identified. Thus, a new perspective on human-algorithm associations is needed that recognizes their emergent properties, their distinct organizational character, and that develops appropriate models for a new type of collective accountability. The article addresses the following problems: How can the human-algorithm-encounter – within this socio-technical configuration – be theorized? Can the configuration be envisaged as a hybrid collective? Can it be perceived of in terms of collective agency? Which type of collective accountability will be appropriate for human-machine associations – centralized or distributed responsibility?

Anmerkung

Für Kritik und Anregungen danken wir Elena Esposito, Veronika Tacke und einem anonymen Gutachter.

Literatur

Ahrne, Göran/Brunsson, Nils (2011): Organization outside Organizations: The Significance of Partial Organization. Organization 18, 83–104.10.1177/1350508410376256Search in Google Scholar

Alkemeyer, Thomas/Bröckling, Ulrich/Peter, Tobias (Hrsg.) (2018): Jenseits der Person: Zur Subjektivierung von Kollektiven. Bielefeld: transcript.10.1515/9783839438428-002Search in Google Scholar

Allain, Jessica S. (2013): From Jeopardy to Jaundice: The Medical Liability Implications of Dr. Watson and Other Artificial Intelligence Systems. Louisiana Law Review 73, 1049–1079.Search in Google Scholar

Apelt, Maja/Besio, Cristina et al. (2017): Resurrecting Organization without Renouncing Society: A Response to Ahrne, Brunsson and Seidl. European Management Journal 35, 8–14.10.1016/j.emj.2017.01.002Search in Google Scholar

Armour, John/Eidenmüller, Horst (2019): Self-Driving Corporations? ECGI-Law Working Paper 475/2020, 1–44 (https://ssrn.com/abstract_id=3442447).10.2139/ssrn.3442447Search in Google Scholar

Arrow, Kenneth (1950): A Difficulty in the Concept of Social Welfare. Journal of Political Economy 58, 328–346.10.1086/256963Search in Google Scholar

Asaro, Peter M. (2014): Determinism, Machine Agency, and Responsibility. Politica e Società 2, 265–292.Search in Google Scholar

Baecker, Dirk (2011): Who Qualifies for Communication? A Systems Perspective on Human and Other Possibly Intelligent Beings Taking Part in the Next Society. TATuP – Zeitschrift für Technikfolgenabschätzung in Theorie und Praxis 20, 17–26.10.14512/tatup.20.1.17Search in Google Scholar

Baecker, Dirk (2020a): Digitization as Calculus: A Prospect. Research Proposal. Witten/Herdecke: Manuskript (https://www.researchgate.net/publication/344263318_Digitization_as_Calculus_A_Prospect).Search in Google Scholar

Baecker, Dirk (2020b): Soziologie 4.0 und ihre Vorläufer: eine Skizze, in: Sabine Maasen/Jan-Hendrik Passoth (Hrsg.), Soziologie des Digitalen – Digitale Soziologie? Baden-Baden: Nomos, 19–45.10.5771/9783845295008-17Search in Google Scholar

Becker, Markus/Pordzik, Philipp (2020) Digitalisierte Unternehmensführung. Zeitschrift für die gesamte Privatrechtswissenschaft 2020, 334–357.Search in Google Scholar

Beckers, Anna/Teubner, Gunther (2022): Three Liability Regimes for Artificial Intelligence: Algorithmic Actants, Hybrids, Crowds. Oxford: Hart.10.5040/9781509949366Search in Google Scholar

Blackstone, William (1771): Commentaries on the Laws of England: In Four Books. Philadelphia: Robert Bell.10.2307/3302061Search in Google Scholar

Block, Katharina/Dickel, Sascha (2020) Jenseits der Autonomie: Die De/Problematisierung des Subjekts in Zeiten der Digitalisierung. Behemoth 13, 109–131.Search in Google Scholar

Bommes, Michael/Tacke, Veronika (2007): Netzwerke in der Gesellschaft der Gesellschaft. Funktionen und Folgen einer doppelten Begriffsverwendung. Soziale Systeme 13, 9–20.10.1515/sosys-2007-1-203Search in Google Scholar

Bora, Alfons (2013): Vanishing Points: Responsibility as a Normative Shifting Symbol and the Search for Social Addressability. Soziale Systeme 19, 456–469.10.1515/sosys-2014-0213Search in Google Scholar

Bora, Alfons (2019): Kommunikationsadressen als digitale Rechtssubjekte, Verfassungsblog, 1. Oktober 2019 (https://verfassungsblog.de/kommunikations-adressen-als-digitale-rechtssubjekte/).Search in Google Scholar

Bostrom, Nick (2017): Superintelligence: Paths, Dangers, Strategies. Oxford: Oxford University Press.Search in Google Scholar

Braun, Matthias/Hummel, Patrik et al. (2020): Primer on an Ethics of AI-Based Decision Support Systems in the Clinic. Journal of Medical Ethics 46, 1–8.10.1136/medethics-2019-105860Search in Google Scholar

Cafaggi, Fabrizio/Iamiceli, Paola (2015): Private Regulation and Industrial Organization: Contractual Governance and the Network Approach, in: Stefan Grundmann/Florian Möslein/Karl Riesenhuber (Hrsg.), Contract Governance: Dimensions in Law and Interdisciplinary Research. Oxford: Oxford University Press, 341–374.10.1093/acprof:oso/9780198723202.003.0021Search in Google Scholar

Büchner, Stefanie (2018): Zum Verhältnis von Digitalisierung und Organisation. Zeitschrift für Soziologie 47, 332–348.10.1515/zfsoz-2018-0121Search in Google Scholar

Chinen, Mark A. (2019): Law and Autonomous Machines. Cheltenham: Elgar.10.4337/9781786436597Search in Google Scholar

Coeckelbergh, Mark (2012): Moral Responsibility, Technology, and Experiences of the Tragic: From Kierkgeaard to Offshore Engineering. Science and Engineering Ethics 18, 35–48.10.1007/s11948-010-9233-3Search in Google Scholar

Cohen, Julie E. (2019): Between Truth and Power: The Legal Constructions of Informational Capitalism. Oxford: Oxford University Press.10.1093/oso/9780190246693.001.0001Search in Google Scholar

Coleman, James S. (1990): Foundations of Social Theory. Cambridge, Mass.: Harvard University Press.Search in Google Scholar

Copp, David (2007): The Collective Moral Autonomy Thesis. Journal of Social Philosophy 38, 369–388.10.1111/j.1467-9833.2007.00386.xSearch in Google Scholar

Corlett, J. Angelo (2002): Collective Moral Responsibility. Journal of Social Philosophy 32, 573–584.10.1111/0047-2786.00115Search in Google Scholar

Dahiyat, Emad (2021): Law and Software Agents: Are They „Agents” by the Way? Artificial Intelligence and Law 29, 59–86.10.1007/s10506-020-09265-1Search in Google Scholar

Daniel, Juanda L. (2004): Electronic Contracting under the 2003 Revisions to Article 2 of the Uniform Commercial Code: Clarification or Chaos? Santa Clara Computer & High Technology Law Journal 20, 319–346.Search in Google Scholar

Dennett, Daniel (1987): The Intentional Stance. Cambridge, Mass.: MIT Press.Search in Google Scholar

Diakopoulos, Nicholas (2019): Automating the News: How Algorithms are Rewriting the Media. Cambridge, Mass.: Harvard University Press.10.4159/9780674239302Search in Google Scholar

Dijk, Niels van (2020): In the Hall of Masks: Contrasting Modes of Personification, in: Mireille Hildebrandt/Kieron O’Hara (Hrsg.), Life and the Law in the Era of Data-Driven Agency. Cheltenham: Edward Elgar, 230–251.10.4337/9781788972000.00020Search in Google Scholar

Dörr, Konstantin (2017): Algorithmischer Journalismus: Eine Analyse der automatisierten Textproduktion im Journalismus auf gesellschaftlicher, organisatorischer und professioneller Ebene. University of Zurich: Diss. (https://www.zora.uzh.ch/id/eprint/137386/1/diss.pdf).Search in Google Scholar

Durkheim, Emile (2004 [1883]): Über die Teilung der sozialen Arbeit. Frankfurt a.M.: Suhrkamp.10.1524/srsr.1981.4.3.237Search in Google Scholar

Esposito, Elena (2017): Artificial Communication? The Production of Contingency by Algorithms. Zeitschrift für Soziologie 46, 249–265.10.1515/zfsoz-2017-1014Search in Google Scholar

Esposito, Elena (2022): Artificial Communication: How Algorithms Produce Social Intelligence. Cambridge, Mass.: MIT.10.7551/mitpress/14189.001.0001Search in Google Scholar

Esposito, Roberto (2022): Institution und Biopolitik. Zürich: Diaphanes.Search in Google Scholar

Europäisches Parlament (2017): Bericht mit Empfehlungen an die Kommission zu zivilrechtlichen Regelungen im Bereich der Robotik (2015/2103 (INL)). Bericht A8–0005/2017 des Europäischen Parlaments (https://www.europarl.europa.eu/doceo/document/A-8-2017-0005_DE.html?redirect).Search in Google Scholar

Ewald, William (1995): Comparative Jurisprudence (I): What Was It Like to Try a Rat. American Journal of Comparative Law 143, 1889–2149.10.2307/3312588Search in Google Scholar

Fama, Eugene/Jensen, Michael (1983): Agency Problems and Residual Claims. Journal of Law and Economics 26, 327–349.10.1086/467038Search in Google Scholar

Feenberg, Andrew (2017) Technosystem: The Social Life of Reason. Cambridge, Mass.: Harvard University Press.10.4159/9780674982109Search in Google Scholar

Floridi, Luciano/Sanders, J.W. (2011): On the Morality of Artificial Agents, in: Michael Anderson/Susan L. Anderson (Hrsg.), Machine Ethics. Cambridge: Cambridge University Press, 184–212.10.1017/CBO9780511978036.016Search in Google Scholar

Fuchs, Peter (1991): Kommunikation mit Computern? Zur Korrektur einer Fragestellung. Sociologia Internationalis 29, 1–30.Search in Google Scholar

Gellers, Joshua C. (2021): Rights for Robots: Artificial Intelligence, Animal and Environmental Law. London: Routledge.10.4324/9780429288159Search in Google Scholar

Gierke, Otto von (1902): Das Wesen der menschlichen Verbände. Leipzig: Duncker & Humblot.10.3790/978-3-428-56018-9Search in Google Scholar

Grothe-Hammer, Michael (2019): Die De-Organisation von Organisationen? Zu den Konsequenzen des Ersetzens menschlicher Entscheiderinnen und Entscheider durch Algorithmen in Organisationen, in: Nicole Burzan (Hrsg.), Komplexe Dynamiken globaler und lokaler Entwicklungen. Verhandlungen des 39. Kongresses der Deutschen Gesellschaft für Soziologie in Göttingen 2018 (https://publikationen.soziologie.de/index.php/kongressband_2018/article/view/1183).Search in Google Scholar

Gruber, Malte-Christian (2020): Why Non-Human Rights? Law & Literature 32, 263–270.10.1080/1535685X.2020.1763598Search in Google Scholar

Gurevich, Yuri (2012): What Is an Algorithm? SOFSEM 2012: Theory and Practice of Computer Science, 31–42.10.1007/978-3-642-27660-6_3Search in Google Scholar

Gutmann, Mathias (2011): Sozialität durch technische Systeme? TATuP – Journal for Technology Assessment in Theory and Practice 20, 11–16.10.14512/tatup.20.1.11Search in Google Scholar

Guzman, Andrea L./Lewis, Seth C. (2020): Artificial Intelligence and Communication: A Human-Machine Communication Research Agenda. New Media and Society 22, 70–86.10.1177/1461444819858691Search in Google Scholar

Harth, Jonathan/Lorenz, Caspar-Fridolin (2017): „Hello World“ – Systemtheoretische Überlegungen zu einer Soziologie des Algorithmus. kommunikation@gesellschaft 18, 1–21.10.15460/kommges.2017.18.2.588Search in Google Scholar

Haselager, Pim (2013): Did I Do that? Brain-Computer Interfacing and the Sense of Agency. Minds & Machines 23, 405–418.10.1007/s11023-012-9298-7Search in Google Scholar

Hauriou, Maurice (1965 [1933]): Die Theorie der Institution. Berlin: Duncker & Humblot.Search in Google Scholar

Heinrichs, Jan-Hendrik (2020): Artificial Intelligence in Extended Minds: Intrapersonal Diffusion of Responsibility and Legal Multiple Personality, in: Birgit Beck/Michael Kühler (Hrsg.), Technology, Anthropology, and Dimensions of Responsibility, Heidelberg: Springer, 159–176.10.1007/978-3-476-04896-7_12Search in Google Scholar

Hepp, Andreas (2020): Deep Mediatization: Key Ideas in Media & Cultural Studies. London: Routledge.10.4324/9781351064903Search in Google Scholar

Hildebrandt, Mireille (2015): Smart Technologies and the End(s) of Law. Cheltenham: Elgar.10.4337/9781849808774Search in Google Scholar

Hoyningen-Huene, Paul (1994): Zu Emergenz, Mikro- und Makrodetermination, in: Weyma Lübbe (Hrsg.), Kausalität und Zurechnung. Berlin: de Gruyter, 165–195.10.1515/9783110877403.165Search in Google Scholar

Ingold, Albert (2014): Grundrechtsschutz sozialer Emergenz: Eine Neukonfiguration juristischer Personalität in Art. 19 Abs. 3 GG angesichts webbasierter Kollektivitätsformen. Der Staat 53, 193–226.10.3790/staa.53.2.193Search in Google Scholar

Jasanoff, Sheila (2004): The Idiom of Co-Production, in: Sheila Jasanoff (Hrsg.), States of Knowledge: The Co-production of Science and the Social Order. London: Routledge, 1–12.10.4324/9780203413845-6Search in Google Scholar

Jensen, Michael/Meckling, William H. (1976): Theory of the Firm: Managerial Behavior, Agency Costs and Ownership Structure. Journal of Financial Economics 3, 306–360.10.2307/j.ctv22d4ztc.8Search in Google Scholar

Jentzsch, Christoph (2016) Decentralized Autonomous Organization to Automate Governance (https://lawofthelevel.lexblogplatformthree.com/wp-content/uploads/sites/187/2017/07/WhitePaper-1.pdf).Search in Google Scholar

Kersten, Jens (2015): Menschen und Maschinen: Rechtliche Konturen instrumenteller, symbiotischer und autonomer Konstellationen. Juristenzeitung 70, 1–8.10.1628/002268814X14151859100293Search in Google Scholar

Kersten, Jens (2016): Die maschinelle Person: Neue Regeln für den Maschinenpark?, in: Fabian Karsch/Arne Manzeschke (Hrsg.), Roboter, Computer und Hybride. Baden-Baden: Nomos, 89–106.10.5771/9783845272931-89Search in Google Scholar

Kette, Sven/Tacke, Veronika (2015): Systemtheorie, Organisation und Kritik, in: Albert Scherr (Hrsg.), Systemtheorie und Differenzierungstheorie als Kritik: Perspektiven in Anschluss an Niklas Luhmann. Weinheim: Beltz, 232–265.Search in Google Scholar

Kleiner, Cornelius (2021): Die elektronische Person: Entwurf eines Zurechnungs- und Haftungssubjekts für den Einsatz autonomer Systeme im Rechtsverkehr. Baden-Baden: Nomos.10.5771/9783748921929Search in Google Scholar

Krafft, Tobias D./Zweig, Katharina A./König, Pascal D. (2020): How to Regulate Algorithmic Decision-Making: A Framework of Regulatory Requirements for Different Applications. Regulation & Governance 16, 119–136.10.1111/rego.12369Search in Google Scholar

Kühl, Stefan (2014): Gruppen, Organisationen, Familien und Bewegungen: Zur Soziologie mitgliedschaftsbasierter Systeme zwischen Interaktion und Gesellschaft, in: Bettina Heintz/Hartmann Tyrell (Hrsg.), Interaktion – Organisation – Gesellschaft revisited. Anwendungen, Erweiterungen, Alternativen. Stuttgart: Lucius & Lucius, 65–85.10.1515/9783110509243-006Search in Google Scholar

Latour, Bruno (2001): Das Parlament der Dinge: Für eine politische Ökologie. Frankfurt a.M.: Suhrkamp.Search in Google Scholar

Linardatos, Dimitrios (2021): Autonome und vernetzte Aktanten im Zivilrecht: Grundlinien zivilrechtlicher Zurechnung und Strukturmerkmale einer elektronischen Person. Tübingen: Mohr Siebeck.10.1628/978-3-16-160757-8Search in Google Scholar

Lior, Anat (2022): The AI Accident Network: Artificial Intelligence Liability Meets Network Theory. Tulane Law Review 95, 1103–1166.Search in Google Scholar

Loh, Wulf/Loh, Janina (2017): Autonomy and Responsibility in Hybrid Systems, in: Patrick Lin/Ryan Jenkins/Keith Abney (Hrsg.), Robot Ethics 2.0: From Autonomous Cars to Artificial Intelligence. Oxford: Oxford University Press, 35–50.10.1093/oso/9780190652951.003.0003Search in Google Scholar

Lohse, Simon (2011): Zur Emergenz des Sozialen bei Niklas Luhmann. Zeitschrift für Soziologie 40, 190–207.10.1515/zfsoz-2011-0302Search in Google Scholar

Lorentzen, Kai F. (2002): Luhmann Goes Latour: Zur Soziologie hybrider Beziehungen, in: Werner Rammert/Ingo Schulz-Schaeffer (Hrsg.), Können Maschinen handeln? Soziologische Beiträge zum Verhältnis von Mensch und Technik. Frankfurt M./New York: Campus, 101–118.Search in Google Scholar

Luhmann, Niklas (1964) Funktionen und Folgen formaler Organisation, 3. Aufl. 1976. Berlin: Duncker & Humblot.10.1007/978-3-658-23434-8_10Search in Google Scholar

Luhmann, Niklas (1965) Grundrechte als Institution: Ein Beitrag zur politischen Soziologie. Berlin: Duncker & Humblot.10.3790/978-3-428-40959-4Search in Google Scholar

Luhmann, Niklas (1984): Soziale Systeme: Grundriß einer allgemeinen Theorie. Frankfurt a.M.: Suhrkamp.Search in Google Scholar

Luhmann, Niklas (1986): Systeme verstehen Systeme, in: Niklas Luhmann/Eberhard Schorr (Hrsg.), Zwischen Intransparenz und Verstehen: Fragen an die Pädagogik. Frankfurt a.M.: Suhrkamp, 72–117.Search in Google Scholar

Luhmann, Niklas (1987a): Läßt unsere Gesellschaft Kommunikation mit Gott zu?, in: Niklas Luhmann, Soziologische Aufklärung 4: Beiträge zur funktionalen Differenzierung der Gesellschaft. Opladen: Westdeutscher Verlag, 227–235.10.1007/978-3-663-01341-9_18Search in Google Scholar

Luhmann, Niklas (1987b): Rechtssoziologie, 3. Aufl. Opladen: Westdeutscher Verlag.10.1007/978-3-322-95699-6Search in Google Scholar

Luhmann, Niklas (1997): Die Gesellschaft der Gesellschaft. Frankfurt a.M.: Suhrkamp.Search in Google Scholar

Luhmann, Niklas (2000a): Organisation und Entscheidung, hrsg. von Dirk Baecker. Opladen: Westdeutscher Verlag.10.1007/978-3-322-97093-0Search in Google Scholar

Luhmann, Niklas (2000b): Die Politik der Gesellschaft, hrsg. von André Kieserling. Frankfurt a.M.: Suhrkamp.Search in Google Scholar

Luhmann, Niklas (2014): Ebenen der Systembildung – Ebenendifferenzierung (unveröffentlichtes Manuskript 1975). in: Bettina Heintz/Hartmann Tyrell (Hrsg.), Interaktion – Organisation – Gesellschaft revisited. Anwendungen, Erweiterungen, Alternativen. Stuttgart: Lucius & Lucius, 6–39.10.1515/9783110509243-004Search in Google Scholar

Luhmann, Niklas (2017): Systemtheorie der Gesellschaft, hrsg. von Johannes F.K. Schmidt und André Kieserling. Berlin: Suhrkamp.Search in Google Scholar

McLuhan, Marshall (2003): Understanding Media: The Extensions of Man. Corte Madera: Gingko Press.Search in Google Scholar

Messner, Claudius (2020): Listening to Distant Voices. International Journal for the Semiotics of Law – Revue internationale de Sémiotique juridique 33, 1143–1173.10.1007/s11196-020-09735-4Search in Google Scholar

Mosco, Gian Domenico (2020): AI and the Board within Italian Corporate Law: Preliminary Notes. European Company Law Journal 17, 87–96.10.54648/EUCL2020014Search in Google Scholar

Möllers, Christoph (2021): Herr, Knecht und Maschine in der künftigen Rechtsphilosophie, in: Thomas Khurana/Dirk Quadflieg et al. (Hrsg.), Negativität: Kunst, Recht, Politik. Berlin: Suhrkamp, 184–195.Search in Google Scholar

Möslein, Florian (2017): Robots in the Boardroom: Artificial Intelligence and Corporate Law, in: Woodrow Barfield/Ugo Pagallo (Hrsg.), Research Handbook on the Law of Artificial Intelligence. Cheltenham: Edward Elgar, 649–670.10.4337/9781786439055.00039Search in Google Scholar

Muhle, Florian (2018): Sozialität von und mit Robotern? Drei soziologische Antworten und eine kommunikationstheoretische Alternative. Zeitschrift für Soziologie 47, 147–163.10.1515/zfsoz-2018-1010Search in Google Scholar

Muhle, Florian (2020): Roboter in der Sozialwelt: Überlegungen und Einsichten zum Subjektstatus humanoider Roboter, in: Michael Schetsche/Andreas Anton (Hrsg.), Intersoziologie: Menschliche und nichtmenschliche Akteure in der Sozialwelt, Weinheim: Beltz Juventa, 128–142.Search in Google Scholar

Nake, Frieder (2020): Surface, Interface, Subface: Three Cases of Interaction and One Concept, in: Uwe Seifert/Hyun Kim Jin/Anthony Moore (Hrsg.), Paradoxes of Interactivity. Bielefeld: transcript, 92–109.10.1515/9783839408421-005Search in Google Scholar

Nassehi, Armin (2019): Muster: Theorie der digitalen Gesellschaft. München: Beck.10.17104/9783406740251Search in Google Scholar

Navas, Susana (2020): Robot Machines and Civil Liability, in: Martin Ebers/Susana Navas (Hrsg.), Algorithms and Law. Cambridge: Cambridge University Press, 157–173.10.1017/9781108347846.006Search in Google Scholar

Neuhäuser, Christian (2015): Some Sceptical Remarks Regarding Robot Responsibility and a Way Forward, in: Catrin Misselhorn (Hrsg.), Collective Agency and Cooperation in Natural and Artificial Systems. Heidelberg: Springer, 131–147.10.1007/978-3-319-15515-9_7Search in Google Scholar

North, Douglass C. (1990): Institutions, Institutional Change and Economic Performance. Cambridge: Cambridge University Press.10.1017/CBO9780511808678Search in Google Scholar

Ortmann, Günther (2017): Für ein Unternehmensstrafrecht: Sechs Thesen, sieben Fragen, eine Nachbemerkung. Neue Zeitschrift für Wirtschafts-, Steuer- und Unternehmensstrafrecht 6, 241–251.Search in Google Scholar

Parsons, Talcott/Shils, Edward A. (1951): Toward a General Theory of Action: Theoretical Foundations for the Social Sciences. New York: Harper & Row.10.4324/9781351301527Search in Google Scholar

Perlingieri, Carolina (2020): Responsabilità civile e robotica medica. Tecnologie e diritto 1, 161–180.Search in Google Scholar

Pettit, Philip (2007): Responsibility Incorporated. Ethics 117, 171–201.10.1086/510695Search in Google Scholar

Powell, Walter W. (1990): Neither Market nor Hierarchy: Network Forms of Organization. Research in Organizational Behavior 12, 295–336.Search in Google Scholar

Prescott, Tony J. (2017): Robots are not Just Tools. Connection Science 29, 142–149.10.1080/09540091.2017.1279125Search in Google Scholar

Rahwan, Iyad/Cebrian, Manuel et al. (2019): Machine Behaviour. Nature 568, 477–486.10.1002/9781119815075.ch10Search in Google Scholar

Reyes, Carla L. (2021): Autonomous Corporate Personhood. Washington Law Review 96, 1453–1510.Search in Google Scholar

Rossler, Gustav (2015): Der Anteil der Dinge an der Gesellschaft: Sozialität – Kognition – Netzwerke. Bielefeld: transcript.10.1515/9783839432976Search in Google Scholar

Sartor, Giovanni (2009): Cognitive Automata and the Law: Electronic Contracting and the Intentionality of Software Agents. Artificial Intelligence and Law 17, 253–290.10.1007/s10506-009-9081-0Search in Google Scholar

Schuppli, Susan (2014): Deadly Algorithms: Can Legal Codes Hold Software Accountable for Code That Kills? Radical Philosophy 187, 2–8.Search in Google Scholar

Shidaro, Hirokazu/Christanikis, Nicholas A. (2017): Locally Noisy Autonomous Agents Improve Global Human Coordination in Network Experiments. Nature 545, 370–374.10.1038/nature22332Search in Google Scholar

Sprenger, Guido (2017): Communicated into Being: Systems Theory and the Shifting of Ontological Status. Anthropological Theory 17, 108–132.10.1177/1463499617699330Search in Google Scholar

Sprenger, Guido (2018): Production is Exchange: Gift Giving between Humans and Non-Humans, in: Laila Prager/Michael Prager/Guido Sprenger (Hrsg.), Part and Wholes: Essays on Social Morphology, Cosmology, and Exchange. Münster: LIT Verlag, 247–264.Search in Google Scholar

Struck, Philipp (2019): Die kommunikative Konstitution fluider Organisation: Eine soziologische Untersuchung zur Relevanz von Software in der Organisation von Arbeit auf Märkten in der Plattformökonomie. Berlin: brandung.Search in Google Scholar

Taddeo, Mariarosaria/Floridi, Luciano (2018): How AI can be a Force for Good: An Ethical Framework Will Help to Harness the Potential of AI while Keeping Humans in Control. Science 361, 751–752.10.1007/978-3-030-81907-1_7Search in Google Scholar

Taylor, Simon M./De Leeuw, Marc (2021): Guidance Systems: From Autonomous Directives to Legal Sensor-Bilities. AI & Society 36, 521–534.10.1007/s00146-020-01012-zSearch in Google Scholar

Teubner, Gunther (1987): Unternehmenskorporatismus: New Industrial Policy und das Wesen der Juristischen Person. Kritische Vierteljahresschrift für Gesetzgebung und Rechtswissenschaft 2, 61–85.Search in Google Scholar

Teubner, Gunther (2001): Rechtsirritationen: Zur Koevolution von Rechtsnormen und Produktionsregimes, in: Günther Dux/Frank Welz (Hrsg.), Moral und Recht im Diskurs der Moderne: Zur Legitimation gesellschaftlicher Ordnung. Opladen: Leske & Budrich, 351–381.10.1007/978-3-663-10841-2_16Search in Google Scholar

Teubner, Gunther (2004): Netzwerk als Vertragsverbund: Virtuelle Unternehmen, Franchising, Just in Time in sozialwissenschaftlicher und juristischer Sicht. Baden-Baden: Nomos.Search in Google Scholar

Teubner, Gunther (2006): Elektronische Agenten und große Menschenaffen: Zur Ausweitung des Akteursstatus in Recht und Politik. Zeitschrift für Rechtssoziologie 27, 5–30.10.1515/zfrs-2006-0103Search in Google Scholar

Thomadsen, Tommy (2005): Hierarchical Network Design. Kongens Lyngby: Technical University of Denmark (https://www2.imm.dtu.dk/pubdb/edoc/imm3863.pdf).Search in Google Scholar

Thürmel, Sabine (2015): The Participatory Turn: A Multidimensional Gradual Agency Concept for Human and Non-human Actors, in: Catrin Misselhorn (Hrsg.), Collective Agency and Cooperation in Natural and Artificial Systems: Explanation, Implementation and Simulation. Heidelberg: Springer, 45–62.10.1007/978-3-319-15515-9_3Search in Google Scholar

Trüstedt, Katrin (2020): Representing Agency. Law & Literature 32, 195–206.10.1080/1535685X.2020.1763588Search in Google Scholar

Turner, Jacob (2018): Robot Rules: Regulating Artificial Intelligence. London: Palgrave Macmillan.10.1007/978-3-319-96235-1Search in Google Scholar

Viljanen, Mika (2017): A Cyborg Turn in Law? German Law Journal 18, 1277–1308.10.1017/S2071832200022331Search in Google Scholar

Vladeck, David C. (2014): Machines without Principals: Liability Rules and Artificial Intelligence. Washington Law Review 89, 117–150.Search in Google Scholar

Weyer, Johannes/Fink, Robin D. (2011): Die Interaktion von Mensch und autonomer Technik in soziologischer Perspektive. TATuP – Journal for Technology Assessment in Theory and Practice 20, 39–45.10.14512/tatup.20.1.39Search in Google Scholar

Wielsch, Dan (2020): Die Ermächtigung von Eigen-Sinn im Recht, in: Ino Augsberg/Steffen Augsberg/Ludger Heidbrink (Hrsg.), Recht auf Nicht-Recht: Rechtliche Reaktionen auf die Juridifizierung der Gesellschaft. Weilerswist: Velbrück, 179–201.10.5771/9783748911883-179Search in Google Scholar

Williamson, Oliver (1985): The Economic Institutions of Capitalism: Firms, Markets, Relational Contracting. New York: Free Press.10.1007/978-3-8349-9320-5_6Search in Google Scholar

Windeler, Arnold (2001): Unternehmungsnetzwerke: Konstitution und Strukturation. Wiesbaden: Westdeutscher Verlag.10.1007/978-3-322-80353-5_6Search in Google Scholar

Winner, Langdon (1980): Do Artifacts Have Politics? Daedalus 109, 121–136.10.1515/9783110808681.121Search in Google Scholar

Zekos, Georgios I. (2021): Economics and Law of Artificial Intelligence: Finance, Economic Impacts, Risk Management and Governance. Cham: Springer.10.1007/978-3-030-64254-9Search in Google Scholar

Zimmerman, Evan J. (2015): Machine Minds: Frontiers in Legal Personhood. Manuskript (https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2563965).10.2139/ssrn.2563965Search in Google Scholar
Published Online: 2022-12-09
Published in Print: 2022-12-07

© 2022 Walter de Gruyter GmbH, Berlin/Boston

Articles in the same Issue

  1. Titelseiten
  2. Editorial: Die Organisation im Zoo der Digitalisierungsforschung
  3. Digitalisierte Organisation zwischen Systembildung und Hybridisierung
  4. Soziale Systeme? Systemtheorie digitaler Organisation
  5. Digitale Plattformen als soziale Systeme? Vorarbeiten zu einer allgemeinen Theorie
  6. Mensch-Algorithmus-Hybride als (Quasi-)Organisationen? Zu Verantwortung und Verantwortlichkeit von digitalen Kollektivakteuren
  7. Organisation – Entscheidung – Algorithmisierung
  8. Verantwortungsvolle Maschinen ohne Verantwortlichkeit? Datenintensive Algorithmen in Organisationen
  9. „Computer says no“? Konsequenzen der Algorithmisierung von Entscheidungsprozessen
  10. Vorhersagen und Entscheiden: Predictive Policing in Polizeiorganisationen
  11. Organisation und digitale Technologien. Predictive Policing im organisationalen Kontext
  12. Programmiertes Entscheiden: Begriffsgeschichtliche Anmerkungen
  13. Digitalisierung in Hochschule, Krankenhaus, Hedge-Fonds und Gericht
  14. Datafizierung und Technologiedefizit. Zum Einsatz von Daten und algorithmisch generierten Informationen in der Entscheidungsfindung an Hochschulen
  15. Post-NPM-Governance und Grenzobjekte. Zur organisationalen Funktion des Digitalisierungsdiskurses an Universitäten
  16. Misslingensbedingungen einer Plattformintegration. Rekonstruktion eines Software-Entwicklungsprozesses für das Universitätskrankenhaus
  17. Algorithmisches Investment. Zum Einsatz von Künstlicher Intelligenz und Big Data in Finanzorganisationen
  18. Algorithms, Efficiency and the Two Faces of Courts – A Case Study of the Brazilian Superior Court of Justice (STJ)
  19. Digitale Interaktion – Informalität – Automation
  20. Anwesenheit, Adressierbarkeit und Anschlussfähigkeit. Organisationsberatung unter der Bedingung mediatisierter Interaktion in Videokonferenzen
  21. Neue Grenzziehungen zwischen Formalität und Informalität? Die Auswirkungen der digitalen Transformation auf die Arbeit im Büro
  22. Nach 55 Jahren …: Recht und Automation in der öffentlichen Verwaltung
https://doi.org/10.1515/sosys-2021-0004

Articles in the same Issue

  1. Titelseiten
  2. Editorial: Die Organisation im Zoo der Digitalisierungsforschung
  3. Digitalisierte Organisation zwischen Systembildung und Hybridisierung
  4. Soziale Systeme? Systemtheorie digitaler Organisation
  5. Digitale Plattformen als soziale Systeme? Vorarbeiten zu einer allgemeinen Theorie
  6. Mensch-Algorithmus-Hybride als (Quasi-)Organisationen? Zu Verantwortung und Verantwortlichkeit von digitalen Kollektivakteuren
  7. Organisation – Entscheidung – Algorithmisierung
  8. Verantwortungsvolle Maschinen ohne Verantwortlichkeit? Datenintensive Algorithmen in Organisationen
  9. „Computer says no“? Konsequenzen der Algorithmisierung von Entscheidungsprozessen
  10. Vorhersagen und Entscheiden: Predictive Policing in Polizeiorganisationen
  11. Organisation und digitale Technologien. Predictive Policing im organisationalen Kontext
  12. Programmiertes Entscheiden: Begriffsgeschichtliche Anmerkungen
  13. Digitalisierung in Hochschule, Krankenhaus, Hedge-Fonds und Gericht
  14. Datafizierung und Technologiedefizit. Zum Einsatz von Daten und algorithmisch generierten Informationen in der Entscheidungsfindung an Hochschulen
  15. Post-NPM-Governance und Grenzobjekte. Zur organisationalen Funktion des Digitalisierungsdiskurses an Universitäten
  16. Misslingensbedingungen einer Plattformintegration. Rekonstruktion eines Software-Entwicklungsprozesses für das Universitätskrankenhaus
  17. Algorithmisches Investment. Zum Einsatz von Künstlicher Intelligenz und Big Data in Finanzorganisationen
  18. Algorithms, Efficiency and the Two Faces of Courts – A Case Study of the Brazilian Superior Court of Justice (STJ)
  19. Digitale Interaktion – Informalität – Automation
  20. Anwesenheit, Adressierbarkeit und Anschlussfähigkeit. Organisationsberatung unter der Bedingung mediatisierter Interaktion in Videokonferenzen
  21. Neue Grenzziehungen zwischen Formalität und Informalität? Die Auswirkungen der digitalen Transformation auf die Arbeit im Büro
  22. Nach 55 Jahren …: Recht und Automation in der öffentlichen Verwaltung
Sign up now to receive a 20% welcome discount
Institutional Access
How does access work?
Have an idea on how to improve our website?
Please write us.
© 2025 De Gruyter Brill
Downloaded on 24.9.2025 from https://www.degruyterbrill.com/document/doi/10.1515/sosys-2021-0004/html
Scroll to top button