Startseite Wirtschaftswissenschaften KI gestern und heute
Artikel
Lizenziert
Nicht lizenziert Erfordert eine Authentifizierung

KI gestern und heute

Einsichten aus der Frühgeschichte der KI für aktuelle ethische Überlegungen zum Einsatz von KI in der Medizin
  • Arne Sonar und Karsten Weber
Veröffentlicht/Copyright: 16. September 2020
Veröffentlichen auch Sie bei De Gruyter Brill
Informationen für Autor*innen Erkunden Sie dieses Fachgebiet
Arbeit
Aus der Zeitschrift Arbeit Band 29 Heft 2

Zusammenfassung

Der Einzug Künstlicher Intelligenz (KI) in die Medizin scheint angesichts der Nutzenpotenziale unvermeidlich. Durch den Agentencharakter KI-basierter Systeme ergeben sich teils neuartige normative An- und Herausforderungen. Für den hochgradig sensiblen Anwendungsbereich der Medizin erscheint es daher notwendig, den KI-Einsatz mit ethischen Leitlinien einzuhegen. Dies wirft die Frage auf, auf welche Erfahrungsbasis eine ethische Fundierung des Einsatzes KI-basierter Technik gestellt werden könnte. Damit ist kein Schluss vom Sein auf das Sollen gemeint, sondern die Berücksichtigung bereits geführter normativer Debatten. Eine Möglichkeit, sich der normativen Landschaft der KI anzunähern, liegt in der Auseinandersetzung mit der Entwicklungsgeschichte der KI und den damit verbundenen Debatten um ethische und soziale Aspekte. Mit diesem explorativen Ansatz können relevante Problemfelder identifiziert, vorläufige Gestaltungs- und Einsatzempfehlungen für KI-Systeme in der Praxis formuliert und Vorschläge zu deren Einbettung in existierende Organisationsstrukturen generiert werden.

Abstract

The introduction of artificial intelligence (AI) into medicine seems inevitable in view of the potential benefits. The agent character of AI-based systems results in new normative requirements and challenges. For the highly sensitive area of medical application, it seems therefore necessary that the use of AI be accompanied by ethical guidelines. This raises the question of what experience could be used as a foundation for the ethical use of AI-based technology. This does not imply an inference from is to ought, but rather the consideration of normative debates that have already taken place. One way to approach the normative landscape of AI is to examine the history of AI’s development and the associated debates on ethical and social aspects. With this exploratory approach, relevant problem areas can be identified, preliminary recommendations for the design and use of AI systems in practice can be formulated, and proposals for their adoption to existing organisational structures can be generated.

Schlüsselwörter: KI-Historie; Medizin; diagnostische Unterstützung; ethische Leitlinie
Keywords: history of AI; medicine; diagnostic support; ethical guidelines

Literatur

Adams, A. E. (1990): What can the history of AI learn from the history of science?; in: AI and Society, 4, 3, 232–24110.1007/BF01889942Suche in Google Scholar

Andrew, A. M. (1983): Artificial Intelligence. Tunbridge WellsSuche in Google Scholar

Asri, H., H. Moussanif, H. Al Moatassime, T. Noel (2016): Using machine learning algorithms for breast cancer risk prediction and diagnosis; in: Procedia Computer Science, 83, 1064– 106910.1016/j.procs.2016.04.224Suche in Google Scholar

Bartsch-Spörl, B. (1988): KI in der Praxis und für die Praxis: Stand der Kunst und Perspektiven; in: W. Hoeppner (Hg.): Künstliche Intelligenz. Berlin/Heidelberg, 1–1610.1007/978-3-642-74064-0_1Suche in Google Scholar

Bogdan, B. (2018): MedRevolution: Neue Technologien am Puls der Patienten. Berlin10.1007/978-3-662-57506-2Suche in Google Scholar

Bombard, Y., J. Abelson, D. Simeonov, F.-P. Gauvin (2011): Eliciting ethical and social values in health technology assessment: A participatory approach; in: Social Science & Medicine, 73, 1, 135–14410.1016/j.socscimed.2011.04.017Suche in Google Scholar

Borry, P., P. Schotsmans, K. Dierickx (2005): The birth of the empirical turn in bioethics; in: Bioethics, 19, 1, 49–7110.1111/j.1467-8519.2005.00424.xSuche in Google Scholar

Briganti, G., O. Le Moine (2020): Artificial Intelligence in Medicine: Today and Tomorrow; in: Frontiers in Medicine, 7, 2710.3389/fmed.2020.00027Suche in Google Scholar

Brody, B. A. (1993): Assessing empirical research in bioethics; in: Theoretical Medicine, 14, 3, 211–21910.1007/BF00995163Suche in Google Scholar

Bryson, J. J. (2018): Patiency is not a virtue: The design of intelligent systems and systems of ethics; in: Ethics and Information Technology, 20, 1, 15–2610.1007/s10676-018-9448-6Suche in Google Scholar

Bundesverband Informationswirtschaft, Telekommunikation und neue Medien e.V., Deutsches Forschungszentrum für Künstliche Intelligenz (Hg.) (2017): Entscheidungsunterstützung mit Künstlicher Intelligenz: Wirtschaftliche Bedeutung, gesellschaftliche Herausforderungen, menschliche Verantwortung. Berlin, KaiserslauternSuche in Google Scholar

Challen, R., J. Denny, M. Pitt, L. Gompels, T. Edwards, K. Tsaneva-Atanasova (2019): Artificial intelligence, bias and clinical safety; in: BMJ Quality & Safety, 28, 3, 231–23710.1136/bmjqs-2018-008370Suche in Google Scholar

Combi, C. (2017): Artificial Intelligence in medicine and the forthcoming challenges; in: Artificial Intelligence in Medicine, 76, 37–3910.1016/j.artmed.2017.01.003Suche in Google Scholar

Conrad, C. S. (2017): Künstliche Intelligenz: Die Risiken für den Datenschutz, in: Datenschutz und Datensicherheit, 12, 740–74410.1007/s11623-017-0870-4Suche in Google Scholar

de Bruijne, M. (2016): Machine learning approaches in medical image analysis: From detection to diagnosis; in: Medical Image Analysis, 33, 94–9710.1016/j.media.2016.06.032Suche in Google Scholar

Denecke, K., F. van Harmelen (2019): Recent advances in extracting and processing rich semantics from medical texts; in: Artificial Intelligence in Medicine, 93, 11–1210.1016/j.artmed.2018.07.004Suche in Google Scholar

Deussen, P. (1987): Künstliche Intelligenz: Was sie ist und was nicht; in: R. Henn (Hg.): Technologie, Wachstum und Beschäftigung. Berlin, Heidelberg, 229–24210.1007/978-3-642-72831-0_20Suche in Google Scholar

Dreyfus, H. L. (1989 [1972]): Was Computer nicht können. Frankfurt a.M.Suche in Google Scholar

Dreyfus, H. L., S. E. Dreyfus (1988 [1986]): Künstliche Intelligenz: Von den Grenzen der Denkmaschine und dem Wert der Intuition. HamburgSuche in Google Scholar

Elsner, P., M. Fischer, S. Schliemann, J. Tittelbach (2018): Teledermatologie und künstliche Intelligenz: Potenziale für die Optimierung von Diagnostik, Therapie und Prävention bei Versicherten mit Berufskrankheiten der Haut; in: Trauma Berufskrankheit, 20, 103–10810.1007/s10039-018-0362-2Suche in Google Scholar

Ennais, R. (1987): Socially useful artificial intelligence; in: AI and Society, 1, 1, 5–1510.1007/BF01905885Suche in Google Scholar

Esposito, E. (2017): Artificial communication? The production of contingency by algorithms; in: Zeitschrift für Soziologie, 46, 4, 249–26510.1515/zfsoz-2017-1014Suche in Google Scholar

Finck, M., M. Janneck (2008): Das Unvorhergesehene steuern? Zum Umgang mit der komplexen Dynamik in Technologieaneignungsprozessen; in: D. Gumm, M. Janneck, R. Langer, E. J. Simon (Hg.): Mensch-Technik-Ärger? Zur Beherrschbarkeit soziotechnischer Dynamik aus transdisziplinärer Sicht. Berlin, 85–101Suche in Google Scholar

Floyd, C. (1994): Künstliche Intelligenz: Verantwortungsvolles Handeln; in: S. Krämer, S. (Hg.): Geist-Gehirn-Künstliche Intelligenz: Zeitgenössische Modelle des Denkens. Berlin, New York, 256–27810.1515/9783110850505.256Suche in Google Scholar

Freska, C. (1988): Mit welchen Themen soll sich die KI auseinandersetzen?; in: W. Hoeppner (Hg.): Künstliche Intelligenz. Berlin, Heidelberg, 327–33310.1007/978-3-642-74064-0_37Suche in Google Scholar

Geis, J. R., A. Brady, C. C. Wu, J. Spencer, E. Ranschaert, J. L. Jaremko, S. G. Langer, A. Borondy Kitts, J. Birch, W. F. Shields, R. van den Hoven van Genderen, E. Kotter, J. Wawira Gichoya, T. S. Cook, M. B. Morgan, A. Tang, N. M. Safdar, M. Kohli (2019): Ethics of artificial intelligence in radiology: summary of the joint European and North American multisociety statement; in: Radiology, 293, 2, 436–44010.1148/radiol.2019191586Suche in Google Scholar

Grevers, G. (2018): Künstliche Intelligenz: Schöne neue Welt in der Medizin?; in: HNO-Nachrichten, 48, 5, 310.1007/s00060-018-5729-2Suche in Google Scholar

Halpern, M. (1987): Turing’s test and the ideology of Artificial Intelligence; in: Artificial Intelligence Review, 1, 79–9310.1007/BF00130010Suche in Google Scholar

Heinemann, S. (2019): Nur noch künstliche Intelligenz kann uns heilen? Künstliche Intelligenz in der Medizin als Deus ex machina, Grands récits nouveaux oder Supertool?; in: Urologe, 58, 1007–101510.1007/s00120-019-1011-5Suche in Google Scholar

Hellbardt, G. (1996): Die Ethik von Agenten; in: Informatik-Spektrum, 19, 87–9010.1007/s002870050021Suche in Google Scholar

Irrgang, B., J. Klawitter (1990): Künstliche Intelligenz (KI): Technologischer Traum oder gesellschaftliches Trauma?; in: B. Irrgang, J. Klawitter (Hg.): Künstliche Intelligenz. Stuttgart, 7– 54Suche in Google Scholar

Iseringhausen, O., J. Staender (2012): Das Krankenhaus als Organisation; in: M. Apelt, V. Tacke (Hg.): Handbuch Organisationstypen. Wiesbaden, 185–20310.1007/978-3-531-93312-2_10Suche in Google Scholar

Jörg, J. (2018): Digitalisierung in der Medizin: Wie Gesundheits-Apps, Telemedizin, künstliche Intelligenz und Robotik das Gesundheitswesen revolutionieren. Berlin10.1007/978-3-662-57759-2Suche in Google Scholar

Kearney, V., J. W. Chan, G. Valdes, T. D. Solberg, S. S. Yom (2018): The application of artificial intelligence in the IMRT planning process for head and neck cancer; in: Oral Oncology, 87, 111–11610.1016/j.oraloncology.2018.10.026Suche in Google Scholar

Krumm, S., A. Dwertmann (2019): Perspektiven der KI in der Medizin; in: V. Wittpahl (Hg.): Künstliche Intelligenz: Technologie, Anwendung, Gesellschaft. Berlin, Heidelberg, 161– 17510.1007/978-3-662-58042-4_10Suche in Google Scholar

Kwiatkowski, W. (2018): Medicine and technology. Remarks on the notion of responsibility in the technology-assisted health care; in: Medicine, Health Care and Philosophy, 21, 197– 20510.1007/s11019-017-9788-8Suche in Google Scholar

Leavy, S. (2018): Gender bias in artificial intelligence: The need for diversity and gender theory in machine learning; in: Proceedings of the 1st International Workshop on Gender Equality in Software Engineering – GE ’18, 14–1610.1145/3195570.3195580Suche in Google Scholar

Lebedev, G., H. Klimenkoa, S. Kachkovskiy, V. Konushinc, I. Ryabkov, A. Gromov (2018): Application of artificial intelligence methods to recognize pathologies on medical images; in: Procedia Computer Science, 126, 1171–117710.1016/j.procs.2018.08.055Suche in Google Scholar

Lehmann, E. (1988): Zu Wesen und Grenzen der KI; in: W. Hoeppner (Hg.): Künstliche Intelligenz. Berlin, Heidelberg, 308–31610.1007/978-3-642-74064-0_34Suche in Google Scholar

Londhe, V. Y., B. Bhasin (2019): Artificial intelligence and its potential in oncology; in: Drug Discovery Today, 24, 1, 228–23210.1016/j.drudis.2018.10.005Suche in Google Scholar

Madabhushi, A., G. Lee (2016): Image analysis and machine learning in digital pathology: Challenges and opportunities; in: Medical Image Analysis, 33, 170–17510.1016/j.media.2016.06.037Suche in Google Scholar

Mainzer, K. (2016): Künstliche Intelligenz: Wann übernehmen die Maschinen?. Heidelberg10.1007/978-3-662-48453-1Suche in Google Scholar

Martinez-Martin, N., L. B. Dunn, L. Weiss Roberts (2018): Is It Ethical to Use Prognostic Estimates from Machine Learning to Treat Psychosis?; in: AMA Journal of Ethics, 20, 9, 804–81110.1001/amajethics.2018.804Suche in Google Scholar

Mesko, B., G. Hetényi, Z. Győrffy (2018): Will artificial intelligence solve the human resource crisis in healthcare?; in: BMC Health Services Research, 18, 54510.1186/s12913-018-3359-4Suche in Google Scholar

Minsky, M. (1993): Gedanken zur Künstlichen Intelligenz; in: P. Kurzweil (Hg.): KI: Das Zeitalter der Künstlichen Intelligenz. München, Wien, 214–220Suche in Google Scholar

Möhrle, A. (2018): „Radiology“ Is Going Away … and That’s Okay: Titles Change, A Profession Evolves; in: Journal of the American College of Radiology, 15, 3, 499-50010.1016/j.jacr.2018.01.018Suche in Google Scholar

Müschenich, M. (2018): Digitale Vernetzung in der Medizin; in: Trauma Berufskrankheit, 20, 2, 77–7910.1007/s10039-017-0341-zSuche in Google Scholar

Neri, E., F. Coppola, V. Miele, C. Bibbolino, R. Grassi (2020): Artificial intelligence: Who is responsible for the diagnosis?; in: La radiologia medica, 125, 517–52110.1007/s11547-020-01135-9Suche in Google Scholar

Newell, A., H. S. Simon (1956): The logic theory machine: A complex information processing system; in: IEEE Transactions on Information Theory, 2, 3, 61–7910.1109/TIT.1956.1056797Suche in Google Scholar

Osoba, O., W. Welser (2017): An intelligence in our image: The risks of bias and errors in artificial intelligence. Santa Monica10.7249/RR1744Suche in Google Scholar

Puppe, F. (2011): Explizites Wissen versus Black Box Ansätze in der KI; in: Künstliche Intelligenz, 25, 67–7010.1007/s13218-010-0069-4Suche in Google Scholar

Ramesh, A. N., C. Kambhampati, J. R. T. Monson, P. J. Drew (2004): Artificial intelligence in medicine; in: Annals of The Royal College of Surgeons of England, 86, 334–33810.1308/147870804290Suche in Google Scholar

Rammert, W. (2007): Die Zukunft der künstlichen Intelligenz: Verkörpert-verteilt-hybrid; in: W. Rammert (Hg.): Technik-Handeln-Wissen: Zu einer pragmatistischen Technik- und Sozialtheorie. Wiesbaden, 167–178Suche in Google Scholar

Rampasek, L., A. Goldenberg (2018): Learning from everyday images enables expert-like diagnosis of retinal diseases; in: Cell, 172, 893–89510.1016/j.cell.2018.02.013Suche in Google Scholar

Rehmann-Sutter, C., R. Porz, J. L. Scully (2012): How to relate the empirical to the normative: Toward a phenomenologically informed hermeneutic approach to bioethics; in: Cambridge Quarterly of Healthcare Ethics, 21, 4, 436–44710.1017/S0963180112000217Suche in Google Scholar

Rost, M. (2018): Künstliche Intelligenz: Normative und operative Anforderungen des Datenschutzes; in: Datenschutz und Datensicherheit, 9, 558–56510.1007/s11623-018-0999-9Suche in Google Scholar

Schneider, F., C. Weiller (2018): Big Data und künstliche Intelligenz; in: Nervenarzt, 89, 859– 86010.1007/s00115-018-0567-4Suche in Google Scholar

Searle, J. (1980): Minds, brains, and programs; in: Behavioral and Brain Sciences, 3, 417–45710.1017/S0140525X00005756Suche in Google Scholar

Searle, J. (1984): Minds, brains and science. Cambridge (Massachusetts)Suche in Google Scholar

Siekmann, J. (1994): Künstliche Intelligenz; in: S. Krämer (Hg.): Geist-Gehirn-Künstliche Intelligenz: Zeitgenössische Modelle des Denkens. Berlin, New York, 203–22210.1515/9783110850505.203Suche in Google Scholar

Simondon, G. (2012): Die Existenzweise technischer Objekte. Zürich10.28937/ZMK-2-1_5Suche in Google Scholar

Stiefelhagen, P. (2018): Ist der Endoskopiker ein Auslaufmodell?; in: Gastro-News, 05, 1, 5010.1007/s15036-018-0337-ySuche in Google Scholar

Thompson, R. F., G. Valdes, C. D. Fuller, C. M. Carpenter, O. Morin, S. Aneja, W. D. Lindsay, H. J. W. L. Aerts, B. Agrimson, C. Deville Jr., S. A. Rosenthal, J. B. Yu, C. R. Thomas Jr. (2018): Artificial intelligence in radiation oncology: A specialty-wide disruptive transformation?; in: Radiotherapy and Oncology, 129, 421–42610.1016/j.radonc.2018.05.030Suche in Google Scholar

Vogd, W. (2004): Ärztliche Entscheidungsprozesse des Krankenhauses im Spannungsfeld von System- und Zweckrationalität: Eine qualitativ rekonstruktive Studie. BerlinSuche in Google Scholar

Vogd, W. (2006): Die Organisation Krankenhaus im Wandel: Eine dokumentarische Evaluation aus Perspektive der ärztlichen Akteure. BernSuche in Google Scholar

Vogd, W., M. Feißt, K. Molzberger, A. Ostermann, J. Slotta (2018): Entscheidungsfindung im Krankenhausmanagement: Zwischen gesellschaftlichem Anspruch, ökonomischen Kalkülen und professionellen Rationalitäten. Wiesbaden10.1007/978-3-658-17001-1Suche in Google Scholar

Weizenbaum, J. (1978 [1976]): Die Macht der Computer und die Ohnmacht der menschlichen Vernunft. Frankfurt a.M.Suche in Google Scholar

Wong, Z. S. Y., J. Zhou, Q. Zhang (2019): Artificial Intelligence for infectious disease Big Data Analytics; in: Infection, Disease & Health, 24, 44–4810.1016/j.idh.2018.10.002Suche in Google Scholar
Published Online: 2020-09-16
Published in Print: 2020-06-25

© 2020 Walter de Gruyter GmbH, Berlin/Boston

Artikel in diesem Heft

  1. Frontmatter
  2. Editorial
  3. Digitalisierung der Arbeit im Gesundheits- und Sozialsektor
  4. Artikel
  5. KI gestern und heute
  6. Digitalisierung als Informatisierung in der sozialen Arbeit?
  7. Digital Decision Making als Entscheidung, nicht zu entscheiden
  8. Call for Papers
  9. Call for Papers: Arbeiten in der Corona-Krise
https://doi.org/10.1515/arbeit-2020-0009
Schlagwörter für diesen Artikel
history of AI; medicine; diagnostic support; ethical guidelines

Artikel in diesem Heft

  1. Frontmatter
  2. Editorial
  3. Digitalisierung der Arbeit im Gesundheits- und Sozialsektor
  4. Artikel
  5. KI gestern und heute
  6. Digitalisierung als Informatisierung in der sozialen Arbeit?
  7. Digital Decision Making als Entscheidung, nicht zu entscheiden
  8. Call for Papers
  9. Call for Papers: Arbeiten in der Corona-Krise
Jetzt anmelden und 20% sparen
Institutioneller Zugang
Wie funktioniert Authentifizierung?
Haben Sie eine Idee, wie wir unsere Website verbessern können?
Bitte schreiben Sie uns.
© 2026 De Gruyter Brill
Heruntergeladen am 11.1.2026 von https://www.degruyterbrill.com/document/doi/10.1515/arbeit-2020-0009/html
Button zum nach oben scrollen