Home Business & Economics KI gestern und heute
Article
Licensed
Unlicensed Requires Authentication

KI gestern und heute

Einsichten aus der Frühgeschichte der KI für aktuelle ethische Überlegungen zum Einsatz von KI in der Medizin
  • Arne Sonar and Karsten Weber
Published/Copyright: September 16, 2020
Become an author with De Gruyter Brill
Author Information Explore this Subject
Arbeit
From the journal Arbeit Volume 29 Issue 2

Zusammenfassung

Der Einzug Künstlicher Intelligenz (KI) in die Medizin scheint angesichts der Nutzenpotenziale unvermeidlich. Durch den Agentencharakter KI-basierter Systeme ergeben sich teils neuartige normative An- und Herausforderungen. Für den hochgradig sensiblen Anwendungsbereich der Medizin erscheint es daher notwendig, den KI-Einsatz mit ethischen Leitlinien einzuhegen. Dies wirft die Frage auf, auf welche Erfahrungsbasis eine ethische Fundierung des Einsatzes KI-basierter Technik gestellt werden könnte. Damit ist kein Schluss vom Sein auf das Sollen gemeint, sondern die Berücksichtigung bereits geführter normativer Debatten. Eine Möglichkeit, sich der normativen Landschaft der KI anzunähern, liegt in der Auseinandersetzung mit der Entwicklungsgeschichte der KI und den damit verbundenen Debatten um ethische und soziale Aspekte. Mit diesem explorativen Ansatz können relevante Problemfelder identifiziert, vorläufige Gestaltungs- und Einsatzempfehlungen für KI-Systeme in der Praxis formuliert und Vorschläge zu deren Einbettung in existierende Organisationsstrukturen generiert werden.

Abstract

The introduction of artificial intelligence (AI) into medicine seems inevitable in view of the potential benefits. The agent character of AI-based systems results in new normative requirements and challenges. For the highly sensitive area of medical application, it seems therefore necessary that the use of AI be accompanied by ethical guidelines. This raises the question of what experience could be used as a foundation for the ethical use of AI-based technology. This does not imply an inference from is to ought, but rather the consideration of normative debates that have already taken place. One way to approach the normative landscape of AI is to examine the history of AI’s development and the associated debates on ethical and social aspects. With this exploratory approach, relevant problem areas can be identified, preliminary recommendations for the design and use of AI systems in practice can be formulated, and proposals for their adoption to existing organisational structures can be generated.

Schlüsselwörter: KI-Historie; Medizin; diagnostische Unterstützung; ethische Leitlinie
Keywords: history of AI; medicine; diagnostic support; ethical guidelines

Literatur

Adams, A. E. (1990): What can the history of AI learn from the history of science?; in: AI and Society, 4, 3, 232–24110.1007/BF01889942Search in Google Scholar

Andrew, A. M. (1983): Artificial Intelligence. Tunbridge WellsSearch in Google Scholar

Asri, H., H. Moussanif, H. Al Moatassime, T. Noel (2016): Using machine learning algorithms for breast cancer risk prediction and diagnosis; in: Procedia Computer Science, 83, 1064– 106910.1016/j.procs.2016.04.224Search in Google Scholar

Bartsch-Spörl, B. (1988): KI in der Praxis und für die Praxis: Stand der Kunst und Perspektiven; in: W. Hoeppner (Hg.): Künstliche Intelligenz. Berlin/Heidelberg, 1–1610.1007/978-3-642-74064-0_1Search in Google Scholar

Bogdan, B. (2018): MedRevolution: Neue Technologien am Puls der Patienten. Berlin10.1007/978-3-662-57506-2Search in Google Scholar

Bombard, Y., J. Abelson, D. Simeonov, F.-P. Gauvin (2011): Eliciting ethical and social values in health technology assessment: A participatory approach; in: Social Science & Medicine, 73, 1, 135–14410.1016/j.socscimed.2011.04.017Search in Google Scholar

Borry, P., P. Schotsmans, K. Dierickx (2005): The birth of the empirical turn in bioethics; in: Bioethics, 19, 1, 49–7110.1111/j.1467-8519.2005.00424.xSearch in Google Scholar

Briganti, G., O. Le Moine (2020): Artificial Intelligence in Medicine: Today and Tomorrow; in: Frontiers in Medicine, 7, 2710.3389/fmed.2020.00027Search in Google Scholar

Brody, B. A. (1993): Assessing empirical research in bioethics; in: Theoretical Medicine, 14, 3, 211–21910.1007/BF00995163Search in Google Scholar

Bryson, J. J. (2018): Patiency is not a virtue: The design of intelligent systems and systems of ethics; in: Ethics and Information Technology, 20, 1, 15–2610.1007/s10676-018-9448-6Search in Google Scholar

Bundesverband Informationswirtschaft, Telekommunikation und neue Medien e.V., Deutsches Forschungszentrum für Künstliche Intelligenz (Hg.) (2017): Entscheidungsunterstützung mit Künstlicher Intelligenz: Wirtschaftliche Bedeutung, gesellschaftliche Herausforderungen, menschliche Verantwortung. Berlin, KaiserslauternSearch in Google Scholar

Challen, R., J. Denny, M. Pitt, L. Gompels, T. Edwards, K. Tsaneva-Atanasova (2019): Artificial intelligence, bias and clinical safety; in: BMJ Quality & Safety, 28, 3, 231–23710.1136/bmjqs-2018-008370Search in Google Scholar

Combi, C. (2017): Artificial Intelligence in medicine and the forthcoming challenges; in: Artificial Intelligence in Medicine, 76, 37–3910.1016/j.artmed.2017.01.003Search in Google Scholar

Conrad, C. S. (2017): Künstliche Intelligenz: Die Risiken für den Datenschutz, in: Datenschutz und Datensicherheit, 12, 740–74410.1007/s11623-017-0870-4Search in Google Scholar

de Bruijne, M. (2016): Machine learning approaches in medical image analysis: From detection to diagnosis; in: Medical Image Analysis, 33, 94–9710.1016/j.media.2016.06.032Search in Google Scholar

Denecke, K., F. van Harmelen (2019): Recent advances in extracting and processing rich semantics from medical texts; in: Artificial Intelligence in Medicine, 93, 11–1210.1016/j.artmed.2018.07.004Search in Google Scholar

Deussen, P. (1987): Künstliche Intelligenz: Was sie ist und was nicht; in: R. Henn (Hg.): Technologie, Wachstum und Beschäftigung. Berlin, Heidelberg, 229–24210.1007/978-3-642-72831-0_20Search in Google Scholar

Dreyfus, H. L. (1989 [1972]): Was Computer nicht können. Frankfurt a.M.Search in Google Scholar

Dreyfus, H. L., S. E. Dreyfus (1988 [1986]): Künstliche Intelligenz: Von den Grenzen der Denkmaschine und dem Wert der Intuition. HamburgSearch in Google Scholar

Elsner, P., M. Fischer, S. Schliemann, J. Tittelbach (2018): Teledermatologie und künstliche Intelligenz: Potenziale für die Optimierung von Diagnostik, Therapie und Prävention bei Versicherten mit Berufskrankheiten der Haut; in: Trauma Berufskrankheit, 20, 103–10810.1007/s10039-018-0362-2Search in Google Scholar

Ennais, R. (1987): Socially useful artificial intelligence; in: AI and Society, 1, 1, 5–1510.1007/BF01905885Search in Google Scholar

Esposito, E. (2017): Artificial communication? The production of contingency by algorithms; in: Zeitschrift für Soziologie, 46, 4, 249–26510.1515/zfsoz-2017-1014Search in Google Scholar

Finck, M., M. Janneck (2008): Das Unvorhergesehene steuern? Zum Umgang mit der komplexen Dynamik in Technologieaneignungsprozessen; in: D. Gumm, M. Janneck, R. Langer, E. J. Simon (Hg.): Mensch-Technik-Ärger? Zur Beherrschbarkeit soziotechnischer Dynamik aus transdisziplinärer Sicht. Berlin, 85–101Search in Google Scholar

Floyd, C. (1994): Künstliche Intelligenz: Verantwortungsvolles Handeln; in: S. Krämer, S. (Hg.): Geist-Gehirn-Künstliche Intelligenz: Zeitgenössische Modelle des Denkens. Berlin, New York, 256–27810.1515/9783110850505.256Search in Google Scholar

Freska, C. (1988): Mit welchen Themen soll sich die KI auseinandersetzen?; in: W. Hoeppner (Hg.): Künstliche Intelligenz. Berlin, Heidelberg, 327–33310.1007/978-3-642-74064-0_37Search in Google Scholar

Geis, J. R., A. Brady, C. C. Wu, J. Spencer, E. Ranschaert, J. L. Jaremko, S. G. Langer, A. Borondy Kitts, J. Birch, W. F. Shields, R. van den Hoven van Genderen, E. Kotter, J. Wawira Gichoya, T. S. Cook, M. B. Morgan, A. Tang, N. M. Safdar, M. Kohli (2019): Ethics of artificial intelligence in radiology: summary of the joint European and North American multisociety statement; in: Radiology, 293, 2, 436–44010.1148/radiol.2019191586Search in Google Scholar

Grevers, G. (2018): Künstliche Intelligenz: Schöne neue Welt in der Medizin?; in: HNO-Nachrichten, 48, 5, 310.1007/s00060-018-5729-2Search in Google Scholar

Halpern, M. (1987): Turing’s test and the ideology of Artificial Intelligence; in: Artificial Intelligence Review, 1, 79–9310.1007/BF00130010Search in Google Scholar

Heinemann, S. (2019): Nur noch künstliche Intelligenz kann uns heilen? Künstliche Intelligenz in der Medizin als Deus ex machina, Grands récits nouveaux oder Supertool?; in: Urologe, 58, 1007–101510.1007/s00120-019-1011-5Search in Google Scholar

Hellbardt, G. (1996): Die Ethik von Agenten; in: Informatik-Spektrum, 19, 87–9010.1007/s002870050021Search in Google Scholar

Irrgang, B., J. Klawitter (1990): Künstliche Intelligenz (KI): Technologischer Traum oder gesellschaftliches Trauma?; in: B. Irrgang, J. Klawitter (Hg.): Künstliche Intelligenz. Stuttgart, 7– 54Search in Google Scholar

Iseringhausen, O., J. Staender (2012): Das Krankenhaus als Organisation; in: M. Apelt, V. Tacke (Hg.): Handbuch Organisationstypen. Wiesbaden, 185–20310.1007/978-3-531-93312-2_10Search in Google Scholar

Jörg, J. (2018): Digitalisierung in der Medizin: Wie Gesundheits-Apps, Telemedizin, künstliche Intelligenz und Robotik das Gesundheitswesen revolutionieren. Berlin10.1007/978-3-662-57759-2Search in Google Scholar

Kearney, V., J. W. Chan, G. Valdes, T. D. Solberg, S. S. Yom (2018): The application of artificial intelligence in the IMRT planning process for head and neck cancer; in: Oral Oncology, 87, 111–11610.1016/j.oraloncology.2018.10.026Search in Google Scholar

Krumm, S., A. Dwertmann (2019): Perspektiven der KI in der Medizin; in: V. Wittpahl (Hg.): Künstliche Intelligenz: Technologie, Anwendung, Gesellschaft. Berlin, Heidelberg, 161– 17510.1007/978-3-662-58042-4_10Search in Google Scholar

Kwiatkowski, W. (2018): Medicine and technology. Remarks on the notion of responsibility in the technology-assisted health care; in: Medicine, Health Care and Philosophy, 21, 197– 20510.1007/s11019-017-9788-8Search in Google Scholar

Leavy, S. (2018): Gender bias in artificial intelligence: The need for diversity and gender theory in machine learning; in: Proceedings of the 1st International Workshop on Gender Equality in Software Engineering – GE ’18, 14–1610.1145/3195570.3195580Search in Google Scholar

Lebedev, G., H. Klimenkoa, S. Kachkovskiy, V. Konushinc, I. Ryabkov, A. Gromov (2018): Application of artificial intelligence methods to recognize pathologies on medical images; in: Procedia Computer Science, 126, 1171–117710.1016/j.procs.2018.08.055Search in Google Scholar

Lehmann, E. (1988): Zu Wesen und Grenzen der KI; in: W. Hoeppner (Hg.): Künstliche Intelligenz. Berlin, Heidelberg, 308–31610.1007/978-3-642-74064-0_34Search in Google Scholar

Londhe, V. Y., B. Bhasin (2019): Artificial intelligence and its potential in oncology; in: Drug Discovery Today, 24, 1, 228–23210.1016/j.drudis.2018.10.005Search in Google Scholar

Madabhushi, A., G. Lee (2016): Image analysis and machine learning in digital pathology: Challenges and opportunities; in: Medical Image Analysis, 33, 170–17510.1016/j.media.2016.06.037Search in Google Scholar

Mainzer, K. (2016): Künstliche Intelligenz: Wann übernehmen die Maschinen?. Heidelberg10.1007/978-3-662-48453-1Search in Google Scholar

Martinez-Martin, N., L. B. Dunn, L. Weiss Roberts (2018): Is It Ethical to Use Prognostic Estimates from Machine Learning to Treat Psychosis?; in: AMA Journal of Ethics, 20, 9, 804–81110.1001/amajethics.2018.804Search in Google Scholar

Mesko, B., G. Hetényi, Z. Győrffy (2018): Will artificial intelligence solve the human resource crisis in healthcare?; in: BMC Health Services Research, 18, 54510.1186/s12913-018-3359-4Search in Google Scholar

Minsky, M. (1993): Gedanken zur Künstlichen Intelligenz; in: P. Kurzweil (Hg.): KI: Das Zeitalter der Künstlichen Intelligenz. München, Wien, 214–220Search in Google Scholar

Möhrle, A. (2018): „Radiology“ Is Going Away … and That’s Okay: Titles Change, A Profession Evolves; in: Journal of the American College of Radiology, 15, 3, 499-50010.1016/j.jacr.2018.01.018Search in Google Scholar

Müschenich, M. (2018): Digitale Vernetzung in der Medizin; in: Trauma Berufskrankheit, 20, 2, 77–7910.1007/s10039-017-0341-zSearch in Google Scholar

Neri, E., F. Coppola, V. Miele, C. Bibbolino, R. Grassi (2020): Artificial intelligence: Who is responsible for the diagnosis?; in: La radiologia medica, 125, 517–52110.1007/s11547-020-01135-9Search in Google Scholar

Newell, A., H. S. Simon (1956): The logic theory machine: A complex information processing system; in: IEEE Transactions on Information Theory, 2, 3, 61–7910.1109/TIT.1956.1056797Search in Google Scholar

Osoba, O., W. Welser (2017): An intelligence in our image: The risks of bias and errors in artificial intelligence. Santa Monica10.7249/RR1744Search in Google Scholar

Puppe, F. (2011): Explizites Wissen versus Black Box Ansätze in der KI; in: Künstliche Intelligenz, 25, 67–7010.1007/s13218-010-0069-4Search in Google Scholar

Ramesh, A. N., C. Kambhampati, J. R. T. Monson, P. J. Drew (2004): Artificial intelligence in medicine; in: Annals of The Royal College of Surgeons of England, 86, 334–33810.1308/147870804290Search in Google Scholar

Rammert, W. (2007): Die Zukunft der künstlichen Intelligenz: Verkörpert-verteilt-hybrid; in: W. Rammert (Hg.): Technik-Handeln-Wissen: Zu einer pragmatistischen Technik- und Sozialtheorie. Wiesbaden, 167–178Search in Google Scholar

Rampasek, L., A. Goldenberg (2018): Learning from everyday images enables expert-like diagnosis of retinal diseases; in: Cell, 172, 893–89510.1016/j.cell.2018.02.013Search in Google Scholar

Rehmann-Sutter, C., R. Porz, J. L. Scully (2012): How to relate the empirical to the normative: Toward a phenomenologically informed hermeneutic approach to bioethics; in: Cambridge Quarterly of Healthcare Ethics, 21, 4, 436–44710.1017/S0963180112000217Search in Google Scholar

Rost, M. (2018): Künstliche Intelligenz: Normative und operative Anforderungen des Datenschutzes; in: Datenschutz und Datensicherheit, 9, 558–56510.1007/s11623-018-0999-9Search in Google Scholar

Schneider, F., C. Weiller (2018): Big Data und künstliche Intelligenz; in: Nervenarzt, 89, 859– 86010.1007/s00115-018-0567-4Search in Google Scholar

Searle, J. (1980): Minds, brains, and programs; in: Behavioral and Brain Sciences, 3, 417–45710.1017/S0140525X00005756Search in Google Scholar

Searle, J. (1984): Minds, brains and science. Cambridge (Massachusetts)Search in Google Scholar

Siekmann, J. (1994): Künstliche Intelligenz; in: S. Krämer (Hg.): Geist-Gehirn-Künstliche Intelligenz: Zeitgenössische Modelle des Denkens. Berlin, New York, 203–22210.1515/9783110850505.203Search in Google Scholar

Simondon, G. (2012): Die Existenzweise technischer Objekte. Zürich10.28937/ZMK-2-1_5Search in Google Scholar

Stiefelhagen, P. (2018): Ist der Endoskopiker ein Auslaufmodell?; in: Gastro-News, 05, 1, 5010.1007/s15036-018-0337-ySearch in Google Scholar

Thompson, R. F., G. Valdes, C. D. Fuller, C. M. Carpenter, O. Morin, S. Aneja, W. D. Lindsay, H. J. W. L. Aerts, B. Agrimson, C. Deville Jr., S. A. Rosenthal, J. B. Yu, C. R. Thomas Jr. (2018): Artificial intelligence in radiation oncology: A specialty-wide disruptive transformation?; in: Radiotherapy and Oncology, 129, 421–42610.1016/j.radonc.2018.05.030Search in Google Scholar

Vogd, W. (2004): Ärztliche Entscheidungsprozesse des Krankenhauses im Spannungsfeld von System- und Zweckrationalität: Eine qualitativ rekonstruktive Studie. BerlinSearch in Google Scholar

Vogd, W. (2006): Die Organisation Krankenhaus im Wandel: Eine dokumentarische Evaluation aus Perspektive der ärztlichen Akteure. BernSearch in Google Scholar

Vogd, W., M. Feißt, K. Molzberger, A. Ostermann, J. Slotta (2018): Entscheidungsfindung im Krankenhausmanagement: Zwischen gesellschaftlichem Anspruch, ökonomischen Kalkülen und professionellen Rationalitäten. Wiesbaden10.1007/978-3-658-17001-1Search in Google Scholar

Weizenbaum, J. (1978 [1976]): Die Macht der Computer und die Ohnmacht der menschlichen Vernunft. Frankfurt a.M.Search in Google Scholar

Wong, Z. S. Y., J. Zhou, Q. Zhang (2019): Artificial Intelligence for infectious disease Big Data Analytics; in: Infection, Disease & Health, 24, 44–4810.1016/j.idh.2018.10.002Search in Google Scholar
Published Online: 2020-09-16
Published in Print: 2020-06-25

© 2020 Walter de Gruyter GmbH, Berlin/Boston

Articles in the same Issue

  1. Frontmatter
  2. Editorial
  3. Digitalisierung der Arbeit im Gesundheits- und Sozialsektor
  4. Artikel
  5. KI gestern und heute
  6. Digitalisierung als Informatisierung in der sozialen Arbeit?
  7. Digital Decision Making als Entscheidung, nicht zu entscheiden
  8. Call for Papers
  9. Call for Papers: Arbeiten in der Corona-Krise
https://doi.org/10.1515/arbeit-2020-0009
Keywords for this article
history of AI; medicine; diagnostic support; ethical guidelines

Articles in the same Issue

  1. Frontmatter
  2. Editorial
  3. Digitalisierung der Arbeit im Gesundheits- und Sozialsektor
  4. Artikel
  5. KI gestern und heute
  6. Digitalisierung als Informatisierung in der sozialen Arbeit?
  7. Digital Decision Making als Entscheidung, nicht zu entscheiden
  8. Call for Papers
  9. Call for Papers: Arbeiten in der Corona-Krise
Sign up now to receive a 20% welcome discount
Institutional Access
How does access work?
Have an idea on how to improve our website?
Please write us.
© 2026 De Gruyter Brill
Downloaded on 11.1.2026 from https://www.degruyterbrill.com/document/doi/10.1515/arbeit-2020-0009/html
Scroll to top button