Das Digital Ethics Foresight Lab an der Universität Potsdam untersucht aktuelle und aufkommende technologische Entwicklungen der digitalen Medizin aus ethischer Perspektive.
Digital Ethics Foresight Lab
Die verantwortungsvolle Erforschung, Entwicklung und Anwendung digitaler Technologien im Bereich Gesundheit und Medizin steht vor dem zentralen Problem der epistemischen Unsicherheit.
- Projektlaufzeit: 2023 – 2027
- Durchgeführt am Standort Potsdam
- Ansprechpartner: Dr. Joschka Haltaufderheide
Wissenschaftler:innen im Bereich der digitalen Gesundheit
Für die Universität Tübingen:
- Dr. Florian Funer, M.A.
- Prof. Dr. Hans-Jörg Ehni
- Prof. Dr. Dr. Urban Wiesing
Für die Universität Potsdam:
- Prof. Dr. Robert Ranisch
- Dr. Joschka Haltaufderheide
Um diesen Herausforderungen zu begegnen, verfolgt das Digital Ethics Foresight Lab drei Hauptziele: Erstens, ein kontinuierliches Monitoring und Horizon-Scanning neuer Entwicklungen im Bereich der digitalen Gesundheit; zweitens, die Entwicklung von Methoden für ethische Vorausschau und Begleitung die Innovationsprozesse in Echtzeit begleiten können; sowie drittens, die Beforschung ausgewählter Themenfelder.
Das Foresight-Lab identifiziert relevante Themen durch Literaturrecherchen, Foresight-Workshops, Konsultationen und einen institutionellen Austausch mit Partnern. So trägt es dazu bei, Faktoren, Akteure und Trends zu bestimmen, die aus ethische Perspektive besonderer Aufmerksamkeit bedürfen.
Die Ergebnisse werden regelmäßig publiziert und in Form von Briefing Notes und Factsheets veröffentlicht. Damit wird sowohl ein kontinuierlicher Wissensaustausch mit der Fachcommunity ermöglicht als auch die Grundlage für künftige Forschungsprojekte in der Medizinethik gelegt.
Arbeiten im Digital Ethics Foresight Lab
Large Language Models (LLMs) haben sich seit der durch OpenAI’s ChatGPT im Jahr 2022 ausgelösten breiten Aufmerksamkeit rasant als transformative Werkzeuge im Gesundheitswesen und in der Medizin etabliert. Ihre allgemeine Anpassungsfähigkeit ermöglicht Anwendungen in der klinischen Praxis, der Patientenunterstützung, der Forschung und der öffentlichen Gesundheit – von Diagnose, Triage und Therapieplanung über Literaturrecherche und Workflow-Automatisierung bis hin zur globalen Gesundheitskommunikation.
Die Forschung des Foresight Labs beleuchtet zentrale ethische Herausforderungen, die sich aus der zunehmenden Nutzung von LLMs im Gesundheitswesen ergeben. Zu den Schlüsselfragen zählen epistemische Risiken wie Halluzinationen, Intransparenz und die Verbreitung irreführender Informationen; Datenschutz- und Privatsphäreprobleme im Umgang mit sensiblen Patientendaten; Verzerrungen durch nicht repräsentative Trainingsdatensätze; sowie Gefahren unkontrollierter Experimente durch verfrühte Implementierung in klinischen Kontexten.
Diese Herausforderungen verdeutlichen Spannungen zwischen Innovation und Patientensicherheit, professioneller Verantwortung und gerechtem Zugang zu Gesundheitstechnologien. Angesichts ihres disruptiven Potenzials und der beschleunigten Verbreitung sollten LLMs als eine Form von „sozialem Experiment“ in der Medizin betrachtet werden, das einer iterativen Bewertung, robuster ethischer Rahmenwerke und klar definierter Standards für menschliche Aufsicht bedarf. Die Bewältigung dieser Herausforderungen ist entscheidend, um sicherzustellen, dass LLMs zum Wohle der Patientinnen und Patienten, zur Wahrung professioneller Integrität und zur gerechten Weiterentwicklung der medizinischen Versorgung beitragen. Die Ergebnisse wurden als Fachartikel und Factsheet veröffentlicht.
Weitere Informationen:
- Haltaufderheide, Joschka und Robert Ranisch. 2023. „Ethics of ChatGPT: A Systematic Review of Large Language Models in Healthcare and Medicine (Protocol CRD42023431326).“ Unveröffentlichtes Manuskript. https://www.crd.york.ac.uk/prospero/display_record.php?ID=CRD42023431326.
- Haltaufderheide, Joschka und Robert Ranisch. 2024. „The Ethics of ChatGPT in Medicine and Healthcare: A Systematic Review on Large Language Models (LLMs).“ NPJ digital medicine 7 (1): 183. doi:10.1038/s41746-024-01157-x.
- Ranisch, Robert und Joschka Haltaufderheide. 2025. „Foundation Models in Medicine Are a Social Experiment: Time for an Ethical Framework.“ NPJ digital medicine 8 (1): 525. doi:10.1038/s41746-025-01924-4.
- Ranisch, Robert und Joschka Haltaufderheide. 2025. „Rapid Integration of LLMs in Healthcare Raises Ethical Concerns: An Investigation into Deceptive Patterns in Social Robots.“ Digit. Soc. 4 (1). doi:10.1007/s44206-025-00161-2.
Die roboterassistierte Chirurgie (RAS) hat sich seit den 1970er Jahren rasch von einer experimentellen Technologie zu einer weit verbreiteten chirurgischen Praxis entwickelt. Systeme wie das Da Vinci-System von Intuitive Surgical führen inzwischen weltweit Millionen von Eingriffen durch. Trotz dieser Verbreitung hat die ethische Reflexion über RAS in der Medizinethik bislang vergleichsweise wenig Aufmerksamkeit erhalten. Mit Blick in die Zukunft verschärft der Trend hin zu zunehmender robotischer Autonomie Fragen nach Verantwortung, Mensch-Maschine-Interaktion, professioneller Kompetenz und ethischer Aufsicht. Ethische Forschung muss sich daher über die Betrachtung chirurgischer Roboter als bloße Instrumente hinaus bewegen und die Implikationen zunehmend autonomer Systeme für die klinische Praxis, die berufliche Integrität und das Patientenwohl thematisieren.
Im Rahmen der Forschung zum Themenschwerpunkt wurde eine systematische Übersichtsarbeit durchgeführt. Ihr Ziel war die Identifikation praktisch relevanter ethischer Problemstellungen und deren Fortschreiben vor dem Hintergrund zunehmender technischer Entwicklung. Die Ergebnisse wurden ebenfalls in Kurzform als Factsheet veröffentlicht.
Weitere Informationen:
- Haltaufderheide, Joschka, Stefanie Pfisterer-Heise, Dawid Pieper und Robert Ranisch. 2023. „Ethical Aspects of Robot-Assisted Surgery: A Systematic Review (Protocol CRD4202339795).“ Unveröffentlichtes Manuskript. www.crd.york.ac.uk/prospero/display_record.php?ID=CRD4202339795.
- Haltaufderheide, Joschka, Stefanie Pfisterer-Heise, Dawid Pieper und Robert Ranisch. 2025. „The Ethical Landscape of Robot-Assisted Surgery: A Systematic Review.“ Journal of robotic surgery 19 (1): 102. doi:10.1007/s11701-025-02228-1.
Disease Interception ist ein aufkommendes medizinisches Paradigma, das darauf abzielt, Krankheiten wie neurodegenerative Erkrankungen bereits vor dem Auftreten klinischer Symptome zu identifizieren und zu behandeln. Im Rahmen der Arbeit des Foresight Labs wurde das Konzept der Disease Interception aus ethischer Perspektive beleuchtet. Während der Ansatz verspricht, Leiden zu verringern, Krankheiten hinauszuzögern oder zu verhindern und ein proaktives Gesundheitsmanagement zu fördern, wirft er zugleich tiefgreifende Fragen auf.
Disease Interception stellt konventionelle Unterscheidungen zwischen Gesundheit, Krankheit und Erkrankung infrage, indem sie Kategorien von „gesunden Kranken“ schafft – Menschen, die trotz fehlender Symptome behandelt werden. Dieser Paradigmenwechsel birgt Risiken wie Medikalisierung, psychologische Belastungen und eine Aushöhlung der Patientenautonomie, insbesondere wenn technologische Vermittlung – durch KI, Biomarker und prädiktive Analysen – medizinische Entscheidungsprozesse neu gestaltet und zukünftige Gesundheitsprioritäten über das gegenwärtige Wohlbefinden stellt. Zu den ethischen Herausforderungen gehören Fragen nach Transparenz, informierter Einwilligung, dem Recht auf Nichtwissen sowie den Verantwortungsdynamiken zwischen Patienten, Ärztinnen und Ärzten und technologischen Systemen. Mit dem Fortschreiten prädiktiver Medizin wird eine sorgfältige ethische Prüfung erforderlich sein, um das Versprechen früher Intervention mit Respekt vor Autonomie, Gerechtigkeit und der gelebten Erfahrung von Gesundheit in Einklang zu bringen. Die Arbeiten wurden sind als Buchkapitel und als Factsheet verfügbar
Weitere Informationen:
- Haltaufderheide, Joschka und Robert Ranisch. 2024. „“Nicht ganz krank, nicht ganz frei? Disease Interception und die ethischen Implikationen technisch produzierter Entscheidungsräume.“ In Disease Interception als Chance und Herausforderung: Eine interdisziplinäre Analyse, hg. v. Lara Wiese, Anke Diehl und Stefan Huster, 93–110. Bochumer Schriften zum Sozial- und Gesundheitsrecht 26. Baden-Baden: Nomos Verlagsgesellschaft.