Vertrauen durch Transparenz: KI in der Medizin
Künstliche Intelligenz (KI) kann für Ärzt:innen bei Diagnosen und Therapieempfehlungen eine wertvolle Unterstützung sein. Um jedoch akzeptiert zu werden, ist Vertrauen in die KI essenziell. Das Projekt Ethyde, eine Kooperation der Universität Hohenheim und des Bayerischen Forschungsinstitut für Digitale Transformation (bidt), will die Basis dafür schaffen und eine erklärbare KI entwickeln, die Entscheidungsprozesse offenlegt und die Korrektur fehlerhafter Ausgaben zulässt. Ein besonderer Fokus liegt dabei auf ethischen Aspekten.
Künstliche Intelligenz hat sich in vielen Bereichen des Lebens etabliert. Besonders in der Medizin, die von hoher Verantwortung und oft lebenswichtigen Entscheidungen geprägt ist, kann sie Ärzt:innen bei datenintensiven Anwendungen entlasten und unterstützen. So können hybride Teams aus Mensch und Maschine Diagnosen und Therapieempfehlungen präziser und fundierter treffen.
Dabei steht immer eines im Vordergrund: Vertrauen. Damit Ärzt:innen KI-Systeme aktiv in ihre Entscheidungsprozesse einbeziehen, könnte es wichtig sein, dass sie nachvollziehen können, wie diese zu ihren Ergebnissen gelangt. Im Verbundprojekt Ethyde untersuchen Forschende, wie eine solche Transparenz erreicht werden kann und welchen Einfluss sie hat. Der Schlüssel dazu: Erklärbare Künstliche Intelligenz, die Entscheidungsprozesse der KI für ihre Nutzer:innen verständlich und nachvollziehbar aufbereitet.
Die Forschenden befassen sich unter anderem mit der Frage, wie unterschiedliche Arten von Erklärungen, wie beispielsweise Merkmalsrelevanz, konzeptbasierte Erklärungen oder beispielbasierte Erklärungen, das Vertrauen in KI-Systeme beeinflussen. Gleichzeitig wollen sie Methoden entwickeln, die es ermöglichen, fehlerhafte KI-Ausgaben und Erklärungen zu korrigieren und somit die Interaktion weiter zu optimieren.
Die Erkenntnisse sollen in die Entwicklung eines Prototyps für eine Webanwendung einfließen. Er berücksichtigt nicht nur technische, sondern auch ethische Aspekte und zeigt so beispielhaft, wie die Mensch-KI-Kooperation gelingen kann.
Ethyde ist eine Kooperation zwischen dem Fachgebiet für Wirtschafts- und Sozialethik der Universität Hohenheim und dem Bayerischen Forschungsinstitut für Digitale Transformation (bidt) und kombiniert verschiedene wissenschaftliche Ansätze. Während in Hohenheim das Team um Prof. Dr. Matthias Uhl Experimente entwickelt, um die Ergebnisse mit konkreten Handlungsempfehlungen für ein ethikkonformes Design zu untermauern, beschäftigt sich das bidt mit technologischen Lösungen im Bereich interaktives maschinelles Lernen.
Das Bundesministerium für Bildung und Forschung (BMBF) fördert das Vorhaben mit insgesamt ca. 810.000 Euro, wovon das Fachgebiet für Wirtschafts- und Sozialethik der Universität Hohenheim etwas mehr als 435.000 Euro erhält.
