BIOPRO Podcast Folge 9 - KI-Reihe Teil 1
Künstliche Intelligenz in der Medizin - Ohne rechtlichen Rahmen geht es nicht
In unserer Podcast-Reihe zum Thema Künstliche Intelligenz in der Medizin stellen wir Ihnen verschiedene Anwendungsbeispiele von KI in der Medizintechnik vor und betrachten ebenfalls den notwendigen rechtliche Rahmen dafür. Im ersten Teil unterhalten wir uns mit Rechtsanwältin Jutta Dillschneider von der Pricewaterhouse Coopers Legal AG zum Thema Regularien und Gesetze im Bereich der Künstlichen Intelligenzen. Seit Juni 2023 befinden sich EU-Parlament, EU-Kommission und EU-Rat im Trilog zu einer Verordnung über Künstliche Intelligenz. Wir wollten von Frau Dillschneider wissen, wo wir mit den Regularien aktuell stehen, was eventuell auf Entwickler und Produzenten zukommen könnte und worüber in Bezug auf den Rechtsrahmen nachgedacht werden muss.
© Tima Miroshnichenko / Pexels0:00 Intro
1:30 Welche rechtlichen Rahmenbedingungen haben wir aktuell bei KI in der Medizintechnik?
2:00 Jutta Dillschneider erklärt verschiedene Rahmenbedingungen die Einfluss auf KI-Anwendungen in der Medizintechnik haben: U.a. die MDR-Verordnung, welche die generelle Zulassung von Medizinprodukten regelt, sowie der neue, im Entwurfstadium befindliche AI-Act der Europäischen Union, der gezielt die Rahmenbedingungen für Künstliche Intelligenz abstecken soll in Ergänzung zur MDR.
5:10 Frau Dillschneider geht auf die Herausforderung ein, welche die diskutierte EU-Verordnung mit sich bringt: Es entsteht ein Spannungsfeld zwischen dem Schutz der Persönlichkeitsrechte und den Möglichkeiten und dem Potential, welche die neuen KI-Anwendungen in der Medizin mit sich bringen.
8:30 Konkrete rechtliche Schwierigkeiten, die bei der Anwendung von KI in der Medizin entstehen können, sieht Frau Dillschneider unter anderem bei der Haftungsfrage bei ärztlichen Kunstfehlern. Wer trägt letztlich die Verantwortung bei Fehlern? Wie weit muss klinisches Personal in den technischen Details geschult sein, um KI-Medizinprodukte zu verwenden? Wie weit können und müssen Patienten in die Entscheidungen mit einbezogen werden? Hier bestehen noch viele ungeklärte Fragen.
19:30 Wann fällt ein Medizinprodukt, das Auswertungen mittels KI-gestützter Software enthält, eigentlich unter den EU AI-Act?
