KI Künstliche Intelligenz
BVMed-Stellungnahme zum „Artificial Intelligence Act“ (AIA) der EU-Kommission: „Überregulierung vermeiden, Datenzugang ermöglichen“
04.08.2021|64/21|Berlin|
Der AIA-Entwurf der EU-Kommission will Künstliche Intelligenz horizontal regulieren, also branchenübergreifend in allen Einsatzgebieten. „In der Medizin haben KI-Technologien ein großes Potenzial, um die Patientenversorgung zu verbessern“, so BVMed-Digitalexpertin Natalie Gladkov. „Insbesondere KI-Medizinprodukte können hier einen hochrelevanten Beitrag für die Entstehung von Innovationen leisten“, heißt es in der BVMed-Stellungnahme. „Solche disruptiven Innovationen werden dringend benötigt, um die Herausforderungen einer alternden Gesellschaft zu bewältigen.“
Vor dem Hintergrund des sektorübergreifenden Ansatzes der EU-Kommission warnt der BVMed allerdings vor einer Überregulierung des KI-Einsatzes in der Medizin. „Mehraufwände und Unsicherheiten in der Zulassung von KI-Medizinprodukten dürfen nicht zu Innovationshemmnissen führen. Zudem sollte in dem Verordnungsentwurf stärker berücksichtigt werden, dass digitale Medizinprodukte aufgrund der Anforderungen der MDR bereits ein sehr hohes Level an Sicherheit und Qualität für Patient:innen aufweisen“, so der BVMed. Für den deutschen MedTech-Verband ist beispielsweise die Einordnung des weit überwiegenden Teils der KI-Medizinprodukte in die Kategorie der „Hochrisikoprodukte“ zu pauschal und „sollte sich stärker am Kontext des konkreten Einsatzes orientieren“.
Im Einzelnen identifiziert der BVMed in seiner ausführlichen Stellungnahme Änderungsbedarf im „Artificial Intelligence Act“ (AIA) in folgenden neun Punkten:
- Die Einstufung als „Hochrisiko-KI-Systeme“ erfolgt zu pauschal. Der Kontext der Anwendung muss stärker berücksichtigt werden.
- Die Definition von Künstlicher Intelligenz in Art. 3 Nr. 1 AIA ist zu weit gefasst. Um Marktzugangshemmnisse für Medizinproduktehersteller zu verhindern, ist eine Nachschärfung der Definition dringend geboten.
- Durch einen hinreichenden Zugang zu medizinischen Daten können „Bias“ vermieden werden. Hierfür bedarf es einheitlicher Rechtsgrundlagen in der Datenverarbeitung.
- In der Verordnung sollten nur grundlegende Sicherheits- und Leistungsanforderungen geregelt werden. Konkrete für den Bereich der KI-Medizinprodukte angepasste Anforderungen sollten in den in Art. 40 AIA erwähnten harmonisierten Normen festgelegt werden.
- Im Kontext des räumlichen Anwendungsbereiches des AIA bedarf es einer Klarstellung, damit die Zweitverwendung der in einem Drittstaat gewonnenen Ergebnisse der KI nicht rückwirkend zur Anwendbarkeit des AIA führt.
- Aufgrund der Regelung in Art. 67 AIA droht bei KI-Medizinprodukten eine sachlich nicht gerechtfertigte „doppelte“ Nachmarktkontrolle AIA-konformer Produkte. Widersprüche zu den Vorgaben der MDR und Doppelaufwände für die Hersteller von Medizinprodukten müssen vermieden werden. Bestehende regulatorische Anforderungen können den mit KI assoziierten Risiken schon heute entgegenwirken.
- Umfang und Endpunkt der Händlerpflichten müssen klar definiert werden, damit keine Unklarheiten bei den Pflichten der Wirtschaftsakteure in der Lieferkette entstehen.
- Das Erfordernis einer gemeinsamen technischen Dokumentation nach Art. 11 (2) Artificial Intelligence Act kann die Kooperation zwischen Unternehmen erschweren. Hier bedarf es einer Klarstellung.
- Eine zusätzliche Überlastung der Benannten Stellen durch erhöhte Anforderungen an Medizinprodukte gilt es zu vermeiden. Umfassende Nachprüfungen der Produkte müssen ausgeschlossen sein.
Der BVMed vertritt als Wirtschaftsverband rund 230 Hersteller und Zulieferer der Medizintechnik-Branche sowie Hilfsmittel-Leistungserbringer und Homecare-Versorger. Die Medizinprodukteindustrie beschäftigt in Deutschland über 235.000 Menschen und investiert rund 9 Prozent ihres Umsatzes in Forschung und Entwicklung. Der Gesamtumsatz der Branche liegt bei über 34 Milliarden Euro, die Exportquote bei 66 Prozent. Dabei sind 93 Prozent der MedTech-Unternehmen KMUs. Der BVMed ist die Stimme der deutschen MedTech-Industrie und vor allem des MedTech-Mittelstandes.
