Der Red-Queen-Effekt im Gesundheitssystem: zur Entwicklung, Regulierung und Realität von KI

Im populären KI-Diskurs dominiert das Rennen um die Zukunftstechnologie, und auch vor dem Gesundheitssystem und der medizinischen Versorgung macht der Hype nicht Halt. Seit August 2024 ist die europäische KI-Verordnung – der EU AI Act – in Kraft. Sie soll den sicheren und vertrauenswürdigen Einsatz künstlicher Intelligenz in der EU regeln, insbesondere medizinische Produkte gelten als Hochrisiko-Anwendungen. In ihrem Vortrag erklärt Prof. Dr. Petra Ritter, wo wir uns derzeit im Bereich der digitalen Transformation im Gesundheitssystem befinden und welche Herausforderungen im Zertifizierungsprozess von KI-Anwendungen bestehen. Denn neben einer zentralen KI-Aufsichtsbehörde fehlen bislang standardisierte Prozesse und eine verlässliche Infrastruktur, um KI-gestützte Gesundheitsanwendungen auf ihre Zuverlässigkeit, Sicherheit und Nützlichkeit zu prüfen.

Das am Berlin Institute of Health (BIH) koordinierte EU-Projekt TEF-Health – Testing and Experimentation Facility for Health AI and Robotics erprobt, wie ein standardisierter Prozess für KI-Anwendungen aussehen könnte, der Bias, Sicherheit, Fairness und Transparenz prüft und anpasst.

Die Akkreditierung von KI-Produkten, die ab 2026 europaweit gesetzlich verpflichtend sein wird, müsste der Entwicklung eigentlich einen Schritt voraus sein, denn Regeln beziehen sich auf bestehende Standards. Doch mit kontinuierlichen technologischen Entwicklungen müssen ständig auch neue Parameter ausgearbeitet werden.
 

Eine Anmeldung ist erforderlich. Der Veranstaltung findet auf Deutsch statt.