EU AI Act für Life Sciences: Wann KI als Hochrisiko gilt

Die häufigste Fehlannahme zum EU AI Act lautet: Ob ein KI-System als Hochrisiko gilt, hänge davon ab, wie komplex das Modell ist oder wie autonom es entscheidet. In Life Sciences ist das falsch. Für KI in Medizinprodukten und In-vitro-Diagnostika entscheidet nicht die Technologie über die Einstufung, sondern der regulatorische Pfad, dem das Produkt ohnehin schon folgt. Wer diesen Mechanismus übersieht, stuft sein System nach Bauchgefühl ein und liegt damit oft auf der falschen Seite der strengsten Regulierungsstufe.

Was den Hochrisiko-Status auslöst

Der EU AI Act (Verordnung (EU) 2024/1689) kennt zwei Wege in die Hochrisiko-Kategorie, und für Life Sciences ist vor allem der erste relevant.

Nach Art. 6 Abs. 1 gilt eine KI als Hochrisiko-KI, wenn zwei Bedingungen zusammenkommen: Das KI-System ist Sicherheitskomponente eines Produkts oder selbst ein Produkt, das unter eine der gelisteten Harmonisierungsrechtsvorschriften fällt (dazu zählen MDR (EU 2017/745) und IVDR (EU 2017/746)), und dieses Produkt muss einer Konformitätsbewertung durch eine Benannte Stelle unterzogen werden. Genau hier wird die MDR-/IVDR-Klassifizierung zum Auslöser: Software, die als Medizinprodukt nach MDR typischerweise ab Klasse IIa eingestuft ist, durchläuft eine Konformitätsbewertung durch eine Benannte Stelle. Bei IVD greift derselbe Mechanismus über die risikobasierten Klassen der IVDR. Die Klassifizierung des Produktrechts entscheidet also mit darüber, ob der AI Act in seiner strengsten Form greift.

Der zweite Weg läuft über Art. 6 Abs. 2 und die Anwendungsfall-Liste in Anhang III. Diese erfasst KI in bestimmten Einsatzfeldern unabhängig vom Produktrecht. Für Medizinprodukte- und IVD-Hersteller dominiert in der Praxis der Produktpfad nach Abs. 1, weil er unmittelbar an die ohnehin laufende MDR-/IVDR-Konformitätsbewertung anknüpft.

Warum die Reihenfolge der Prüfung zählt

Die Risikoklasse ist kein nachgelagertes Etikett, sondern der erste Schritt. Erst wenn feststeht, ob ein System Hochrisiko-KI ist, lässt sich ableiten, ob die Pflichten nach Art. 8 bis 15 überhaupt greifen. Wer diese Einstufung überspringt, läuft in zwei Richtungen ins Leere: Entweder baut er Nachweise für einen Pflichtenumfang auf, der gar nicht zutrifft, oder er übersieht Anforderungen, die er längst erfüllen müsste.

Eine typische Stolperfalle: Die Einstufung wird intern diskutiert, aber nicht formal festgehalten. Art. 9 EU AI Act verlangt ein dokumentiertes Risikomanagementsystem. Eine nicht dokumentierte Klassifizierung gilt im Audit als nicht erfüllt und zwingt zur Nacharbeit, bevor sich überhaupt weitere Pflichten sinnvoll bearbeiten lassen. Die Begründung der Risikoklasse (welcher Pfad nach Art. 6, welche Produktklasse, welche Benannte Stelle) gehört deshalb von Anfang an schriftlich vorgehalten.

Welche Pflichten für Hochrisiko-KI gelten

Steht die Einstufung als Hochrisiko-KI, greifen die Anforderungen aus Art. 8 bis 15 EU AI Act. Die für Life-Science-Systeme zentralen Punkte:

• Risikomanagement (Art. 9): ein kontinuierliches, dokumentiertes System über den gesamten Lebenszyklus, nicht eine einmalige Bewertung.
• Daten und Daten-Governance (Art. 10): Nachweise zu Quellen, Bias-Review und Repräsentativität der Trainings-, Validierungs- und Testdaten. Die Latte liegt höher als bei üblicher ML-Entwicklungspraxis: Repräsentativität und demografische Abdeckung müssen belegt sein, nicht angenommen.
• Technische Dokumentation (Art. 11 + Anhang IV): Systembeschreibung, Trainingsdaten-Dokumentation, Leistungsmetriken, Beschreibung der menschlichen Aufsicht und Robustheitsbewertung. Diese KI-spezifischen Inhalte gehen über die klassische MDR-Technische-Dokumentation hinaus.
• Menschliche Aufsicht (Art. 14): als Designprinzip implementiert und über Design- sowie UX-Dokumentation nachgewiesen. Dass ein Anwender theoretisch eingreifen kann, reicht ohne dokumentierten Mechanismus nicht aus.
• Genauigkeit, Robustheit, Cybersicherheit (Art. 15): belegte Leistungsgrenzen und Widerstandsfähigkeit gegen Fehler und Manipulation.
• Beobachtung nach dem Inverkehrbringen (Art. 72): ein Post-Market-Monitoring, das Modellperformanz, Concept Drift und unerwünschte Ausgaben im Betrieb erfasst.

Der eigentliche Engpass liegt in der Parallelität. Software as Medical Device unterliegt MDR oder IVDR und dem AI Act gleichzeitig. Wer beide Rahmen als getrennte Projekte mit eigenen Dokumentensätzen führt, erzeugt redundanten Pflegeaufwand und widersprüchliche Versionen. Das Post-Market-Monitoring nach Art. 72 etwa lässt sich mit der bestehenden MDR-/IVDR-Post-Market-Surveillance verzahnen, statt es parallel zu führen. Kommt KI in GxP-Prozessen zum Einsatz, etwa in Pharmaproduktion, Qualitätskontrolle oder Laborsystemen, tritt mit dem EU-GMP-Annex-22-Entwurf (in Konsultation 2025, noch nicht final) eine weitere Ebene über den GMP Annex 11 zu computergestützten Systemen hinzu. Diese Anforderungen sollten frühzeitig mitgedacht werden, auch wenn der Annex noch nicht verabschiedet ist.

Welche Geltungsdaten zählen

Der EU AI Act ist seit August 2024 in Kraft und gilt gestaffelt. Drei Daten sind für Life Sciences relevant:

• Das Verbot bestimmter KI-Praktiken nach Art. 5 greift seit Februar 2025.
• Die Pflichten für Hochrisiko-KI der Anhang-III-Anwendungsfälle gelten ab dem 2. August 2026.
• Für KI, die als Produkt oder Sicherheitskomponente über Art. 6 Abs. 1 unter MDR oder IVDR fällt, greift die längere Frist bis zum 2. August 2027.

Für die meisten Medizinprodukte- und IVD-Hersteller ist damit der 2. August 2027 das maßgebliche Datum, weil ihre KI dem Produktpfad folgt. Diese Geltungsdaten stehen unter Vorbehalt: Auf EU-Ebene wird eine Verschiebung der Hochrisiko-Fristen beraten, die zum Redaktionsschluss noch nicht förmlich beschlossen und im Amtsblatt veröffentlicht war. Der aktuelle Stand sollte vor der Planung geprüft werden. Am Vorgehen ändert das nichts: Klassifizierung, Gap-Analyse und der Aufbau der Nachweise nach Anhang IV brauchen Vorlauf, zumal die Benannte Stelle in die Bewertung eingebunden ist. Wer die Frist als fern abtut, unterschätzt den Aufwand für Daten-Governance und technische Dokumentation.

Was zu tun ist

Der erste Schritt ist die dokumentierte Einstufung nach Art. 6: Produktpfad nach Abs. 1 oder Anwendungsfall-Liste nach Abs. 2, mit nachvollziehbarer Begründung. Daran schließt eine Gap-Analyse gegen Art. 8 bis 15 an, und darauf ein Integrationsmodell, das die AI-Act-Nachweise auf die bestehende technische Dokumentation, das QMS und das Post-Market-System abbildet, statt eine zweite Aktenwelt aufzubauen.

Entourage setzt genau an dieser Stelle an: bei der Klassifizierung nach Art. 6, der Gap-Analyse gegen die Hochrisiko-Anforderungen und der Verzahnung mit MDR, IVDR und, wo einschlägig, dem Annex-22-Entwurf. Ziel ist ein Nachweisrahmen, in dem jede Anforderung einmal belegt und konsistent gepflegt wird.