TL;DR. Artikel 9 der KI-Verordnung verlangt für jedes Hochrisiko-KI-System ein Risikomanagement über den ganzen Lebenszyklus, kein einmaliges Dokument. Der Digital-Omnibus hat die Fristen im Sommer 2026 verschoben: Für eigenständige Hochrisiko-Systeme nach Anhang III gilt Artikel 9 ab dem 2. Dezember 2027, für KI in regulierten Produkten wie Medizinprodukten oder Maschinen ab dem 2. August 2028. Verstöße gegen die Hochrisiko-Pflichten kosten bis zu 15 Mio. € oder 3 % des weltweiten Jahresumsatzes. Betroffen sind auch Mittelständler: mit KI im Recruiting, in der Bonitätsprüfung, in Medizinprodukten oder in Sicherheitsfunktionen.
Was Art. 9 konkret verlangt
Artikel 9 schreibt ein fortlaufendes, wiederholtes Risikomanagement-System vor. Es ist kein einmaliges Dokument, sondern ein Prozess, der über die gesamte Nutzungsdauer gepflegt wird. Wer es als einmaliges Audit versteht, scheitert im Konformitätsverfahren. Das System erfasst vorhersehbare Risiken für Gesundheit, Sicherheit und Grundrechte, und sein Aufwand muss zur Anwendung passen. Der Lebenszyklus zerfällt in vier Phasen mit eigenen Nachweisen:
| Phase | Was passiert | Nachweis |
|---|---|---|
| 1 · Risiken erkennen | Vorhersehbare Risiken und vorhersehbare Fehlanwendung erfassen, Grundrechte zuordnen | Risikoregister, Gefährdungsliste |
| 2 · Risiken mindern | Maßnahmen entwerfen, Restrisiko bewerten | Maßnahmenplan, Architektur-Dokumentation |
| 3 · Testen und validieren | Tests vor dem Inverkehrbringen, Prüfung auf Verzerrungen, Robustheit | Testberichte, Validierungsprotokolle |
| 4 · Beobachten im Betrieb | Nutzungsdaten auswerten, Vorfälle protokollieren | Plan zur Beobachtung nach dem Inverkehrbringen, Vorfallberichte |
Phase 4 ist keine Zugabe. Sie ist der Punkt, an dem viele scheitern. Ohne saubere Telemetrie keine Beobachtung im Betrieb nach Artikel 72, und ohne diese kein gültiges Risikomanagement.
Welche KI ist High-Risk
Hochriskant wird ein KI-System auf zwei Wegen. Entweder es steckt als Sicherheitsbauteil in einem Produkt, das schon unter EU-Produktrecht fällt, etwa Medizinprodukte oder Maschinen (Artikel 6 Absatz 1 mit Anhang I). Oder es fällt in einen der acht Bereiche aus Anhang III. Vier Fälle treffen den deutschen Mittelstand regelmäßig, oft ohne dass die Geschäftsführung es weiß:
- Recruiting und Personal (Anhang III Nr. 4). Jedes System, das Lebensläufe sichtet, Bewerber reiht oder Leistungsbeurteilungen automatisiert. Wer ein solches Werkzeug einsetzt, ist nach Artikel 26 als Betreiber mit eigenen Pflichten in der Kette, auch wenn das System von einem Softwareanbieter kommt.
- Bonität und Kreditentscheidung (Anhang III Nr. 5 b). KI-Bewertungsmodelle für die Kreditwürdigkeit natürlicher Personen. Wer etwa im Leasing oder bei Ratenzahlungen für Privatkunden mit KI bewertet, sollte prüfen, ob er darunter fällt.
- Medizinprodukte-Software (Anhang I). Software als Medizinprodukt ist hochriskant, sobald sie unter MDR oder IVDR eine Konformitätsbewertung durch eine benannte Stelle braucht, etwa Diagnose-Algorithmen, Triage-Werkzeuge oder Bildgebungs-KI. Artikel 9 gilt zusätzlich zur ISO 14971, nicht stattdessen.
- Sicherheitsfunktionen. KI als Sicherheitsbauteil in Maschinen fällt über Anhang I unter die Hochrisiko-Regeln. KI im Betrieb kritischer Infrastruktur, etwa in der Strom-, Gas- oder Wasserversorgung, fällt unter Anhang III Nr. 2.
Wann Art. 9 gilt: die Fristen nach dem Digital-Omnibus
Ursprünglich sollten die Hochrisiko-Pflichten für Anhang III ab dem 2. August 2026 gelten. Mit dem Digital-Omnibus hat die EU das verschoben. Für eigenständige Systeme nach Anhang III gilt Artikel 9 ab dem 2. Dezember 2027, für KI in regulierten Produkten nach Anhang I ab dem 2. August 2028. Andere Teile gelten längst: KI-Kompetenz der Beschäftigten seit Februar 2025, die Pflichten für Anbieter allgemeiner KI-Modelle seit August 2025, die Kennzeichnungspflichten aus Artikel 50 seit dem 2. August 2026.
Tage bis Art. 9 gilt, gerechnet ab 3. November 2026
Das klingt nach viel Zeit. Ein Risikomanagement-System entsteht aber nicht in einem Quartal, denn Phase 4 braucht Daten aus dem echten Betrieb. Wer jetzt beginnt, kann Telemetrie und Register in Ruhe aufbauen, statt im Herbst 2027 unter Druck nachzudokumentieren.
Wie ein Risikomanagement-System aussieht
Ein konformes System folgt einem wiederholten Ablauf mit klaren Toren: den Zweck festlegen, vorhersehbare Fehlanwendung erkennen, Risiken schätzen (Schwere mal Eintrittswahrscheinlichkeit), Gegenmaßnahmen entwerfen, das Restrisiko bewerten, gegen die Maßnahmen testen, die Beobachtung im Betrieb aufsetzen und alles laufend aktualisieren. Die Nachweise müssen jederzeit prüfbar sein. Benannte Stellen erwarten auf jedem Dokument Version, Datum und Verantwortlichen.
Die Bußgelder machen klar, warum sich das lohnt. Die KI-Verordnung staffelt sie in Artikel 99 nach Schwere des Verstoßes. Den höchsten Rahmen gibt es für verbotene Praktiken, nicht für Artikel 9:
Bußgeldrahmen nach Art. 99 KI-Verordnung
MedTech-Spezifika: Art. 9 vs. ISO 14971
Die häufigste Verwechslung in der Medizintechnik: „Wir haben doch ISO 14971, dann sind wir konform mit der KI-Verordnung.“ Das stimmt nicht. Die Anforderungen ergänzen sich, sie ersetzen sich nicht.
| Dimension | ISO 14971 | Art. 9 KI-Verordnung |
|---|---|---|
| Geltungsbereich | Medizinprodukte (MDR, IVDR) | Alle Hochrisiko-KI-Systeme |
| Schutzgut | Sicherheit der Patienten, klinischer Nutzen | Gesundheit, Sicherheit und Grundrechte |
| Verzerrungen in Daten | nicht ausdrücklich gefordert | Pflicht über Art. 10 (Daten) und Art. 15 (Genauigkeit, Robustheit) |
| Beobachtung im Betrieb | Überwachung nach MDR Art. 83 ff. | Plan nach Art. 72 KI-Verordnung |
Wer beide Welten zusammen betreibt, kann viele Nachweise gemeinsam führen, etwa Risikoregister und Beobachtung im Betrieb. Die Prüfung auf Verzerrungen und die Zuordnung zu Grundrechten sind aber eigene Pflichten der KI-Verordnung und müssen ergänzt werden. Für Medizinprodukte gilt Artikel 9 ab dem 2. August 2028.
Ein typischer Weg für einen MedTech-Hersteller
Nehmen wir einen mittelständischen Hersteller mit drei Software-Medizinprodukten: zwei Algorithmen für die Bildgebung und ein Triage-Wert. Die ISO 14971 ist voll umgesetzt, Nachweise nach Artikel 9 und Prüfungen auf Verzerrungen fehlen. Ein sinnvoller Weg sieht so aus:
- Zweck und Fehlanwendung je Produkt festschreiben, auf Basis der vorhandenen Zweckbestimmung nach MDR.
- Das bestehende Risikoregister um Grundrechte erweitern, etwa ungleiche Fehlerraten für Patientengruppen.
- Prüfungen auf Verzerrungen aufsetzen, mit Trainings- und Testdaten nach Artikel 10.
- Telemetrie für den Betrieb einbauen, damit Abweichungen im echten Einsatz sichtbar werden.
- Alles versionieren, mit Datum und Verantwortlichem, sodass eine benannte Stelle jeden Stand nachvollziehen kann.
Wie viel Aufwand das im Einzelfall ist, hängt von Datenlage und Produktzahl ab. Seriöse Zahlen gibt es erst nach einer Bestandsaufnahme.
Was häufig falsch gemacht wird
Drei Muster begegnen uns immer wieder. Alle lassen sich mit vertretbarem Aufwand korrigieren, wenn man früh genug anfängt.
- „Wir sind ja kein KI-Anbieter.“ Als Betreiber hat man nach Artikel 26 eigene Pflichten, auch wenn das System von einem Softwareanbieter kommt. Wer ein KI-Werkzeug im Personalbereich einsetzt, ist mitverantwortlich dafür, dass es gemäß seinem Zweck verwendet wird.
- ISO 14971 als vollständiger Ersatz. Verzerrungen und Grundrechte fehlen dort. Wer das erst im Konformitätsverfahren entdeckt, verliert Zeit.
- Keine Beobachtung im Betrieb. Ohne Telemetrie bleibt das Risikomanagement ein totes Dokument. Abweichungen im echten Einsatz und Randfälle bleiben unsichtbar, der Nachweis laufender Pflege fehlt.
Artikel 9 ist kein einmaliger Compliance-Akt, sondern eine Arbeitsweise in der Entwicklung. Wer das Risikomanagement als Dokumentenübung behandelt, baut sich eine Pflichtverletzung mit Verzögerung. Wer es als Prinzip der Architektur versteht, hat Vorlauf.
Was Sie jetzt tun sollten
- Ihre Rolle klären: Anbieter, Betreiber oder beides?
- Ihre KI-Systeme den Anhängen zuordnen. Anhang III gilt ab Dezember 2027, Anhang I ab August 2028.
- Mit der Telemetrie beginnen, denn Phase 4 braucht Daten aus dem Betrieb, und die entstehen nicht über Nacht.
- Vorhandene Normen nutzen. ISO 14971 oder ein bestehendes ISMS tragen viel, aber nicht alles.
Stand 3. November 2026, Grundlage ist die Verordnung (EU) 2024/1689 in der Fassung nach dem Digital-Omnibus. Wie ein Managementsystem mit Nachweisen in der Praxis vorbereitet wird, zeigt unser Beitrag zum TISAX-Audit. Wenn Sie klären wollen, welche Ihrer Systeme betroffen sind, sprechen Sie uns gern an.
