Hochrisiko-KI-Systeme nach der EU-KI-Verordnung

Die EU-KI-Verordnung stuft bestimmte KI-Anwendungsfälle als hochriskant ein. Wenn Ihr System in eine dieser Kategorien fällt, müssen Sie eine lange Liste von Verpflichtungen erfüllen, bevor Sie es rechtmäßig auf dem EU-Markt bereitstellen können.

Die Kategorien von Anhang III in verständlicher Sprache

• Biometrische Identifizierung und Kategorisierung natürlicher Personen
• Verwaltung kritischer Infrastrukturen (Energie, Wasser, Verkehr)
• Bildung und Berufsbildung (Zulassungen, Bewertung, Überwachung)
• Beschäftigung (Rekrutierung, Aufgabenverteilung, Leistungsbeurteilung)
• Zugang zu wesentlichen privaten und öffentlichen Dienstleistungen (Kreditwürdigkeitsprüfung, Sozialleistungen, Versicherungen)
• Strafverfolgung, Migration, Grenzkontrolle, Justizverwaltung
• Demokratische Prozesse (z.B. Beeinflussung von Wahlen)

Kernpflichten für Anbieter

1. Risikomanagementsystem über den gesamten Lebenszyklus
2. Daten und Daten-Governance – repräsentativ, relevant, fehlerfrei
3. Technische Dokumentation (Anhang IV) aktuell halten
4. Aufzeichnungspflicht – automatische Protokollierung von Ereignissen
5. Transparenz und Information an Anwender
6. Menschliche Aufsicht in das System integriert
7. Genauigkeit, Robustheit, Cybersicherheit mit deklarierten Leistungsmetriken
8. Qualitätsmanagementsystem, das die gesamte Organisation abdeckt
9. Konformitätsbewertung, CE-Kennzeichnung, Registrierung in der EU-Datenbank
10. Überwachung nach dem Inverkehrbringen und Meldung von Vorfällen

Wo die meisten Teams den Aufwand unterschätzen

• Aufbau eines echten Daten-Governance-Prozesses (keine Folie)
• Erstellung der technischen Dokumentation nach Anhang IV in der von Regulierungsbehörden erwarteten Qualität
• Gestaltung einer menschlichen Aufsicht, die sinnvoll und nicht nur kosmetisch ist
• Einrichtung einer Überwachung nach dem Inverkehrbringen mit echter Telemetrie

Wenn Ihr Produkt HR, Kreditwesen, Gesundheit, Bildung, Versicherungen oder öffentliche Dienstleistungen betrifft – gehen Sie von einem hohen Risiko aus, bis das Gegenteil bewiesen ist, und beginnen Sie jetzt mit der Beweisführung.