KI-Systeme mit hohem Risiko im Rahmen des EU-KI-Gesetzes

Das EU-KI-Gesetz stuft bestimmte Anwendungsfälle der KI als Hochrisiko. Falls Ihr System unter eine dieser Kategorien fällt, müssen Sie eine ganze Reihe von Auflagen erfüllen, bevor Sie es rechtmäßig auf dem EU-Markt in Verkehr bringen dürfen.

Die Kategorien des Anhangs III in einfacher Sprache

• Biometrische Identifizierung und Kategorisierung natürlicher Personen
• Management von kritische Infrastruktur (Energie, Wasser, Verkehr)
• Bildung sowie berufliche Bildung (Zulassung, Benotung, Prüfungsaufsicht)
• Beschäftigung (Personalbeschaffung, Aufgabenzuweisung, Leistungsbeurteilung)
• Zugang zu lebensnotwendigen private und öffentliche Dienstleistungen (Bonitätsprüfung, Sozialleistungen, Versicherungen)
• Strafverfolgung, Migration, Grenzkontrolle, Rechtspflege
• Demokratische Prozesse (z. B. Einflussnahme auf Wahlen)

Wesentliche Pflichten für Anbieter

1. Risikomanagementsystem über den gesamten Lebenszyklus hinweg
2. Daten und Datenverwaltung — repräsentativ, relevant, fehlerfrei
3. Technische Dokumentation (Anhang IV) wird auf dem neuesten Stand gehalten
4. Aufbewahrung von Unterlagen — automatische Protokollierung von Ereignissen
5. Transparenz sowie Informationen für die Einsatzbetreiber
6. Menschliche Aufsicht im System integriert
7. Genauigkeit, Robustheit, Cybersicherheit mit festgelegten Leistungskennzahlen
8. Qualitätsmanagementsystem die gesamte Organisation umfassend
9. Konformitätsbewertung, CE-Kennzeichnung, Eintragung in die EU-Datenbank
10. Überwachung nach dem Inverkehrbringen sowie die Meldung von Vorfällen

Wo die meisten Teams den Aufwand unterschätzen

• Einen echten Daten-Governance Prozess (keine Folie)
• Erstellung von Anhang IV technische Dokumentation auf dem von den Aufsichtsbehörden erwarteten Niveau
• Entwerfen menschliche Kontrolle das ist sinnvoll, nicht nur kosmetischer Natur
• Einrichtung Überwachung nach dem Inverkehrbringen mit echter Telemetrie

Wenn Ihr Produkt die Bereiche Personalwesen, Kreditwesen, Gesundheitswesen, Bildungswesen, Versicherungswesen oder öffentliche Dienstleistungen betrifft – gehen Sie von einem hohen Risiko aus, bis das Gegenteil bewiesen ist, und beginnen Sie schon jetzt damit, eine Nachweiskette aufzubauen.