Højrisiko AI-systemer under EU's AI-forordning

EU's AI-forordning klassificerer visse AI-anvendelsestilfælde som højrisiko. Hvis dit system falder ind under en af disse kategorier, arver du en lang liste af forpligtelser, før du lovligt kan bringe det i omsætning på EU-markedet.

Bilag III-kategorierne i almindeligt sprog

• Biometrisk identifikation og kategorisering af fysiske personer
• Forvaltning af kritisk infrastruktur (energi, vand, trafik)
• Uddannelse og erhvervsuddannelse (optagelse, bedømmelse, proctoring)
• Beskæftigelse (rekruttering, tildeling af opgaver, præstationsevaluering)
• Adgang til væsentlige private og offentlige tjenester (kreditvurdering, ydelser, forsikring)
• Retshåndhævelse, migration, grænsekontrol, retspleje
• Demokratiske processer (f.eks. påvirkning af valg)

Centrale forpligtelser for udbydere

1. Risikostyringssystem gennem hele livscyklussen
2. Data og datastyring – repræsentative, relevante, fejlfrie
3. Teknisk dokumentation (bilag IV) holdt opdateret
4. Journalføring – automatisk logning af hændelser
5. Gennemsigtighed og information til implementering
6. Menneskelig overvågning indbygget i systemet
7. Nøjagtighed, robusthed, cybersikkerhed med deklarerede ydelsesparametre
8. Kvalitetsstyringssystem, der dækker hele organisationen
9. Overensstemmelsesvurdering, CE-mærkning, registrering i EU-database
10. Overvågning efter markedsføring og hændelsesrapportering

Hvor de fleste teams undervurderer indsatsen

• Opbygning af en faktisk datastyringsproces (ikke en slide)
• Udformning af bilag IV teknisk dokumentation på det niveau, som myndighederne forventer
• Design af menneskelig overvågning, der er meningsfuld, ikke kosmetisk
• Opsætning af overvågning efter markedsføring med reel telemetri

Hvis dit produkt berører HR, kredit, sundhed, uddannelse, forsikring eller offentlige tjenester – antag højrisiko, indtil det modsatte er bevist, og begynd at opbygge dokumentationssporet nu.