AI-systemer med høj risiko i henhold til EU’s AI-lov

EU’s AI-lov klassificerer visse anvendelsestilfælde inden for kunstig intelligens som hoejrisiko. Hvis dit system falder ind under en af disse kategorier, pålægges du en lang række forpligtelser, før du lovligt kan markedsføre det i EU.

Kategorierne i bilag III forklaret på almindeligt dansk

• Biometrisk identifikation og kategorisering af fysiske personer
• Håndtering af kritisk infrastruktur (energi, vand, trafik)
• Uddannelse og erhvervsuddannelse (optagelse, bedømmelse, eksamensovervågning)
• Beskæftigelse (rekruttering, opgavefordeling, præstationsvurdering)
• Adgang til livsvigtige private og offentlige tjenester (kreditvurdering, ydelser, forsikring)
• Retshåndhævelse, indvandring, grænsekontrol, retspleje
• Demokratiske processer (f.eks. indflydelse på valg)

Vigtigste forpligtelser for udbydere

1. Risikostyringssystem gennem hele livscyklussen
2. Data og datastyring — repræsentativ, relevant, fejlfri
3. Teknisk dokumentation (Bilag IV) holdes ajourført
4. Regnskabsføring — automatisk registrering af hændelser
5. Gennemsigtighed og oplysninger til de ansvarlige for implementeringen
6. Menneskelig tilsyn indbygget i systemet
7. Nøjagtighed, robusthed, cybersikkerhed med angivne præstationsmålinger
8. Kvalitetsstyringssystem der omfatter hele organisationen
9. Overensstemmelsesvurdering, CE-mærkning, registrering i EU-databasen
10. Overvågning efter markedsføring og indberetning af hændelser

Hvor de fleste hold undervurderer indsatsen

• At bygge en rigtig datastyring proces (ikke et dias)
• Udarbejdelse af bilag IV teknisk dokumentation på det niveau, som tilsynsmyndighederne forventer
• Design menneskelig kontrol der er meningsfuldt, ikke blot kosmetisk
• Opsætning overvågning efter markedsføring med ægte telemetri

Hvis dit produkt har berøring med HR, kredit, sundhed, uddannelse, forsikring eller offentlige tjenester — skal du gå ud fra, at det udgør en høj risiko, indtil det modsatte er bevist, og begynde at opbygge dokumentationskæden allerede nu.