EU: Nye regler om kunstig intelligens på vej
Selvom langt fra alle systemer med kunstig intelligens (AI) medfører større risici, er der et stigende behov for at sikre grundlæggende rettigheder, brugersikkerhed og tillid til systemernes udvikling. EU-Kommissionen er derfor netop kommet med et nyt udspil, hvorefter virksomheder vil skulle dokumentere høj-risiko anvendelse af sådanne systemer. Men hvilke konsekvenser kan det nye udspil egentlig få for din virksomhed?
Systemer med kunstig intelligens er i hurtig udvikling, og har både økonomiske og samfundsmæssige fordele. Systemerne udløser dog også en række problemstillinger, som skal håndteres for at undgå en uheldig udvikling. Det er baggrunden for, at EU-Kommissionen nu foreslår at regulere området.
Virksomheder kan anvende systemer med kunstig intelligens i en række situationer, og ofte kan systemerne effektivisere den normale arbejdsgang betydeligt. Eksempler kan omfatte screening af CV’er i forbindelse med rekruttering, men også i forhold til medarbejdere områder som kompetenceudvikling eller workforce planning.
Ifølge det nye udspil, vil alle virksomheder der bruger høj-risiko systemer med kunstig intelligens skulle opfylde en række krav for at undgå at blive pålagt høje bøder.
Jo højere risiko, des højere krav
Indledningsvist vil virksomheder først og fremmest skulle kunne inddele de systemer, der bliver brugt, i fire forskellige risikoniveauer:
- Uacceptabel risiko, hvorefter systemet er forbudt da det er imod EU’s værdier
- Høj risiko, hvorefter systemet har en negativ virkning for grundlæggende rettigheder
- Begrænset risiko, hvorefter systemet efter omstændighederne kan pålægges ekstra krav
- Minimal risiko, hvorefter der ikke gælder yderligere forpligtelser (langt de fleste systemer)
Systemer, der allerede nu er identificeret som en ”høj risiko” er eksempelvis systemer relateret til beskæftigelse, administration af arbejdskraft og adgang til selvstændig erhvervsvirksomhed, samt uddannelse og erhvervsuddannelse.
Virksomheder der bruger kunstig intelligens fra udbydere i EU eller tredjelande, der falder under kategorien ”høj risiko”, vil herefter skulle udarbejde teknisk dokumentation, opfylde informationsforpligtelser og opfylde en række andre krav, før et høj-risiko system bliver anvendt.
IUNO mener
Virksomheder bør allerede nu være opmærksomme på hvilke risici systemer med kunstig intelligens resulterer i, ved behandling af personoplysninger under databeskyttelsesreglerne. Det er eksempelvis tilfældet, når systemerne bliver brugt til automatiserede afgørelser.
IUNO mener, at virksomheder vil skulle afsætte ekstra fokus på at analysere de systemer, der er i brug i lyset af det nye udspil. Det skyldes, at de kommende regler vil medføre endnu strengere krav, med høje bødestraffe på 4 – 6 % af virksomhedens globale omsætning ved manglende overholdelse.
[Forslag til forordning om fastsættelse af harmoniserede regler om kunstig intelligens (retsakten om kunstig intelligens) og ændring af visse EU-retsakter af den 21. april 2021]
Systemer med kunstig intelligens er i hurtig udvikling, og har både økonomiske og samfundsmæssige fordele. Systemerne udløser dog også en række problemstillinger, som skal håndteres for at undgå en uheldig udvikling. Det er baggrunden for, at EU-Kommissionen nu foreslår at regulere området.
Virksomheder kan anvende systemer med kunstig intelligens i en række situationer, og ofte kan systemerne effektivisere den normale arbejdsgang betydeligt. Eksempler kan omfatte screening af CV’er i forbindelse med rekruttering, men også i forhold til medarbejdere områder som kompetenceudvikling eller workforce planning.
Ifølge det nye udspil, vil alle virksomheder der bruger høj-risiko systemer med kunstig intelligens skulle opfylde en række krav for at undgå at blive pålagt høje bøder.
Jo højere risiko, des højere krav
Indledningsvist vil virksomheder først og fremmest skulle kunne inddele de systemer, der bliver brugt, i fire forskellige risikoniveauer:
- Uacceptabel risiko, hvorefter systemet er forbudt da det er imod EU’s værdier
- Høj risiko, hvorefter systemet har en negativ virkning for grundlæggende rettigheder
- Begrænset risiko, hvorefter systemet efter omstændighederne kan pålægges ekstra krav
- Minimal risiko, hvorefter der ikke gælder yderligere forpligtelser (langt de fleste systemer)
Systemer, der allerede nu er identificeret som en ”høj risiko” er eksempelvis systemer relateret til beskæftigelse, administration af arbejdskraft og adgang til selvstændig erhvervsvirksomhed, samt uddannelse og erhvervsuddannelse.
Virksomheder der bruger kunstig intelligens fra udbydere i EU eller tredjelande, der falder under kategorien ”høj risiko”, vil herefter skulle udarbejde teknisk dokumentation, opfylde informationsforpligtelser og opfylde en række andre krav, før et høj-risiko system bliver anvendt.
IUNO mener
Virksomheder bør allerede nu være opmærksomme på hvilke risici systemer med kunstig intelligens resulterer i, ved behandling af personoplysninger under databeskyttelsesreglerne. Det er eksempelvis tilfældet, når systemerne bliver brugt til automatiserede afgørelser.
IUNO mener, at virksomheder vil skulle afsætte ekstra fokus på at analysere de systemer, der er i brug i lyset af det nye udspil. Det skyldes, at de kommende regler vil medføre endnu strengere krav, med høje bødestraffe på 4 – 6 % af virksomhedens globale omsætning ved manglende overholdelse.
[Forslag til forordning om fastsættelse af harmoniserede regler om kunstig intelligens (retsakten om kunstig intelligens) og ændring af visse EU-retsakter af den 21. april 2021]
Lignende
Flere medarbejdere indberetter psykisk arbejdsmiljø til Datatilsynet