Nyt lovforslag skal sikre ansvarlig brug af AI

EU vedtog sidste år en ny forordning, der regulerer brugen af AI. Den har vi skrevet om her. Hvis lovforslaget bliver stemt igennem, vil det være Digitaliseringsstyrelsen, Datatilsynet og Domstolsstyrelsen, der skal føre kontrol med forbudt brug af AI ved at:

• Opkræve og indhente alle relevante og tekniske oplysninger om AI-systemer
• Gennemføre fysiske kontrolbesøg og tekniske undersøgelser af AI-systemer
• Give påbud og midlertidige stop for både salg, markedsføring og brug af forbudte AI-systemer
• Give bøder

Myndighederne kan også offentliggøre deres afgørelser om forbudt brug af AI.

IUNO mener

Lovforslaget kommer som led i den bredere europæiske regulering af AI, og medfører som noget nyt muligheden for at håndhæve de nye AI-regler. Virksomheder skal derfor sørge for, at de har redegjort for deres brug af AI og kan fremvise hvordan deres systemer virker, hvis myndighederne skulle komme på besøg.

IUNO anbefaler, at virksomheder allerede nu kortlægger deres brug af AI og vurderer, hvilken risikogruppe deres system falder under. Virksomheder skal også kunne forklare, hvordan systemet træffer beslutninger, og hvilke data, det anvender. Udover de nye regler skal AI-systemer også stadig overholde de almindelige regler om for eksempel forskelsbehandling og databeskyttelse.

[Forslag til lov om supplerende bestemmelser til forordningen om AI af den 26. februar 2025]