En vigtig udfordring er risikoen for, at kunstig intelligens kan forstærke allerede eksisterende forskelsbehandling inden for retssystemet. AI-systemer trænes på historiske data og baserer derfor deres output på dem. Hvis disse data er partiske, kan det føre til diskrimination. Det er derfor vigtigt nøje at evaluere AI-systemers struktur, kode og funktion for at identificere og korrigere eventuelle uligheder eller skævheder. Det er også vigtigt at sikre, at det materiale, som AI-systemet er baseret på, er af den højest mulige kvalitet med hensyn til upartiskhed og nøjagtighed.
"Det er vigtigt at være opmærksom på potentielle bias og menneskerettigheder, når man udvikler og bruger kunstig intelligens. Det er ikke sikkert, at det er muligt at fjerne dem alle, fordi de er i data, men så kræver det som minimum, at løsningerne tager højde for de potentielle risici, samt sikrer at eventuelle biases ikke bliver en del af en AI-baseret beslutning, siger Maiken Sundahl Jakobsen, Nordic Data Protection & Compliance Manager, Karnov Group.
Et andet centralt emne er, hvordan automatisering balanceres med menneskelig indsigt og ansvarlighed. Det kræver en kombination af teknisk know-how, juridisk viden og etiske overvejelser at sikre ansvarlig anvendelse af AI indenfor juridisk praksis. Det bliver derfor essentielt at have en tilgang til dette, der er integreret og sikrer, at der kan navigeres i at håndtere etiske spørgsmål og udfordringer i forbindelse med AI-teknologier.
"Det er vigtigt ikke udelukkende at se AI som en teknisk løsning, men også som et etisk dilemma. Vi skal være opmærksomme på potentielle risici og konsekvenser ved at bruge AI indenfor juridisk praksis såvel som andre discipliner og altid huske at stille os selv spørgsmålet; Er der nogle etiske risici og konsekvenser, der skal tages i betragtning, før vi designer eller bruger løsningen?" slutter Maiken Sundahl Jakobsen.
Hvad er AI Act?
AI Act fastsætter forpligtelser for udbydere og brugere afhængigt af det risikoniveau, som AI kan generere. Lovgivningsforslaget klassificerer og opdeler kunstig intelligens i forskellige risikoklasser såsom ikke-acceptabel AI og AI med høj risiko. Afhængig af risikoklassen skal de virksomheder, der udvikler og/eller anvender AI, opfylde og overholde specifikke krav. AI Act har til formål at sikre, at EU-borgernes rettigheder opfyldes, samtidig med at innovation fremmes. For virksomheder er det derfor vigtigt at tage højde for kravene i AI Act tidligt i produktudviklingen. Det er lige så vigtigt, hvis du er en virksomhed eller organisation, der køber et produkt med en AI-komponent, at undersøge produktet og komponenten for at sikre, at det opfylder alle lovkrav.
Hvad betyder AI Act i praksis?
De skridt en virksomhed skal tage inden lancering og implementering af AI, afhænger af den risikoklasse, som AI-produktet tilhører. Første skridt, for en virksomhed, der har planer om at implementere en AI-løsning, er at bestemme hvilken risikokategori AI-løsningen falder ind under. Herefter bør virksomheden udarbejde en risikovurdering af anvendelsen af AI samt dets potentiale.
Inden lancering er det afgørende, at virksomheden etablerer risikostyringsprocesser og et it-kontrolsystem, der sikrer at AI Act bliver overholdt. Virksomheden skal desuden være i stand til at rapportere, på en transparent måde, omkring produktets funktioner og den eventuelle betydning det kan have for individer. Uafhængigt af lovgivningen, bør enhver, der har planer om at anvende AI, sikre at dette sker på en ansvarlig og etisk måde.
Brugen af AI kan introducere nye sårbarheder i en organisation, som man måske ikke tidligere har været opmærksom på. På den baggrund er det også vigtigt, at man forholder sig til cybersikkerhedsrisici, samt hvordan AI kan påvirke beskyttelsen af privatlivet.
Hvem berøres af AI Act?
AI Act gælder ligesom GDPR for alle virksomheder, der tilbyder deres tjenester til EU-borgere og har dermed en global indvirkning, der vil kræve omstillingsarbejde for en række multinationale virksomheder.
Hvordan påvirker AI beskyttelsen af personoplysninger?
AI kan påvirke beskyttelsen af personoplysninger både positivt og negativt. På den ene side kan AI bruges som et værktøj til at forbedre sikkerheden og beskytte personoplysninger. På den anden side kan AI også bruges til at indsamle og analysere store mængder personoplysninger, hvilket kan være en risiko for en persons privatliv. En sikker implementering af AI-teknologi kræver, at virksomheden har en etisk tilgang til AI og implementerer klare styrings- og opfølgningsprocesser.
