AI og algoritmeledelse
Pharma 01/2023
Hvordan kommer fremtidens arbejdsliv til at se ud? En ting er helt sikkert: hurtigt udviklende teknologi kommer til at have en kæmpe indflydelse på danskernes arbejdsliv. En af disse teknologier er AI – kunstig intelligens. Pharma beskriver her dilemmaerne. For eksempel at AI bruges til at træffe beslutninger om personaleforhold.
Af Marcus Bossen, juridisk konsulent, Pharmadanmark
EU har nu kastet sig over AI-teknologien (Artificial Intelligence) i et forsøg på at finde en balance mellem henholdsvis fremmelsen af det fælleseuropæiske marked og hensynet til borgernes grundlæggende rettigheder.
Allerede i forbindelse med implementeringen af persondataforordningen (GDPR) i 2018 kan man argumentere for, at udviklingen af ny teknologi satte retningen og tempoet for lovgivning i EU. Dette ser ud til igen at være tilfældet med AI og algoritmeledelse.
Det fremtvinger nemlig en række etiske spørgsmål:
- Skal en arbejdstager acceptere at blive overvåget?
- Skal arbejdsgivers beslutninger træffes af AI-systemer?
- Bør der være grænser for anvendelsen af AI?
AI – hvad er det?
I den foreløbige lovgivning fra EU er AI beskrevet som næsten alle softwaresystemer, der med henblik på et givet sæt mål fastsat af mennesker kan generere output, såsom indhold, forudsigelser, anbefalinger eller beslutninger, som påvirker de miljøer, de interagerer med.
Ud fra EU’s definition af AI lader det til, at mange allerede eksisterende og fremtidige digitale systemer defineres som AI. Dermed bliver de også omfattet af den kommende lovgivning.
EU-lovgivning på vej
AI-systemer opererer allerede i vidt omfang på det danske arbejdsmarked – systemerne er dog ikke direkte reguleret og defineret som systemer, der bruger kunstig intelligens. AI kan for eksempel allerede bruges til rekruttering, hvor et digitalt redskab kan forhåndssortere ansøgerne.
Det kan også bruges i det daglige til udarbejdelse af for eksempel vagtplaner, opgavefordeling, kvalitetskontrol, GPS-overvågning og online læring. Listen er nærmest uendelig. På samme måde kan kunstig intelligens også bidrage til store beslutninger om ansættelsesforholdet såsom anbefaling af fyringer og forfremmelser, disciplinering og i sidste ende afskedigelse.
Når et værktøj kan have så stor indflydelse på vores liv, så er det kun naturligt, at vi forventer en beskyttelse i lovgivningen, og at der skal føres menneskelig kontrol med et sådant værktøj.
AI bruger nemlig ofte data om os til at træffe beslutninger, som har betydning for os. Det er derfor vigtigt, at arbejdstagernes grundlæggende rettigheder beskyttes, og at arbejdsgiverens udøvelse af ledelsesretten ikke – direkte eller indirekte – fører til, at der bliver lagt vægt på ulovlige kriterier ved eksempelvis afskedigelse.
Dette kan man kun sikre ved menneskelig kontrol.
Hvordan beskytter man arbejdstager?
Politikerne vil beskytte borgernes data, men beskyttelsen skal samtidig ikke hæmme udviklingen af ny brugbar teknologi, som kan være med til at sikre et bedre, sikrere, mere fleksibelt og mere effektivt arbejdsliv.
Der er da også lagt op til i den foreløbige AI-forordning, at netop beskæftigelsesforhold skal ydes en stor sikkerhed. Dette gøres blandt andet ved at sikre, at virksomhederne i stort omfang er ansvarlige for den skade, som deres AI potentielt måtte forvolde.
Der er også lagt op til, at virksomheder, der ikke kan leve op til lovgivningens krav, kan idømmes bøder af en mærkbar størrelse. Her kender vi allerede til store bøder fra EU på GDPR, og når virksomheder overtræder konkurrencelovgivningen.
Der lægges i forlængelse af dette op til, at arbejdsgiveren skal udarbejde en form for underretning af medarbejderne om brug af AI-systemer samt en etisk code of conduct vedrørende virksomhedens brug af AI.
Herudover opfordrer EU klart til, at når der allerede sker overvågning af medarbejdere, så skal omfanget af overvågningen kontrolleres.
Der skal også være en saglig begrundelse for en sådan overvågning. Derudover skal medarbejderne orienteres om, at overvågningen finder sted. Disse vilkår kendes allerede fra gældende lovgivning.
Den forventede effekt på det danske arbejdsmarked
Der eksisterer altså allerede lovgivning, som regulerer både arbejdsgivers databrug samt kontrol med deres medarbejdere. Spørgsmålet trænger sig således på; Er den kommende lovgivning om AI bare noget i en ny indpakning?
Som det ser ud lige nu, er der store ambitioner fra EU’s side om mere skærpede regler, men lovgivningen er langt fra endeligt på plads. Det er for eksempel nyt, at mange af reglerne nedskrives, ligesom detaljegraden i reglernes indhold forventes at blive væsentligt forøget.
Man kan derfor forvente, at nedskrivningen af allerede gældende regler samt introduktionen af nye regler vil fange arbejdsmarkedets parters interesse. Især må man forvente, at bøderne for brud på de nye regler vil have lignende effekt, som den vi så på GDPR-området – det vil blive taget alvorligt.
