Til det netop overståede Folkemøde var kunstig intelligens i centrum for mange debatter. I Hortens debat udtalte eksperter sig om retssikkerhed, dataetik og regulering af kunstig intelligens. Diskussionerne handlede blandt anden om transparens og bias.
Horten havde fornøjelse af at være vært for en paneldebat på Folkemødet 2023, hvis omdrejningspunkt var kunstig intelligens. Debatten tog udgangspunkt i nogle af de mest centrale retssikkerhedsmæssige og dataetiske problemstillinger, som anvendelsen af kunstig intelligens giver anledning til. Hvis du gik glip af debatten, har vi samlet de væsentligste pointer her.
Panelet bestod - udover Emilie Loiborg fra Horten - af repræsentanter fra Folketingets Ombudsmand, Dataetisk Råd og Dataetisk Ungeråd kyndigt bistået af teknologisk indsigt ved Thomas Hildebrandt, Københavns Universitet.
Manglende transparens er et centralt punkt
Særligt centralt i debatten var for det første manglende transparens. Manglende transparens indebærer væsentlige begrænsninger i forklarlighed og dermed manglende mulighed for at sikre, at borgernes rettigheder og retsgarantier er blevet overholdt.
Thomas Hildebrandt understregede, at der ved brugen af kunstig intelligens altid vil være iboende fejl, som vi ikke kan forudsige, og at det derfor er: "Absolut vigtigt, at man kan gennemskue, hvordan en algoritme er nået frem til sit svar, så vi kan udfordre det og omgøre det og måske bremse en forkert beslutning".
Bias i algoritmen er et problem
En anden problemstilling, som panelet satte særligt fokus på, var udfordringen med forudindtagethed (bias) i algoritmer. Bias i algoritmens output kan ofte spores tilbage til algoritmens input. Bias, der opstår gennem datainput, kan skyldes flere ting, fx misvisende repræsentation i data eller en utilstrækkelig datakvalitet. Der vil altid være en vis bias i data, som ikke kan fjernes. Det er derfor afgørende, at man er opmærksom på dette, når man træner algoritmen.
Både de forvaltningsretlige regler, den kommende EU-forordning om kunstig intelligens og dataetikken indeholder alle krav til datainput. Man skal derfor overveje, hvilke data man putter ind i en algoritme, samt om disse data er repræsentative til formålet. Kvalificerede datainput er en forudsætning for et kvalificeret dataoutput.
Læs mere om Horten's arbejde med digital forvaltning og it-løsninger her samt om kunstig intelligens her.