Algoritmer udfordrer samfundets demokratiske grundstruktur

Efter at Facebook-skandalen langt om længe detonerede i marts 2018, opstod der i dele af offentligheden en spredt debat om mulige risici ved den tiltagende brug af algoritmisk styring – omsider –  fristes man til at tilføje.

Indtil videre synes denne debat ikke at have bragt videre afklaring om algoritmernes væsen. Deres råstof er i de fleste tilfælde ’Big Data’, og omkring hele dette teknologikompleks hersker der på universiteter, i private forskningsinstitutioner og i mange små start-ups en veritabel guldgraverstemning. Alle håber på at få en pipeline ind i det, der tegner til at blive de kommende års kilde til rigdom – eksorbitant rigdom.

Måske er dét årsagen til, at så mange ’fremtidsforskere’ og ’digitaliserings-eksperter’ har haft travlt med at fortælle landets journalister, at algoritmernes bagsider er ubetydelige, mens gevinsterne er enorme. Hvor meget oplysningsniveauet lader tilbage at ønske, fremgår med al ønskelig tydelighed af, at Kommunernes Landsforening (KL) endnu i august 2018, hvor dette skrives, gladelig forkynder på internettet, at de har betroet deres datavaretagelse og vedligeholdelse i sikre hænder – hos det solide firma Cambridge Analytica!

Cambridge Analytica er i dag likvideret. Det var virksomheden, der ved hjælp af 80 millioner Facebook-profiler, som man havde erhvervet ganske lovligt, hjalp til med politisk målrettede kampagner for Donald Trumps præsidentvalg i USA og for det negative udfald af Brexit-afstemningen i Storbritannien. Betalt lukrativt af delvis lyssky pengemænd, bl.a. fra russiske Lukoil, men også fra både USA og Storbritannien.

Når KL ikke har fået fjernet sin skamros af dette foretagende, skyldes det enten, at de endnu ikke har opdaget, hvor langt ude de selv har været – eller at de ikke kan finde ud af at slette deres egne spor på nettet. Ingen af delene forekommer særlig betryggende!

Bruges som styringsredskab

Men det er en misforståelse at tro, at udfordringen med algoritmer først og fremmest handler om datasikkerhed, solid kryptering og firewalls omkring personoplysninger. Problemerne er langt mere omfattende, som man kan forvisse sig om ved at læse de 11 kapitler i bogen ’De skjulte algoritmer’.

Efterhånden som digitalisering præger flere og flere livsområder – fra trafik til forvaltning, fra detailhandel til sygehuse – bliver det tydeligt, at algoritmerne først og fremmest anvendes som et styringsredskab, et instrument til ledelse. Algoritmerne tilbyder en automatisering, som kan spare både den fagprofessionelle vurdering og det erfaringsbaserede skøn i såvel private som offentlige virksomheder. Dermed udfordres hver en fiber i samfundets demokratiske grundstruktur.

Således er det i dag algoritmer, der i mange tilfælde afgør, hvilke ansøgere fra et stort kandidatfelt der udvælges til nærmere stillingssamtale. For de interesserede, der ikke satte de rette kodeord ind i deres jobansøgning – too bad! Det er også algoritmer, der afgør ansøgninger om boliglån og i det hele taget bankkundernes kassekredit. Selv en række af de mest elementære advokatfunktioner begynder algoritmerne at overtage. Inden længe vil såkaldt kunstig ’intelligens’ kunne halvere antallet af jurister i Danmark. Mindst.

’Digitaliseringsklar’ lovgivning

Som en meget god pejling på, hvor langt vi er kommet, kan man se på det forholdsvis nye krav om, at al fremtidig lovgivning skal være ’digitaliseringsklar’. Da statsminister Lars Løkke Rasmussen i november 2016 opdelte Finansministeriet i to og oprettede et nyt, stort ministerium for offentlig innovation, var det netop hele sigtet. ’Moderniseringsminister’ Sophie Løhdes hovedopgave er at introducere algoritmer overalt i forvaltningen. Uformelt får hendes ministerium en magt over hele Folketingets arbejde, eftersom det skal ’godkende’ alle lovforslag.

Det er en veritabel samfundsomvæltning, hvis allerstørste udfordring måske nok er, at algoritmerne udelukker enhver appel. Når det er en maskine, der afgør tilkendelse af efterløn eller tvangsfjernelse af et barn, når det er en maskine, der bestemmer kræftpatientens behandlingsforløb, når det er en maskine, der afgør, om en iværksætter skal støttes med lån – ja, så får afgørelsen en hidtil uset form for definitivitet. Det er jo netop meningen! Afgørelserne skal være rigtige, ’objektive’.

Men uanset hvor meget man kalder alle disse automatiseringsprogrammer for ’algoritmer’ (hvilket på mange måder er en tilsnigelse), så er de udformet af it-programmører, der har lagt et utal af forudsætninger ind i programmerne; forudsætninger, der bygger på vurderinger. Men nu sidder disse vurderinger inde i ’hjernen’ på en kasse, og så er der jo ingen, der kan se dem længere. Så må de være rigtige. 

Kina som laboratorium

Skulle der findes en læser eller to, der ikke kan se demokratiske udfordringer i alt dette, vil jeg opfordre til et nærmere studium af Kina som aktuelt laboratorium for social kontrol.

“Ingen regering har en mere ambitiøs og vidtrækkende plan for at udnytte datamagten til at ændre regeringsformen end den kinesiske,” siger Martin Chorzempa fra Peterson Instituttet for International Økonomi i Washington til MIT Technology Review. Og artiklens forfatter tilføjer for egen regning: ”Selv udenlandske iagttagere, der ser forandringerne på passende afstand, kan måske føle sig fristede til at overveje, om en data--dreven regeringsform måske kan være et brugbart alternativ til det valgsystem, der fremtræder mere og mere dysfunktionelt.”

Kinas ambition er at opnå positionen som verdens førende inden for kunstig intelligens allerede år 2030. Regeringen bruger Big Data fra sociale medier, ansigtsgenkendelsesteknologier, -myndighedsregistre m.m. – både til ’forebyggende kriminalitetsbekæmpelse’ og til at forhåndsvurdere, hvilke tiltag der vil fremkalde mindst modstand i befolkningen.

Det er slet og ret alternativet til den demokratiske valghandling. Fjernt fra Danmark? Foreløbig har lektor Jørn Sønderholm for nylig modtaget fem millioner kroner fra Det Frie Forskningsråd til at forske i datadrevne alternativer til den demokratiske styreform.

Bogen 'De skjulte algoritmer - teknoantropologiske perspektiver' er redigeret af Klavs Birkholm og Niels Frølich, og den udkom tidligere i år på Djøf Forlag.