Debat

Algoritmer udfordrer samfundets demokratiske grundstruktur

13-09-2018
5 min.

I Beijing bruges kunstig intelligens til ansigtsgenkendelse. Her i hovedkvarteret for firmaet Megvii, som beskæftiger sig med kunstig intelligens. Byen Beijing investerer kraftigt i teknologi til ansigtsgenkendelse for at kunne spore og overvåge borgerne.

Foto: Gilles Sabrié/New York Times/Ritzau Scanpix

Algoritmer indtager i øjeblikket alle sektorer af samfundslivet. Men størstedelen af denne udvikling foregår upåagtet. Og uden nogen form for eftertænksom debat om de etiske og samfundskulturelle perspektiver, skriver Klavs Birkholm, forfatter og direktør for Tænketanken TeknoEtik.

Efter at Facebook-skandalen langt om længe detonerede i marts 2018, opstod der i dele af offentligheden en spredt debat om mulige risici ved den tiltagende brug af algoritmisk styring – omsider –  fristes man til at tilføje.

Indtil videre synes denne debat ikke at have bragt videre afklaring om algoritmernes væsen. Deres råstof er i de fleste tilfælde ’Big Data’, og omkring hele dette teknologikompleks hersker der på universiteter, i private forskningsinstitutioner og i mange små start-ups en veritabel guldgraverstemning. Alle håber på at få en pipeline ind i det, der tegner til at blive de kommende års kilde til rigdom – eksorbitant rigdom.

Måske er dét årsagen til, at så mange ’fremtidsforskere’ og ’digitaliserings-eksperter’ har haft travlt med at fortælle landets journalister, at algoritmernes bagsider er ubetydelige, mens gevinsterne er enorme. Hvor meget oplysningsniveauet lader tilbage at ønske, fremgår med al ønskelig tydelighed af, at Kommunernes Landsforening (KL) endnu i august 2018, hvor dette skrives, gladelig forkynder på internettet, at de har betroet deres datavaretagelse og vedligeholdelse i sikre hænder – hos det solide firma Cambridge Analytica!

Cambridge Analytica er i dag likvideret. Det var virksomheden, der ved hjælp af 80 millioner Facebook-profiler, som man havde erhvervet ganske lovligt, hjalp til med politisk målrettede kampagner for Donald Trumps præsidentvalg i USA og for det negative udfald af Brexit-afstemningen i Storbritannien. Betalt lukrativt af delvis lyssky pengemænd, bl.a. fra russiske Lukoil, men også fra både USA og Storbritannien.

Når KL ikke har fået fjernet sin skamros af dette foretagende, skyldes det enten, at de endnu ikke har opdaget, hvor langt ude de selv har været – eller at de ikke kan finde ud af at slette deres egne spor på nettet. Ingen af delene forekommer særlig betryggende!

Bruges som styringsredskab

Men det er en misforståelse at tro, at udfordringen med algoritmer først og fremmest handler om datasikkerhed, solid kryptering og firewalls omkring personoplysninger. Problemerne er langt mere omfattende, som man kan forvisse sig om ved at læse de 11 kapitler i bogen ’De skjulte algoritmer’.

Efterhånden som digitalisering præger flere og flere livsområder – fra trafik til forvaltning, fra detailhandel til sygehuse – bliver det tydeligt, at algoritmerne først og fremmest anvendes som et styringsredskab, et instrument til ledelse. Algoritmerne tilbyder en automatisering, som kan spare både den fagprofessionelle vurdering og det erfaringsbaserede skøn i såvel private som offentlige virksomheder. Dermed udfordres hver en fiber i samfundets demokratiske grundstruktur.

Således er det i dag algoritmer, der i mange tilfælde afgør, hvilke ansøgere fra et stort kandidatfelt der udvælges til nærmere stillingssamtale. For de interesserede, der ikke satte de rette kodeord ind i deres jobansøgning – too bad! Det er også algoritmer, der afgør ansøgninger om boliglån og i det hele taget bankkundernes kassekredit. Selv en række af de mest elementære advokatfunktioner begynder algoritmerne at overtage. Inden længe vil såkaldt kunstig ’intelligens’ kunne halvere antallet af jurister i Danmark. Mindst.

’Digitaliseringsklar’ lovgivning

Som en meget god pejling på, hvor langt vi er kommet, kan man se på det forholdsvis nye krav om, at al fremtidig lovgivning skal være ’digitaliseringsklar’. Da statsminister Lars Løkke Rasmussen i november 2016 opdelte Finansministeriet i to og oprettede et nyt, stort ministerium for offentlig innovation, var det netop hele sigtet. ’Moderniseringsminister’ Sophie Løhdes hovedopgave er at introducere algoritmer overalt i forvaltningen. Uformelt får hendes ministerium en magt over hele Folketingets arbejde, eftersom det skal ’godkende’ alle lovforslag.

Skulle der findes en læser eller to, der ikke kan se demokratiske udfordringer i alt dette, vil jeg opfordre til et nærmere studium af Kina som aktuelt laboratorium for social kontrol.

Klavs Birkholm

Det er en veritabel samfundsomvæltning, hvis allerstørste udfordring måske nok er, at algoritmerne udelukker enhver appel. Når det er en maskine, der afgør tilkendelse af efterløn eller tvangsfjernelse af et barn, når det er en maskine, der bestemmer kræftpatientens behandlingsforløb, når det er en maskine, der afgør, om en iværksætter skal støttes med lån – ja, så får afgørelsen en hidtil uset form for definitivitet. Det er jo netop meningen! Afgørelserne skal være rigtige, ’objektive’.

Men uanset hvor meget man kalder alle disse automatiseringsprogrammer for ’algoritmer’ (hvilket på mange måder er en tilsnigelse), så er de udformet af it-programmører, der har lagt et utal af forudsætninger ind i programmerne; forudsætninger, der bygger på vurderinger. Men nu sidder disse vurderinger inde i ’hjernen’ på en kasse, og så er der jo ingen, der kan se dem længere. Så må de være rigtige. 

Kina som laboratorium

Skulle der findes en læser eller to, der ikke kan se demokratiske udfordringer i alt dette, vil jeg opfordre til et nærmere studium af Kina som aktuelt laboratorium for social kontrol.

“Ingen regering har en mere ambitiøs og vidtrækkende plan for at udnytte datamagten til at ændre regeringsformen end den kinesiske,” siger Martin Chorzempa fra Peterson Instituttet for International Økonomi i Washington til MIT Technology Review. Og artiklens forfatter tilføjer for egen regning: ”Selv udenlandske iagttagere, der ser forandringerne på passende afstand, kan måske føle sig fristede til at overveje, om en data--dreven regeringsform måske kan være et brugbart alternativ til det valgsystem, der fremtræder mere og mere dysfunktionelt.”



Kinas ambition er at opnå positionen som verdens førende inden for kunstig intelligens allerede år 2030. Regeringen bruger Big Data fra sociale medier, ansigtsgenkendelsesteknologier, -myndighedsregistre m.m. – både til ’forebyggende kriminalitetsbekæmpelse’ og til at forhåndsvurdere, hvilke tiltag der vil fremkalde mindst modstand i befolkningen.

Det er slet og ret alternativet til den demokratiske valghandling. Fjernt fra Danmark? Foreløbig har lektor Jørn Sønderholm for nylig modtaget fem millioner kroner fra Det Frie Forskningsråd til at forske i datadrevne alternativer til den demokratiske styreform.

Bogen 'De skjulte algoritmer - teknoantropologiske perspektiver' er redigeret af Klavs Birkholm og Niels Frølich, og den udkom tidligere i år på Djøf Forlag.

Klavs Birkholm

 

  • 2017- Direktør, tænketanken TeknoEtik
  • 2012- Ekstern lektor i teknoantropologi ved Aalborg Universitet (København)
  • 2008- Fast skribent ved Kristeligt Dagblad
  • 2007- Egen virksomhed med kurser, foredrag og rådgivning
  • 2003-2011 Medlem af Det Etiske Råd
  • 1997-2007 Vært og programredaktør, DR
  • 1993-1997 Redaktør, Dagbladet Information
  • 1990-1993 Journalist, DR
  • 1988-1989 Forstander, Ry Højskole
  • 1983-1986 Medlem af Regeringens Sikkerheds- og Nedrustningspolitiske Udvalg (SNU)
  • 1983-1987 Redaktør, Center for Freds- og Konfliktforskning, København
  • 1982-1983 Udenrigsredaktør, ’Politisk Revy’
  • 1970-1979 Assistent og lektor i europæisk litteraturhistorie ved Aarhus og Københavns universiteter

Kommentér
Del Twitter LinkedIn Facebook

Kommenter

Din mail-adresse vil ikke blive vist offentligt
Dette spørgsmål forhindrer spam i kommentarfeltet. Spam-robotter kan nemlig ikke regne, så de kan stoppes med let matematik.