Lovgivning skal bremse algoritmernes magt

17.1.2020

Linda Overgaard

Foto: Djøf

Hvis det danske demokrati skal overleve, er vi nødt til at vågne op og lave rammelovgivning, der kan beskytte vores rettigheder mod den digitale udvikling, mener Stine Bosse, formand for TechDK Kommissionen, som er klar med en ny rapport.

Falske nyheder og forvanskede videoklip spreder sig hurtigere og bredere end sandfærdige artikler. Derfor opfordrer den tech-kommission, som Djøf har nedsat, nu til at begrænse politisk reklame, så budskaber fx ikke baseres på ’likes’ på de sociale medier.

Og når meget af den offentlige debat er flyttet over på sociale medier som fx Facebook og Twitter, er det en stor udfordring for demokratiet, idet ganske få og store virksomheder via algoritmer beslutter, hvilket indhold den enkelte bliver præsenteret for – samtidig med at det bliver sværere at gennemskue, hvad der er sandt eller falsk, og hvad man kan stole på.

TechDK Kommissionens rapport nr. 2 handler om demokrati og zoomer bl.a. ind på begrebet mikromålretning. Det blev bredere kendt i forbindelse med Brexit-afstemningen i Storbritannien, hvor analysefirmaet Cambridge Analytica stod anklaget for at have modtaget data om 87 millioner Facebook-brugere uden deres udtrykkelige samtykke.

I forlængelse deraf konkluderede en britisk parlamentskomité, at mikromålretning og algoritmisk dataanalyse i politiske kampagner hindrer vælgernes ret til privatliv og fratager dem muligheden for frie og informerede valg.

Fik Stram Kurs hjælp af YouTube?

Forskere fra Oxford Internet Institute har påvist, at der er benyttet ’digitale påvirkningsagenter’ i forbindelse med demokratiske valg i 48 lande. Metoderne har både været bots (automatiserede profiler på sociale medier, red.), trolde i form af organiserede virkelige eller virtuelle kommentatorer samt målretning og optimering af søgemaskiner.

TechDK Kommissionen stiller i sin rapport spørgsmålet, om YouTube var med til at bane vejen for partiet Stram Kurs ved folketingsvalget i 2019. Partiets leder, Rasmus Paludan, rejste rundt i Danmark for at møde sine potentielle vælgere, og møderne blev uploadet på YouTube og set mellem 100.000 og 400.000 gange om dagen op til og under valget.

Ifølge rapporten fandt seerne især frem til videoerne, fordi YouTubes anbefalings-algoritme ledte dem derhen, og over 60 % af visningerne kom fra YouTubes 'se næste video'-algoritme, fra abonnementsfeedet og YouTubes startside, som sammensættes algoritmisk. Til sammenligning var 14 % af visningerne fra brugere, der selv havde søgt sig frem til videoerne.

Stine Bosse: ”Vågn op!”

Formand for Tech DK Kommissionen er den erfarne erhvervskvinde Stine Bosse, og for hende er det vigtigste i den nye rapport, at vi i Danmark er nødt til at vågne op og tænke i rammelovgivning, der kan sikre vore rettigheder i bredeste forstand.

For hende er den helt overordnede problemstilling, at hvis vi ikke vil ende med en de facto afskaffelse af demokratiet, så må vi gøre noget.

”Det går så ekstremt hurtigt nu i hele den digitale verden, at vi meget hurtigt kan komme til at tro, at vi bare må opgive at regulere. Det tror jeg måske er den største risiko lige nu – at vi bliver overvældet af, hvor fantastisk teknologien jo er til mange ting – men der er altså også en skyggeside, som vi er nødt til at gøre noget ved,” mener hun.

Som formand for kommissionen efterlyser hun en dybdegående debat og nogle regelsæt for, hvor langt man må gå i forhold til at påvirke borgere i nogle politiske retninger – og hvad sanktionen skal være, hvis man gør det alligevel. Er bøder fx nok?

Et andet vigtigt aspekt er, at vi skal kunne forstå, hvad der kommer ud af teknologien, og offentlige myndigheder skal kunne forklare borgerne, hvad der ligger bag en afgørelse og fx ikke blot sige: 'Jamen, jeg kan ikke forklare dig, hvorfor den her afgørelse kommer ud på den her måde, men det siger maskinen altså...'

Men hvor alvorlig er truslen mod demokratiet så? Til det svarer Stine Bosse, at hun ikke ønsker at lave skræmmekampagner, men at truslen er alvorlig nok til, at nogen bliver nødt til at reagere og finde ud af, hvad der er op og ned på problemstillingen. Og hun efterlyser, at Datatilsynet bliver stærkere, for nogen er nødt til at holde øje med, at reglerne for at færdes digitalt rent faktisk bliver overholdt.

”Når vi benytter os af kunstig intelligens, hvem sætter så rammerne for det? Er det bare fri leg?” spørger hun og tilføjer, at hvis Finanstilsynet ikke fandtes for den finansielle sektor, ville vi være nogenlunde i wild west-land¸ og at lidt af det samme skal til i forhold til det digitale område.

Er Datatilsynet da for svagt?

”Jeg vil nødig sige, at Datatilsynet er svagt, men jeg tror, at det har brug for langt flere muskler. Både en stærkere lovgivning at læne sig op af og nogle flere ressourcer til at holde øje med, at lovgivningen så også bliver opfyldt. Når vi benytter os af digitalisering og kunstig intelligens, også i den offentlige sektor, hvem sætter så rammerne, hvis der ikke er et tilsyn med tilstrækkelige ressourcer”, siger Stine Bosse.

Hvad er så det værste, der kan ske med demokratiet?

”Vi risikerer at afskaffe demokratiet, hvis det ender med, at vi parkerer den demokratiske samtale i alle mulige hurtigmedier. Sådan kalder jeg de sociale medier, for jeg synes ikke, de er så sociale, når det kommer til stykket. Selv om vi godt ved, at alt bliver mikro-targeted, og vi kun får det, vi skal have, hvordan ved vi så, hvad der er rigtigt og forkert?” spørger Stine Bosse.

Hun henviser også til, at der jo er en grund til, at man ikke må lave tv-reklamer med politiske budskaber. Her må man ikke bare købe sig til magt, men for hurtigmedierne er alt tilladt. Derfor mener hun, det er nødvendigt at tage en diskussion af, hvordan de ting hænger sammen.

Men er det realistisk at forhindre de sociale medier i at begrænse demokratiet?

”Det er ultimativt vigtigt, at vi begynder at tale om det og uddanner børn og unge til at kunne se bag om de her ting. Og jeg tror faktisk, at der kan gennemføres nogle mere tydelige politiske tiltag, i hvert fald på europæisk plan. Vi bliver nødt til at have et værn imod, at man opfører sig som Cambridge Analytica sammen med Facebook, og det tror jeg faktisk, at politikerne kommer til at kigge på”, siger Stine Bosse.

Men Danmark er jo lille sammenlignet med de store amerikanske techgiganter….

”Ja, men jeg tror på, at mit demokratiske fædreland kan bidrage og være med til at se på nogle initiativer og løfte det op på europæisk plan. Og så kan vi håbe på, at andre demokratier har lyst til at følge efter. Vi må gøre det, vi kan – jo hurtigere, jo bedre – og håbe på, at vi efterhånden kan gøre noget sammen med andre”, siger Stine Bosse.

TechDK Kommissionen er nedsat af Djøf, men arbejder uafhængigt. Eksperterne i kommissionen har til opgave at komme med anbefalinger, som kan bruges af lovgiverne, samt at pege på hvordan det datadrevne samfund kan fungere med respekt for demokratiets grundprincipper.

Alle kommissionens anbefalinger i rapport nr. 2

Kontrollér algoritmer ligesom offentligt ansatte
Giv borgerne indsigt i data, som ligger til grund for en afgørelse
Start uddannelses- og udviklingscentre for datadreven offentlig forvaltning
Dataombudsmanden skal have et slagkraftigt rejsehold
Tech-sektoren skal forpligtes til at overholde menneskerettighederne
Skab transparens om private aktørers data i velfærds-teknologier
Harmonisér regler for politisk reklame
Styrk public service-medier
Skab transparent samarbejde mellem sociale medier, forskere og journalister
Begræns mikromålrettet politisk reklame
Mere forskning i hybridkrig og internetpropaganda, finansieret af fremmede stater
Internetpropaganda skal på skoleskemaet
Grov overtrædelse af databeskyttelsesloven skal straffes med fængsel
Danmark skal lave langsigtede og bæredygtige tech-investeringer
Udbudsreglerne for offentlige udbud skal strammes op
Virksomheder, der er baseret på en overvågnings-kapitalistisk forretningsmodel, skal screenes for bl.a. miljømæssig og social påvirkning
Nye virksomheder skal formulere en samfundsambition

Tidligere artikler og baggrund om Tech DK Kommissionen

Tech DK Kommissionens medlemmer

Stine Bosse, formand, erhvervsleder
Thomas Høgenhaven, næstformand, ph.d. og iværksætter
Lea Korsgaard, redaktør for Zetland
Stine Carsten Kendal, adm. direktør for Dagbladet Information
Philipp Schröder, professor i økonomi på Aarhus Universitet
Mikkel Flyverbom, professor i kommunikation og digitale forandringer på CBS
Merete Eldrup, tidl. adm. direktør for TV2
Henrik Funder, formand for Djøf Privat
Vincent F. Hendricks, professor i filosofi
Camilla Mehlsen, medieforsker
Imran Rashid, speciallæge i almen medicin og forfatter til bl.a. bogen ’SLUK - kunsten at overleve i en digital verden’
Thomas Terney, konsulent og forfatter med speciale i kunstig intelligens
Thomas Bolander, lektor ved DTU Compute
Marie Louise Gørvild, direktør for Techfestival
Andreas Wester Juni, selvstændig konsulent
Jacob Mchangama, direktør og stifter af Justitia
Torben M. Andersen, professor i økonomi på Aarhus Universitet